DeepMind-Mitgründer startet AGI-Institut mit Sicherheitswarnung

Shane Legg, einer der drei Mitgründer von Google Alphabet Inc. ↗ 0.78% DeepMind, warnte am Mittwoch davor, dass sich schnell entwickelnde künstliche Intelligenz die Sicherheitskontrollen, die sie steuern sollen, nicht überholen darf. Er kündigte die Gründung des DeepMind Institute an, einer neuen Einrichtung, die die Auswirkungen künstlicher allgemeiner Intelligenz (AGI) erforschen soll.reuters+1

Das Institut soll die öffentliche Debatte über AGI "anheben", indem es die technische Forschung des Unternehmens einem breiteren Publikum zugänglich macht, sagte Legg in einem Interview mit der Financial Times. Die Sorge von KI-Unternehmen vor rekursiver Selbstverbesserung ist gewachsen, da immer leistungsfähigere KI-Agenten die Fähigkeit zeigen, Software zu schreiben, autonome Aufgaben auszuführen und bei der Entwicklung anderer KI-Systeme zu helfen.ft+1

Ein Gründer kehrt zu seiner Mission zurück

Legg, der den Titel des leitenden AGI-Wissenschaftlers bei Google DeepMind trägt, ist seit langem eine der sicherheitsorientiertesten Stimmen innerhalb des Labors. Er gründete DeepMind in London zusammen mit Demis Hassabis und Mustafa Suleyman mit dem erklärten Ziel, AGI zu erreichen. Im Januar sagte Legg, er sehe eine 50-prozentige Chance, bis 2028 das zu erreichen, was er als "minimale AGI" bezeichnet – bei der KI kognitive Standardaufgaben von Menschen übernimmt.observer

Die Gründung des DeepMind Institute erfolgt in einer turbulenten Zeit für die Organisation. Im August kündigte Alphabet-CEO Sundar Pichai eine umfassende Umstrukturierung der Führungsebene an: Hassabis zog sich aus dem Tagesgeschäft zurück, um Vorstandsvorsitzender von Google DeepMind und leitender Wissenschaftler von Alphabet zu werden, während der langjährige CTO Koray Kavukcuoglu zum Senior Vice President befördert wurde, der die Einheit leitet. Jeff Dean, Googles leitender Wissenschaftler seit 27 Jahren, verließ das Unternehmen, um eine neue, auf KI ausgerichtete gemeinnützige Körperschaft mitzugründen.studioglobal+1

Breitere Expansion und Fokus auf Genomik

Google DeepMind hat seine Forschungsaktivitäten auch über die Kernentwicklung von KI hinaus ausgeweitet. Anfang des Jahres ging das Labor eine Partnerschaft mit dem Wellcome Sanger Institute und Google.org ein, um ein KI-Genomik-Konsortium zu starten. Dabei verpflichten sich Google DeepMind und Google.org zu einer Investition von 5 Millionen Dollar pro Jahr über fünf Jahre, um hochwertige, KI-fähige genomische Datensätze aufzubauen.sanger+1

Die drei ursprünglichen DeepMind-Gründer nehmen heute sehr unterschiedliche Positionen in der KI-Landschaft ein: Hassabis verbindet Spitzenforschung und Arzneimittelforschung durch Isomorphic Labs; Suleyman leitet Microsoft ↘ 0.99% AI und dessen Verbraucherprodukte; und Legg konzentriert sich weiterhin auf die Sicherheitsfragen, die die Gründung des Labors vor mehr als einem Jahrzehnt motiviert haben.observer