Shane Legg, einer der drei Mitgründer von Google Alphabet Inc. DeepMind, warnte am Mittwoch davor, dass sich schnell entwickelnde künstliche Intelligenz die Sicherheitskontrollen, die sie steuern sollen, nicht überholen darf. Er kündigte die Gründung des DeepMind Institute an, einer neuen…
Shane Legg, leitender AGI-Wissenschaftler bei Google DeepMind, hat das DeepMind Institute gegründet, um die technische AGI-Forschung des Labors der Öffentlichkeit zugänglich zu machen, berichtet die Financial Times.ft
Die Warnung erfolgt in einer Zeit, in der KI-Agenten zunehmend Software schreiben und beim Aufbau anderer KI-Systeme helfen, was die Sorge verstärkt, dass rekursive Selbstverbesserung die Sicherheitsvorkehrungen überholen könnte.reuters
Das Institut startet inmitten einer umfassenden Umstrukturierung der Führungsebene bei DeepMind, bei der Demis Hassabis in eine Rolle als Vorstandsvorsitzender wechselt und ein neuer operativer Chef das Tagesgeschäft übernimmt.studioglobal