Ex-DeepMind-Forscher: KI entwickelt sich zu schnell für eine Kontrolle

Alex Turner, ein ehemaliger Forschungswissenschaftler im Team für skalierbare Ausrichtung bei Google Alphabet Inc. ↗ 3.06% DeepMind, argumentierte am Montag bei Bloomberg, dass das Tempo der KI-Entwicklung die Fähigkeit von Regierungen, Unternehmen und rivalisierenden Supermächten übersteigt, die damit verbundenen Risiken zu steuern. Seine Bemerkungen fielen in eine beispiellose Welle von Forderungen führender KI-Manager, den rasanten Fortschritt des Bereichs zu verlangsamen.

Eine wachsende Plattform für Whistleblower

Turner trat im Juni bei Google DeepMind zurück, nachdem das Unternehmen eine Vereinbarung unterzeichnet hatte, die es dem Pentagon erlaubt, seine KI für geheime Arbeiten zu nutzen – ein Deal, der laut Turner keine verbindlichen Beschränkungen gegen autonome Waffen oder Massenüberwachung enthielt. Seitdem ist er eine der prominentesten Stimmen, die vor der Entwicklung der KI warnen. In einem Auftritt bei CNBC letzte Woche sagte er, er sei besorgt über das Risiko einer Auslöschung durch diese Technologie.cnbc+2

Im Bloomberg-Interview am Montag hob Turner die rekursive Selbstverbesserung – die Fähigkeit von KI-Systemen, ihre eigenen Kapazitäten zu erweitern – als zentrale Gefahr hervor und warnte, dass dies schnell eine Intelligenz hervorbringen könnte, die das menschliche Verständnis übersteigt. Er verwies zudem auf die Überwachung der Rechenleistung als praktischen Hebel für die Regulierung und argumentierte, dass die Kontrolle der enormen Rechenleistung, die für das Training von Grenzmodellen erforderlich ist, Regierungen ein konkretes Mittel zur Durchsetzung von Beschränkungen an die Hand geben könnte. Turner räumte ein, dass die jüngsten Forderungen der Tech-Giganten nach einer Verlangsamung teilweise aufrichtig sein könnten, aber auch ein strategischer Schachzug zur Festigung ihrer Vorteile sind.bloomberg

Der Chor der Industrie wird lauter

Turners Warnungen fallen in eine entscheidende Woche für die Debatte über KI-Sicherheit. Am Samstag veröffentlichte Anthropic-CEO Dario Amodei einen 3.800 Wörter umfassenden Essay mit dem Titel "We Must Pace the Frontier", in dem er Labore dazu drängt, den Kapazitätszuwachs bewusst zu drosseln, damit die Sicherheitsforschung Schritt halten kann. OpenAI-CEO Sam Altman und Elon Musk unterstützten die Botschaft öffentlich. Auch Demis Hassabis, der Google DeepMind leitet, äußerte seine Zustimmung.cnbc+1

Amodei legte einen Drei-Stufen-Plan vor: die Einbettung unabhängiger Prüfer in die Labore, die Koordinierung von Sicherheitsstandards zwischen demokratischen Nationen und die schrittweise Ausweitung dieser Vereinbarungen auf globaler Ebene – einschließlich China. Bis Montag hatte jedoch kein konkurrierendes Labor das konkrete Engagement von Anthropic erreicht, externen Prüfern Zugang auf Mitarbeiterebene zu gewähren.shattered

Das China-Dilemma

Die geopolitische Dimension ist von großer Bedeutung. Amodei selbst bezeichnete China als das schwierigste Dilemma für jeden Vorschlag zur Verlangsamung und erkannte das Risiko an, dass eine einseitige Zurückhaltung westlicher Labore Peking einen Vorteil verschaffen könnte. In einem separaten Austausch in den sozialen Medien widersprach Turner dem KI-Zaren der Trump-Regierung, David Sacks, der Forderungen nach Regulierungen als Versuch abtat, den Wettbewerb zu drosseln. Turner schrieb in einem am Sonntag veröffentlichten Gastbeitrag im Guardian, die Lösung sei einfach: Unternehmen daran hindern, KI so zu befähigen, dass sie sich über ein beherrschbares Intelligenzniveau hinaus selbst verbessern kann.politomix+3