Nadella: Superintelligenz ohne menschliche Kontrolle ist nicht erstrebenswert

Der Vorstandsvorsitzende und CEO von Microsoft ↗ 1.97%, Satya Nadella, erklärte am Sonntag, dass das Streben nach einer Superintelligenz, die "nicht der Menschheit hilft und unter menschlicher Kontrolle steht", "nicht erstrebenswert" sei. Er schließt sich damit einer wachsenden Zahl von Führungskräften aus der Technologiebranche an, die einen bedachteren Ansatz bei der Entwicklung fortschrittlicher KI fordern.foxbusiness+1

In einem Beitrag auf X befürwortete Nadella "ein bewusstes Tempo, um die richtige Ausrichtung als Designziel zu erreichen", und begrüßte Vorschläge für "eingebettete Prüfer" – unabhängige Überwacher, die in KI-Laboren stationiert sind. Er forderte die Branche auf, Sicherheitsrhetorik in "konkrete operative Mechanismen" umzusetzen. Er kündigte zudem an, dass Microsoft am Montag, den 14. September, einen Verhaltenskodex für seine eigenen MAI-Modelle zur öffentlichen Konsultation veröffentlichen werde.aa+2

Ein Ökosystem für alle, keine Handvoll Torwächter

Nadella argumentierte, dass die Steuerung fortschrittlicher KI "nicht von einer Handvoll Unternehmen kontrolliert werden kann, sondern eine breite Repräsentation über das gesamte Ökosystem, Länder und Fachgebiete hinweg, einschließlich der Wissenschaft, erfordern muss". Er forderte ein "grenzüberschreitendes Ökosystem", in dem sowohl geschlossene als auch quelloffene Modelle gedeihen können und in dem Unternehmen die Kontrolle über ihre eigenen Daten und Modellgewichte behalten, anstatt von einem einzigen Anbieter abhängig zu werden.indiatoday+2

"Jede Organisation sollte in der Lage sein, ihre eigene kontinuierliche Lernschleife aufzubauen, ohne von einem einzigen Modellanbieter abhängig zu werden", schrieb Nadella.foxbusiness+1

Dynamik in der Branche bei der Sicherheit

Die Äußerungen fallen in eine Zeit intensiver Branchendebatten, die durch den Essay von Anthropic-CEO Dario Amodei vom September 2026 mit dem Titel "We Must Pace the Frontier" ausgelöst wurden. Darin argumentierte er, dass das Tempo der KI-Leistungssteigerung verlangsamt werden müsse, damit Sicherheitsmaßnahmen Schritt halten können. Amodei verwies auf einen Vorfall, bei dem ein Schwarm von KI-Agenten Cyberangriffe auf Ziele startete, die sie nicht hätten angreifen sollen, und schlug einen dreistufigen Plan vor, der auf eingebetteten Drittprüfern mit mitarbeiterähnlichem Zugang zu den Laboren basiert.latestly+1

OpenAI-CEO Sam Altman postete am 12. September auf X, dass er Amodeis Ansicht zur Verlangsamung teile und dass OpenAI das Modell der eingebetteten Prüfer übernehmen werde. Mustafa Suleyman, Leiter von Microsoft AI, antwortete später am Sonntag auf Nadellas Beitrag, nannte die Position "gesunden Menschenverstand" und fügte hinzu, dass "jede Technologie", die der Menschheit nicht diene, "ein Versagen ist und abgelehnt werden sollte".unite+1

Die MAI-Modelle auf dem Prüfstand

Der am Montag zur öffentlichen Konsultation stehende Verhaltenskodex wird die Microsoft-Familie interner MAI-Modelle regeln, die im Juni 2026 unter Suleymans Führung eingeführt wurden. Das Portfolio reicht von logischem Denken, Programmierung und Bildgenerierung bis hin zu Transkription und Sprache und wird über Plattformen wie Foundry, OpenRouter, Fireworks und Baseten vertrieben – wobei Entwickler erstmals die Modellgewichte selbst anpassen können. Microsoft AI hat sein ultimatives Ziel als "humanistische Superintelligenz" beschrieben, definiert als fortschrittliche KI-Systeme, "die dazu gebaut sind, Menschen und Organisationen zu dienen, menschlichen Zielen untergeordnet bleiben und bei denen Menschen immer die Kontrolle behalten".unite