Microsoft-Chef Nadella: KI-Agenten sind ein Insider-Risiko

Microsoft-CEO Satya Nadella möchte, dass KI-Agenten deutlich mehr Aufgaben auf PCs übernehmen, warnt jedoch gleichzeitig davor, ihnen blind zu vertrauen. In einem exklusiven Interview mit NBC News, das am Donnerstag veröffentlicht wurde, betonte er, dass Windows das sicherste und leistungsfähigste Betriebssystem für KI-Agenten sein müsse, auch wenn er auf die damit verbundenen Risiken hinwies.nbcnews.com

Das Interview folgt auf einen Beitrag, den Nadella am Samstag, den 10. Oktober, auf X veröffentlichte. Darin forderte er, dass fortschrittliche KI mit Sicherheitsbarrieren, unabhängigen Kontrollen und einer "Notbremse" ausgestattet werden müsse, die es autorisierten Personen ermöglicht, ein Modell mitten in einer Aufgabe anzuhalten oder zu stoppen.bizjournals.com

Vertraue dem Modell am wenigsten

"Die Behandlung von geschlossenen und offenen Frontier-Modellen als Insider-Risiko ist ein Weg, ein solches System aufzubauen", schrieb Nadella. Er argumentierte, dass Unternehmen das Verhalten von Modellen nicht so einfach auf spezifischen Code zurückführen könnten wie bei herkömmlicher Software. "Und doch setzen wir diese komplexen Agentensysteme und Modelle ein, die Zugriff auf unsere sensibelsten Daten haben", sagte er.aninews.in+1

"Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an isolieren", schrieb er und fügte hinzu, dass fortschrittlichere Modelle eine Inneslutungstechnologie benötigen, die in der Branche standardisiert werden sollte. Er betonte, dass sich Unternehmen nicht allein auf die Versprechen der Modellentwickler verlassen dürften. Stattdessen sollten die Kontrollen darüber, worauf ein Modell zugreifen und was es tun kann, außerhalb des Modells selbst liegen.bloomberg.com+2

Sein Rahmenkonzept umfasst die Nutzung mehrerer Modelle, die Führung eines für Menschen lesbaren Protokolls über die Aktivitäten eines Modells, kontinuierliche Systemtests, unabhängige Kontrollen und Audits, Sicherheitsbarrieren sowie die Offenlegung von Vorfällen.cnbc.com

Windows als Agenten-Plattform

Nadellas Warnungen fallen in eine Zeit, in der Microsoft Sicherheitswerkzeuge für Agenten direkt in Windows integriert. Auf einem Windows- und Surface-Event in San Francisco am Mittwoch, den 7. Oktober, stellte das Unternehmen Microsoft Execution Containers vor, die als "richtlinienbasierte Sicherheitsbarrieren für KI-Agenten" beschrieben werden. Wie The Business Journals berichtete, kommt Nadellas Forderung nach Schutzmaßnahmen zu einem Zeitpunkt, an dem Microsoft seine eigene Familie von KI-Modellen weiter vorantreibt.bizjournals.com+1

Breitere Sicherheitsdebatte

Microsoft-Präsident Brad Smith hat ähnliche Argumente vorgebracht. Er sagte gegenüber ITV News, dass KI "weniger reguliert ist als Ihre Waschmaschine", und wiederholte in einem BBC-Interview die Forderung nach Notbremsen. Die Idee hat nach einer Reihe von Cyberangriffen und anderen Vorfällen im Zusammenhang mit Frontier-Modellen an Unterstützung gewonnen. Präsident Donald Trump hingegen hat Bedenken, dass KI die Menschheit bedrohen könnte, wiederholt zurückgewiesen und betont, dass man China voraus sein müsse.independent.co.uk+1

Nadella fasste seine Position wie folgt zusammen: "Das vertrauenswürdigste Superintelligenz-System wird nicht dasjenige sein, dessen Modell wir am meisten vertrauen. Es wird dasjenige sein, das es uns ermöglicht, dem Modell am wenigsten zu vertrauen".cnbc.com