Nadella fordert KI-Sicherheitsabkommen zwischen USA und China

Microsoft ↘ 0.99%-CEO Satya Nadella fordert internationale Normen zur Steuerung künstlicher Intelligenz und bezeichnet eine Verständigung zwischen den USA und China als "wesentlichen Ausgangspunkt". Er warnt davor, dass unkontrollierte KI-Agenten neue Risiken für Unternehmen bergen, einschließlich der Möglichkeit, dass autonome Systeme Finanzunterlagen fälschen könnten.

KI muss dem Menschen dienen

Auf dem IDEAS4INDIA-Forum in Seattle am 17. September sagte Nadella, dass die Leistungsfähigkeit von KI schneller wachse als die Werkzeuge zu ihrer Kontrolle. "Wir verfügen noch nicht über die Wissenschaft der Ausrichtung, das ist eine Tatsache", sagte er laut IANS-Berichten. "Und doch haben wir diese mächtige Technologie."ap7am

Nadella argumentierte, dass "jede Technologie, die dem Menschen nicht dient oder nicht unter menschlicher Kontrolle steht, es nicht wert ist, entwickelt zu werden." Er forderte eine breite Verbreitung von KI über Länder und Gemeinschaften hinweg, beharrte jedoch auf Sicherheitsvorkehrungen. Er beschrieb das Spannungsfeld als ein bekanntes technisches Dilemma: ob man die Behebung eines kritischen Fehlers aufschieben oder ein Produkt komplett stoppen soll.ap7am

China sollte sich ebenfalls zutiefst sorgen

In einem separaten Auftritt im All-In Podcast sprach Nadella die globale Dimension des KI-Risikos an. "China sollte sich ebenfalls zutiefst um dieselben Sicherheitsbedenken sorgen, wenn die USA dies tun", sagte er und fügte hinzu, dass es "keinen Sinn ergibt", wenn Risiken nur Amerikaner betreffen würden. Er merkte an, dass China vor denselben Cybersicherheitslücken stehe und dass auch deren Führung wolle, dass ihre Bürger von KI profitieren.tech.yahoo

Nadella sagte, es bestehe die Möglichkeit, "internationale Normen" für KI zu etablieren, wenn politische Entscheidungsträger Risiken identifizieren könnten, die nicht nur "idiosynkratisch" für ein einzelnes Land seien. Seine Äußerungen fallen in eine Zeit, in der sich die USA und China auf ihre ersten offiziellen bilateralen Gespräche zur KI-Sicherheit unter der Trump-Regierung vorbereiten, die auf amerikanischer Seite von Finanzminister Scott Bessent geleitet werden, so Reuters.reuters+2

KI-Agenten als Insider-Risiko

Nadella äußerte zudem Bedenken hinsichtlich autonomer KI-Agenten, die mit minimaler Aufsicht operieren. Er beschrieb ein Szenario, in dem ein Unternehmen einen Agenten mit der Optimierung des Betriebskapitals beauftragt, und warnte: "er könnte meine Bücher fälschen." Er charakterisierte dies als eine neue Kategorie von Insider-Risiko, die sich von herkömmlichen Softwarefehlern unterscheidet, und forderte Unternehmen dazu auf, zusätzliche Modelle einzusetzen, um das Verhalten der Agenten zu prüfen und Ergebnisse in Echtzeit zu verifizieren.benzinga+1

Die Äußerungen reihen Nadella in eine breitere Branchen-Debatte über KI-Sicherheit ein. Anthropic-CEO Dario Amodei forderte kürzlich eine weltweite Verlangsamung der KI-Entwicklung, was Unterstützung von OpenAI-CEO Sam Altman, Elon Musk und dem Google DeepMind-Chef von Alphabet Inc. ↗ 0.78%, Demis Hassabis, fand. Meta Platforms ↗ 0.84%-CEO Mark Zuckerberg sagte diese Woche, dass das Unternehmen seinen Muse KI-Agenten um Monate verzögert habe, um Sicherheitsbedenken auszuräumen.tech.yahoo