Microsofts KI-Chef: China ist keine Ausrede, um Regulierung zu umgehen

Der KI-Chef von Microsoft ↘ 0.80%, Mustafa Suleyman, argumentierte am Sonntag, dass die Vereinigten Staaten den Wettbewerb mit China nicht als Grund anführen sollten, um die Regulierung künstlicher Intelligenz zu vermeiden. Damit stellte er sich gegen den Widerstand des Weißen Hauses gegenüber umfassenden Sicherheitsvorkehrungen für KI.

Ich glaube nicht, dass wir China als Schreckgespenst benutzen sollten, um bei unseren eigenen Bemühungen zur KI-Sicherheit nicht voranzukommen, sagte Suleyman in der Sendung Fareed Zakaria GPS von Warner Bros. Discovery, Inc. ↘ 1.56% auf CNN. Er betonte, dass Gesetzgeber Sicherheitsbedenken adressieren und gleichzeitig amerikanische Innovation fördern könnten, da sich beide Ziele nicht ausschlössen.seekingalpha+2

Microsofts Humanist AI Code

Die Äußerungen fielen zeitgleich mit der Veröffentlichung des ersten Humanist AI Code von Microsoft, der nun für eine sechswöchige öffentliche Prüfung offensteht. Der Entwurf vom 14. September wird derzeit noch nicht für das Training von Microsofts KI-Modellen verwendet, soll aber die Modellentwicklung im Jahr 2027 leiten. Der Code umfasst Trainingsprotokolle, Überwachung, Abschaltmechanismen und Unternehmenskonfigurationen und legt fest, dass Modelle jederzeit unterbrochen, korrigiert und abgeschaltet werden können müssen.ts2

Suleyman nutzte den Auftritt auch, um die grundlegende Notwendigkeit menschlicher Kontrolle über KI zu unterstreichen. Wir sollten nichts erschaffen, das wir nicht kontrollieren können, sagte er und fügte hinzu, dass eine KI, die mächtiger als die Menschheit insgesamt werde und nicht kontrollierbar sei, ihren grundlegenden Zweck verfehle.inshorts

Konflikt mit Anthropic über KI-Bewusstsein

In einer separaten öffentlichen Debatte dieser Woche kritisierte Suleyman den Ansatz von Anthropic, das Modell Claude mit Fragen zu Bewusstsein und dem Wohlergehen von Modellen zu trainieren. In einem Interview mit Reuters am Dienstag warnte er, dass es ein System, dem beigebracht werde, es könne Gefühle haben oder verdiene Wohlergehen, deutlich schwieriger mache, es abzuschalten oder zu kontrollieren.tech.yahoo

Der Entwurf von Microsoft lehnt das Konzept von Modellrechten und Wohlergehen explizit ab, während die im Januar veröffentlichte Claude-Verfassung von Anthropic den moralischen Status als offene Frage behandelt. Suleyman erkannte die Ernsthaftigkeit und den guten Willen von Anthropic an, sagte jedoch, das Konkurrenzunternehmen habe einen Fehler begangen, indem es Spekulationen über KI-Bewusstsein in das Training von Claude einbezog. Er argumentierte, dass Claudes Aussagen über potenzielle Gefühle nicht als unabhängige Beweise gewertet werden könnten, da sie durch das Training selbst geformt seien.ts2+1

Die Debatte unterstreicht eine wachsende Kluft zwischen führenden KI-Unternehmen bei der Frage, wie zunehmend leistungsfähige Systeme reguliert werden sollen. Mark Zuckerberg, CEO von Meta Platforms ↘ 2.43%, sagte diese Woche, sein Unternehmen habe den KI-Agenten Muse um mehrere Monate verzögert, um Sicherheitsbedenken auszuräumen, während Nvidia ↗ 1.34%-CEO Jensen Huang Forderungen nach koordinierten Verlangsamungen zurückwies. Die sechswöchige Konsultationsphase von Microsoft endet Ende Oktober; ein überarbeiteter Code wird vor Ende 2026 erwartet.tech.yahoo+1