DeepSeek informiert UN-Sicherheitsrat über KI-Risiken

Das chinesische Startup für künstliche Intelligenz, DeepSeek, wird zu den Unternehmen gehören, die den UN-Sicherheitsrat über die Risiken durch KI informieren, berichtete Reuters am Dienstag. Es ist ein seltener Auftritt eines chinesischen Technologieunternehmens in einem der weltweit wichtigsten Foren für internationale Sicherheit.reuters

Der 15-köpfige Sicherheitsrat tritt am Mittwoch, den 23. September, zusammen, um über KI und internationale Sicherheit zu beraten, während sich Staats- und Regierungschefs in New York zur jährlichen UN-Generalversammlung versammeln. OpenAI-CEO Sam Altman plant, bei dem Treffen zu sprechen, bei dem Diplomaten auch die Teilnahme hochrangiger Vertreter von Anthropic erwarten. DeepSeek und andere chinesische KI-Firmen, darunter Moonshot, wurden eingeladen, Stellungnahmen abzugeben, obwohl DeepSeek-Gründer Liang Wenfeng laut einer Quelle, die darauf hinwies, dass die Pläne noch nicht endgültig seien, nicht plant teilzunehmen.cnn+1

Debatte über KI-Verlangsamung spaltet Washington und Peking

Das Treffen findet Wochen nachdem mehrere Führungskräfte der KI-Branche eine koordinierte Verlangsamung bei der Entwicklung immer leistungsfähigerer KI-Systeme gefordert haben, statt. Sie warnten, dass diese Systeme bald eigenständig lernen und sich der menschlichen Kontrolle entziehen könnten. UN-Generalsekretär Antonio Guterres warnte die Staats- und Regierungschefs letzte Woche, dass die schnell fortschreitende KI Risiken berge, die nicht ignoriert werden dürften, was ihn in einen Gegensatz zu Präsident Donald Trump brachte, der argumentierte, dass bestehende Sicherheitsvorkehrungen ausreichten.straitstimes+1

Chinesische Staatsmedien haben die Forderungen nach einer KI-Verlangsamung als "Spielbuch des Kalten Krieges" abgetan, das darauf abziele, Washingtons Dominanz bei Spitzentechnologien zu bewahren. Im Gegensatz zu den Leitern amerikanischer Labore haben die Chefs der führenden chinesischen Modellentwickler selten öffentlich die Möglichkeit thematisiert, dass immer leistungsfähigere KI-Systeme Menschen täuschen oder sich der Kontrolle entziehen könnten.reuters

US-chinesische KI-Sicherheitsgespräche gewinnen an Dynamik

Die Sitzung des Sicherheitsrates findet inmitten breiterer diplomatischer Aktivitäten zum Thema KI statt. Hochrangige US-amerikanische und chinesische Beamte einigten sich darauf, weitere Gespräche zur KI-Sicherheit zu führen, sagte Finanzminister Scott Bessent am Sonntag nach einem Treffen mit dem chinesischen Vizepremier He Lifeng in New York. Bessent erklärte, Washington habe einen Meldemechanismus für KI-Vorfälle vorgeschlagen, die so schwerwiegend seien, dass sie nationale Sicherheitsbedenken aufwerfen könnten.bbc

Die Trump-Regierung beruft laut CNN am Mittwoch am Rande der Generalversammlung eine separate hochrangige Veranstaltung zum Thema KI ein. Sowohl die Sitzung des Sicherheitsrates als auch die von den USA ausgerichtete Veranstaltung dienen als Auftakt für das geplante Treffen zwischen Trump und dem chinesischen Präsidenten Xi Jinping später in dieser Woche in Washington, bei dem KI ein zentrales Thema sein dürfte.thehill+1

Der Sicherheitsrat tagte erstmals 2023 zu KI-Risiken, als China warnte, die Technologie dürfe nicht zu einem "durchgehenden Pferd" werden, und die USA vor ihrem Einsatz zur Zensur oder Unterdrückung von Menschen warnten.reuters