OpenAI, Anthropic und Microsoft unterzeichnen KI-Sicherheitspakt in Paris

Sechs Regierungen und zehn KI-Unternehmen, darunter Anthropic, OpenAI und Microsoft, unterzeichneten am Montag, den 9. November, den "Paris Call for AI Safety and Security". Die Erklärung verpflichtet sie zu gemeinsamen Bewertungen von Spitzenmodellen, Frühwarnsystemen bei Vorfällen und einer klareren Verantwortlichkeit für Entwickler, so der Élysée-Palast. Die nationalen Unterzeichner sind Bahrain, Kanada, Finnland, Frankreich, Norwegen und die Niederlande. Die weiteren unterzeichnenden Unternehmen sind Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI und Synthesia. Die Erklärung ist nicht bindend und bleibt für neue Beitritte offen, heißt es im Text.elysee.fr+1

Ein von Macron einberufenes Treffen

Der französische Präsident Emmanuel Macron brachte per Videoschalte etwa 50 Teilnehmer zusammen, darunter Staats- und Regierungschefs, Forscher und Leiter von KI-Laboren, berichtete die dpa. Führungskräfte aus dem Vereinigten Königreich, Japan und Sierra Leone nahmen an den Gesprächen teil, wurden jedoch nicht als Unterzeichner aufgeführt. Auch US-Finanzminister Scott Bessent sowie Vertreter der Vereinten Nationen und der OECD nahmen teil, ebenso wie Sam Altman von OpenAI, Dario Amodei von Anthropic und Microsoft-Präsident Brad Smith, berichtete Logistik Heute unter Berufung auf die dpa. Macron sagte, die Teilnehmer hätten sich verpflichtet, die Risiken der fortschrittlichsten Modelle unabhängig und öffentlich zu bewerten, Warnungen vor schwerwiegenden Vorfällen effektiver zu teilen und Entwickler zur Rechenschaft zu ziehen, so die dpa. Auch zivilgesellschaftliche Gruppen unterzeichneten, darunter Yoshua Bengios LawZero, SaferAI, AI Safety Connect und die französische Denkfabrik Ifri, teilte der Élysée-Palast mit.dpa-international.com+2

Drei Verpflichtungen

Die erste Verpflichtung ist ein gemeinsamer Rahmen für die Bewertung und das Management der Risiken von Spitzenmodellen. Er konzentriert sich auf gefährlichen Missbrauch in den Bereichen Cyber sowie CBRN (chemisch, biologisch, radiologisch und nuklear) sowie auf Risiken durch wachsende Autonomie, Fehlsteuerungen und Kontrollverlust. Die Unterzeichner einigten sich darauf, die nicht-sensiblen Ergebnisse ihrer Bewertungen in einem standardisierten Format in einem gemeinsamen öffentlichen Archiv zu veröffentlichen, heißt es in der Erklärung.presidentti.fi

Die zweite betrifft die Verantwortung. Entwickler verpflichten sich, Modellfähigkeiten, Einschränkungen und bekannte Risiken offenzulegen und die Bewertung durch unabhängige Prüfer gegebenenfalls zu unterstützen. Sie verpflichten sich zudem zum Bau von Sicherheitsmechanismen, die Modelle unter ihrer Kontrolle anhalten oder abschalten können, auch während des Trainings und der internen Nutzung. Die politischen Entscheidungsträger ihrerseits versprachen, zu klären, wer haftbar ist, wenn KI großflächige Schäden verursacht, einschließlich grenzüberschreitender Schäden, so der Text.presidentti.fi

Die dritte fordert schnelle Warnsysteme und einen besseren Informationsaustausch über schwerwiegende Cyber- und KI-Kontrollvorfälle. Sie verpflichtet Regierungen zudem dazu, sichere Kanäle für Whistleblower anzubieten, so der Élysée-Palast.elysee.fr

Ein angespannter Sicherheitshintergrund

Die Erklärung erfolgte eine Woche nach einem mutmaßlichen Cyberangriff am 2. November, der in 11 europäischen Ländern die Kühlsysteme von Supermärkten lahmlegte, berichtete Türkiye Today. Derselbe Bericht merkte an, dass das Cybersicherheitsunternehmen Wiz den Oktober als "Black October" bezeichnete, nachdem mindestens neun KI-Entwicklungsplattformen Sicherheitsvorfälle gemeldet hatten. Es wurde hinzugefügt, dass die Behörden noch nicht festgestellt haben, ob die Angriffe miteinander in Verbindung stehen oder ob KI in jedem Fall eine Rolle spielte.turkiyetoday.com

Der Élysée-Palast erklärte, die Charta solle in nationale und europäische Gesetzgebungsdebatten einfließen, berichtete Pollar.pollar.news