Altman und Amodei informieren UN-Sicherheitsrat am Mittwoch über KI

Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman werden am Mittwoch den UN-Sicherheitsrat in einer Sitzung über die Zukunft der künstlichen Intelligenz informieren, während das Thema die Diskussionen bei der jährlichen UN-Generalversammlung in New York dominiert.

Eine hochkarätige Ratssitzung

Das Treffen, das von Frankreich organisiert wird, das derzeit den rotierenden Vorsitz des 15-köpfigen Rates innehat, umfasst laut Bloomberg auch Beiträge von Yoshua Bengio, dem Co-Vorsitzenden des UN-KI-Gremiums, und dem Hugging Face-CEO Clément Delangue. Es wird erwartet, dass Amodei aus der Ferne teilnimmt, anstatt persönlich im Saal anwesend zu sein. Ein Sprecher von OpenAI teilte Reuters mit, dass sich Altmans Ausführungen auf "die Schritte konzentrieren werden, die OpenAI unternimmt, um sicherzustellen, dass KI sicher ist und den Menschen weltweit zugutekommt, sowie auf die Notwendigkeit internationaler Koordination und gemeinsamer Sicherheitsstandards".thenextweb+3

Die Sitzung ist erst das zweite Mal, dass sich der Sicherheitsrat mit KI befasst, seit das Thema im Juli 2023 erstmals diskutiert wurde, als China davor warnte, KI dürfe kein "durchgehendes Pferd" werden. Laut einem französischen Konzeptpapier wird sich das Treffen mit dem missbräuchlichen Einsatz von KI und dem Risiko befassen, die Kontrolle über fortgeschrittene Modelle zu verlieren.ctvnews+1

Zusammenarbeit, Wettbewerb und Kartellrecht

Die Unterrichtung erfolgt inmitten einer intensiven Debatte darüber, wie konkurrierende KI-Labore bei der Sicherheit zusammenarbeiten sollten. The Information berichtete am 21. September, dass OpenAI und Anthropic Anfang des Jahres eine rechtsverbindliche Vereinbarung ausgehandelt hätten, um die Modelle des jeweils anderen gegenseitig auf Schwachstellen zu prüfen, wobei Anwälte beider Seiten an der Finalisierung des Pakts arbeiteten. Nach den Entwurfsbedingungen hätte jedes Unternehmen Zugriff auf die kommerziell verfügbaren APIs des anderen, unter der Bedingung, keine Daten zu speichern.news.sbs+1

Dieser kooperative Impuls ist bereits auf rechtliche Bedenken gestoßen. Am 12. September veröffentlichte Amodei einen Essay, in dem er KI-Unternehmen dazu aufrief, das Entwicklungstempo zu drosseln, und unabhängige Prüfer innerhalb der führenden Labore forderte. Nachdem Altman und Elon Musk den Vorschlag öffentlich unterstützten, reichten Abonnenten am 19. September eine Sammelklage wegen Kartellrechtsverstößen beim U.S. District Court for the Northern District of California ein. Sie behaupten, dass Anthropic, OpenAI, SpaceXAI und Alphabets ↘ 3.58% Google gegen Abschnitt 1 des Sherman Antitrust Act verstoßen hätten, indem sie sich absprachen, um den KI-Fortschritt zu begrenzen.apnews+2

Trump benennt KI bei der Generalversammlung um

Stunden vor der geplanten Sitzung des Sicherheitsrates nutzte Präsident Trump am Dienstag seine Rede vor der Generalversammlung, um zu erklären, dass die Vereinigten Staaten den Begriff "künstliche Intelligenz" in allen Regierungsdokumenten durch "Superintelligenz" ersetzen würden. "Die Verwendung des Wortes künstlich lässt Intelligenz falsch klingen", sagte Trump vor den Staats- und Regierungschefs. "Es ist nicht falsch. Es ist eigentlich erstaunlich". Trump lehnte zudem internationale Bemühungen zur Regulierung der Technologie ab und sagte, er werde "das Wachstum von etwas, das größer sein wird als die industrielle Revolution, nicht ersticken".breitbart+1

Die beiden Ereignisse, Trumps Umbenennung und die Unterrichtung im Sicherheitsrat, unterstreichen die wachsende Kluft zwischen Washingtons deregulierender Haltung und dem Drängen von KI-Führungskräften und verbündeten Regierungen auf koordinierte Sicherheitsleitplanken.