König Charles lädt Tech-Chefs zum KI-Sicherheitsgipfel nach Schottland

König Charles III. trifft sich am Donnerstag im Dumfries House in Ayrshire, Schottland, mit Führungskräften führender Unternehmen für künstliche Intelligenz, während die Branche von wachsenden Sorgen geprägt ist, dass eine unkontrollierte KI-Entwicklung die Menschheit gefährden könnte.

Führungskräfte von Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic und anderen Firmen kommen am Hauptsitz der King's Foundation zusammen. Das Treffen wird vom Buckingham Palace als Diskussion darüber beschrieben, „ob ein gemeinsamer Satz von Prinzipien entwickelt werden kann“, um die Zukunft der KI zu gestalten. Von dem Treffen, das von der britischen gemeinnützigen Ditchley Foundation organisiert wird, werden keine verbindlichen Vereinbarungen erwartet.nytimes+2

Ein königlicher Appell zur Zurückhaltung

„Die Entscheidungen, die in dieser prägenden Zeit getroffen werden, werden die Welt prägen, die künftige Generationen erben“, wird der König in Eröffnungsworten sagen, die vorab vom Palast veröffentlicht wurden. „Die vor Ihnen liegende Aufgabe besteht nicht nur darin, die Technologie voranzutreiben, sondern sicherzustellen, dass sie fest im Dienste der Menschheit, der Gemeinschaft und der natürlichen Welt bleibt.“nytimes

Unter den rund 30 Teilnehmern sind Nvidia-Chef Jensen Huang, Google DeepMind-Präsident Demis Hassabis, OpenAI-Finanzvorstand Sarah Friar und Kanishka Narayan, Britanniens Minister für KI. Anthropic lehnte es ab, seinen Vertreter zu nennen, und auch ein KI-Berater des Vatikans, Paolo Benanti, wird erwartet.politico+2

Branchenspaltung wird sichtbar

Der Gipfel ist das erste internationale Treffen führender KI-Unternehmen, seit Anthropic-Chef Dario Amodei einen ausführlichen Essay veröffentlicht hat, in dem er eine koordinierte Verlangsamung der KI-Entwicklung fordert und davor warnt, dass weitere Fortschritte ohne Schutzmaßnahmen zu einer Katastrophe führen könnten. OpenAI-Chef Sam Altman, Elon Musk und Hassabis äußerten Zustimmung zu Amodeis Kurs.abcnews

Doch die Branche bleibt gespalten. Meta ↗ 0.46%-Chef Mark Zuckerberg wies dies zurück und argumentierte, jedes Unternehmen solle die Sicherheit unabhängig gewährleisten und eine „erhebliche Haftung“ biete bereits ausreichende Anreize. Huang kritisierte den Vorstoß zur Verlangsamung ebenfalls und sagte: „Die Marktkräfte sind bereits da: Wir brauchen keine neuen Gesetze“. Microsoft ↘ 1.37%-Verwaltungsratschef Satya Nadella unterstützte ein bedachtes Tempo, warnte jedoch, dass die Sicherheitssteuerung „nicht von einer Handvoll Akteuren kontrolliert werden kann“.abcnews

Geopolitische Spannungen zeichnen sich ab

Das Treffen findet vor dem Hintergrund eines breiteren geopolitischen Streitkräftemessens über die Regulierung von KI statt. US-Präsident Trump tat Warnungen vor einer KI-Bedrohung am Montag als „kranke Verschwörung“ ab und schrieb auf Truth Social: „Wer auch immer bei der KI gewinnt, gewinnt alles“. Demokratische Abgeordnete drängten den Kongress, Gesetzgebung für KI-Schutzmaßnahmen zu verabschieden, während der Sprecher des Repräsentantenhauses, Mike Johnson, warnte, dass eine übereilte Regulierung bedeuten würde, dass die USA „das Rennen gegen China verlieren“.cbsnews

Die Dynamik zwischen den USA und China verleiht dem Thema eine weitere komplexe Ebene. Während der chinesische Präsident Xi Jinping vor den Gefahren eines „Kontrollverlusts“ bei der KI gewarnt hat, lehnte Peking Aufrufe zur Verlangsamung der Entwicklung ab und betrachtet das Konzept laut Leia Wang, einer Wissenschaftlerin beim Carnegie Endowment for Peace, als Versuch Washingtons, „seine technologische Dominanz zu behaupten“. Trump wird Xi am 24. September erneut in Washington treffen, wo voraussichtlich auch über KI-Sicherheit gesprochen wird.cbsnews

„Diejenigen in unserer Welt, die unsere Menschlichkeit und ihre wichtige moralische Komponente schätzen, suchen ängstlich nach Ihrer Versicherung, dass wir die Kontrolle über unser Schicksal nicht verlieren werden“, wird der König den versammelten Führungskräften am Donnerstag sagen.nytimes