König Charles lädt KI-Führungskräfte nach Schottland ein: Rufe nach Entwicklungspause

König Charles versammelt diese Woche etwa 30 der weltweit führenden Führungskräfte im Bereich der künstlichen Intelligenz im Dumfries House in Ayrshire, Schottland, um die Frage zu stellen, wie die Technologie "zum Wohle der Menschheit" entwickelt werden kann. Das Treffen findet zu einem Zeitpunkt statt, an dem die Warnungen aus der KI-Branche selbst einen Höhepunkt erreicht haben, nachdem Anthropic-CEO Dario Amodei am Samstag eine bewusste Verlangsamung bei der Entwicklung von Spitzenmodellen gefordert hatte.

Ein königliches Treffen

Die Veranstaltung, über die zuerst Politico berichtete, bringt Führungskräfte von Nvidia ↘ 1.47%, Anthropic, Google Alphabet Inc. ↘ 3.58% DeepMind und OpenAI am Hauptsitz der King's Foundation zusammen, einer Wohltätigkeitsorganisation, die Charles 1990 gründete. Nvidia-Chef Jensen Huang, Google DeepMind-Gründer Demis Hassabis, IonQ ↗ 4.42%-Vorstandsvorsitzender Niccolo de Masi und Paolo Benanti, ein Berater des Papstes für KI-Ethik, werden unter anderem erwartet.politico+2

Die Ditchley Foundation leitet den Gipfel und hat einen Entwurf für ein Grundsatzpapier für KI-Führungskräfte erstellt. Dieses soll eine "gemeinsame Reihe von Prinzipien" enthalten, die "als Leitfaden für die zukünftige Anwendung von KI dienen sollen, nicht nur als Treiber für Leistungsfähigkeit und Effizienz, sondern als Werkzeug, das die menschliche Würde wahrt und zum Wohlergehen von Mensch und Planet beiträgt", so die Sunday Times, wie von der Daily Mail und The Independent berichtet.dailymail+1

Eine königliche Quelle sagte der Sunday Times: "Der König ist dort, um zu versammeln, zuzuhören und diese Diskussionen zu fördern und die Frage zu stellen: 'Wie entwickeln wir KI zum Wohle der Menschheit?'"independent+1

Alarm in der Branche

Der Zeitpunkt ist bemerkenswert. Am Samstag veröffentlichte Amodei einen Essay mit dem Titel "We Must Pace the Frontier", in dem er argumentiert, dass KI seit diesem Sommer "drastisch schneller voranschreitet" und die Sicherheitsmaßnahmen nicht Schritt gehalten haben. Er schlug einen Drei-Stufen-Plan vor: die Einbettung von externen Prüfern mit Mitarbeiterzugang in KI-Unternehmen, die Koordinierung gemeinsamer Sicherheitsstandards und eine stärkere globale Zusammenarbeit.economictimes+1

Hassabis unterstützte den Aufruf auf X und schrieb, dass "Darios Essay den richtigen Weg nach vorne aufzeigt". Der ehemalige britische Premierminister Rishi Sunak, heute Berater bei Anthropic, sagte: "Wenn die Labore selbst nach Geschwindigkeitsbegrenzungen rufen, sollten Regierungen zuhören". Senator Bernie Sanders ging noch weiter und forderte "eine PAUSE bei der Entwicklung fortschrittlicher KI und ein Verbot künstlicher Superintelligenz".economictimes

Ein Muster an Engagement

Der Gipfel in Schottland ist nicht der erste Vorstoß von Charles in die KI-Diplomatie. Während eines Besuchs in Washington im April traf der König Technologie-Führungskräfte, darunter den Gründer von Amazon Amazon.com, Inc. ↘ 2.24%, Jeff Bezos, sowie Führungskräfte von Apple ↘ 0.80% und Nvidia. Doch das Treffen im Dumfries House ist dringlicher, da es nur wenige Tage nach dem öffentlichen Rücktritt des Forschers Jacob Coxon aus der Branche stattfindet, der befürchtet, dass Unternehmen "in einem Wettlauf Systeme bauen, die sie nicht kontrollieren können".politico+1

Ob eine Reihe von königlich gehosteten Prinzipien ein globales Technologierennen bremsen kann, bleibt offen. Wie die königliche Quelle es ausdrückte: "Er weiß, dass es jeden in der Gesellschaft betreffen wird. Er möchte die Frage stellen: 'Wäre es hilfreich, eine Reihe von Prinzipien zu haben?' Sein Gefühl ist, dass dies keine einfache Aufgabe ist, aber das bedeutet nicht, dass wir es nicht versuchen sollten."dailymail