Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

xcnbc+1newsweekDer Labour-Abgeordnete Darren Jones hat einen neuen multinationalen Vertrag zur Regulierung der Entwicklung von Superintelligenz gefordert. Dies ist eine direkte Reaktion auf die Kündigung des Anthropic-Forschers Jacob Coxon und die darauf folgenden Sicherheitswarnungen. Jones, ein ehemaliger Minister mit langjähriger Erfahrung in der Technologiepolitik, schrieb am Mittwoch auf X, dass er zwar "nie der Meinung war, dass wir Innovation oder wissenschaftliches Streben verbieten sollten", es aber nun "klar ist, dass wir einen neuen multinationalen Vertrag für die sichere und regulierte Entwicklung von Superintelligenz brauchen."x+1
Jones' Vorstoß erfolgte Stunden, nachdem Coxon, ein 27-jähriger Forscher, der drei Jahre lang sowohl bei OpenAI als auch bei Anthropic tätig war, auf X bekannt gab, dass er gekündigt habe und die KI-Branche vollständig verlasse. "Keines der Unternehmen handelt verantwortungsbewusst", schrieb Coxon. "Sie rasen direkt auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben."cnbc+1
Die Kündigung löste eine bemerkenswerte öffentliche Reaktion von Evan Hubinger aus, einem Leiter für Alignment-Forschung, der weiterhin bei Anthropic arbeitet. "Jacob hat hier recht – wir glauben tatsächlich ernsthaft, dass KI alle Menschen töten könnte", schrieb Hubinger auf X. "Ich persönlich halte die Wahrscheinlichkeit für über 10 Prozent innerhalb des nächsten Jahrzehnts. Ich glaube, Anthropic tut sein Bestes, aber wir haben noch keinen Plan, um das Alignment-Problem für Superintelligenz zu lösen, und wir sind nicht eindeutig auf dem richtigen Weg."newsweek+1
Jones antwortete direkt auf Hubingers Beitrag: "Wenn dieses Risikoniveau zutrifft, müssen die KI-Labore zumindest einen Gang zurückschalten."x
Jones war unter Keir Starmer als Chancellor of the Duchy of Lancaster und als Staatssekretär tätig, bevor er im Juli 2026 vom neuen Premierminister Andy Burnham aus dem Kabinett entlassen wurde. Als einfacher Abgeordneter bleibt er eine der profiliertesten Stimmen des Parlaments zur Technologieregulierung, nachdem er das Interparliamentary Forum on Emerging Technologies gegründet hat.aiforgood.itu+2
Sein Aufruf spiegelt die wachsende Unruhe in der KI-Forschungsgemeinschaft wider. Im Februar kündigte der Leiter der Sicherheitsforschung bei Anthropic, Mrinank Sharma, mit der Warnung, dass "die Welt in Gefahr ist". Und am 6. September schrieb der OpenAI-Chefentwickler Jakub Pachocki, dass noch kein Unternehmen in der Lage sei, seine fortschrittlichsten Modelle zuverlässig unter menschlicher Kontrolle zu halten.bbc+2
Ob Jones' Forderung im Parlament Gehör findet, bleibt abzuwarten. Großbritannien war 2023 Gastgeber des ersten globalen KI-Sicherheitsgipfels in Bletchley Park, doch verbindliche internationale Regulierungen erwiesen sich bisher als schwer umsetzbar. Die Kündigung eines relativ jungen Forschers würde normalerweise nur begrenzte Aufmerksamkeit erregen, doch Hubingers öffentliche Bestätigung der Bedenken aus dem Inneren eines der weltweit führenden KI-Labore hat dem Vorfall ungewöhnliches Gewicht verliehen.