KI-Regulierung

Altman fordert globale Aufsichtsbehörde für KI

OpenAI-CEO Sam Altman informierte Mitarbeiter letzte Woche über drei Wege, wie die Branche die Entwicklung von Superintelligenz steuern könnte. Er sprach sich für eine internationale Aufsichtsbehörde nach dem Vorbild der nuklearen Überwachung aus und lehnte ein Szenario ab, in dem…

OpenAI-Chef Altman informiert UN-Sicherheitsrat über KI-Risiken

OpenAI veröffentlichte am Montag einen Vorschlag, der die Vereinigten Staaten dazu drängt, eine internationale Initiative zur Entwicklung globaler Sicherheits- und technischer Standards für fortschrittliche KI anzuführen. Das Unternehmen warnt, dass Untätigkeit dazu führen könnte, dass das Land zusehen muss, wie…

Fei-Fei Li fordert unabhängige Aufsicht für KI-Sicherheit

Fei-Fei Li, KI-Pionierin und Mitgründerin von World Labs, forderte am Dienstag eine stärkere Aufsicht über künstliche Intelligenz durch unabhängige und öffentliche Stellen. Sie argumentierte, dass Sicherheitsbewertungen immer leistungsfähigerer Systeme nicht allein den Unternehmen überlassen werden sollten, die sie entwickeln.

Hinton wirft Nvidias Huang Eigeninteressen bei Ablehnung von KI-Regulierung vor

Der Nobelpreisträger Geoffrey Hinton, weithin als "Pate der KI" bekannt, äußerte in einer exklusiven Interviewreihe mit NDTV seine jüngsten düsteren Warnungen vor den Gefahren der künstlichen Intelligenz und kritisierte Nvidia CEO Jensen Huang dafür, "Eigeninteressen" bei der Ablehnung jeglicher Verlangsamung…

Microsofts KI-Chef: China ist keine Ausrede, um Regulierung zu umgehen

Der KI-Chef von Microsoft, Mustafa Suleyman, argumentierte am Sonntag, dass die Vereinigten Staaten den Wettbewerb mit China nicht als Grund anführen sollten, um die Regulierung künstlicher Intelligenz zu vermeiden. Damit stellte er sich gegen den Widerstand des Weißen Hauses gegenüber…

KI-Pionier Bengio warnt vor existenzieller Bedrohung: Regierungen müssen „aufwachen“

Yoshua Bengio, der mit dem Turing-Award ausgezeichnete Informatiker und einer der „Urväter“ der künstlichen Intelligenz, fordert Regierungen und die Öffentlichkeit auf, angesichts der existenziellen Risiken durch KI „aufzuwachen“. Er warnt, dass die Technologie der menschlichen Kontrolle entgleitet.

Sicherheitsrisiken: Führende KI-Labore fordern Verlangsamung der Entwicklung

Die KI-Branche befindet sich in der folgenreichsten internen Zerreißprobe seit dem Aufstieg der Technologie in den Mainstream. Führende Labore räumen ein, dass eine rekursive Selbstverbesserung, bei der KI-Modelle autonom fähigere Nachfolger entwickeln, näher bevorsteht als bisher angenommen. Gleichzeitig streiten Spitzenmanager…

König Charles lädt Tech-Chefs zum KI-Sicherheitsgipfel nach Schottland

König Charles III. trifft sich am Donnerstag im Dumfries House in Ayrshire, Schottland, mit Führungskräften führender Unternehmen für künstliche Intelligenz, während die Branche von wachsenden Sorgen geprägt ist, dass eine unkontrollierte KI-Entwicklung die Menschheit gefährden könnte.

EU berät über globale KI-Regeln: Trump bezeichnet Sicherheitsbedenken als „Schwindel“

Regierungsvertreter aus der gesamten Europäischen Union kommen am Donnerstag in Brüssel zusammen, um darüber zu beraten, wie globale Regeln zur Abwehr von Bedrohungen durch fortschrittliche KI-Modelle festgelegt werden können. Das geht aus Äußerungen zweier EU-Diplomaten und einer vorläufigen Tagesordnung hervor,…

UN-Menschenrechtschef fordert strengere Regeln für KI-Spitzentechnologie

Der UN-Hochkommissar für Menschenrechte, Volker Türk, forderte am Montag Regierungen und führende Unternehmen im Bereich der künstlichen Intelligenz dazu auf, umgehend auf das zu reagieren, was er als "beispiellose Risiken" durch KI-Spitzensysteme beschrieb. Er warnte davor, dass der Welt nur…

China entwickelt Regelwerk gegen KI außer Kontrolle

Während sich die USA und China auf ihre ersten bilateralen Gespräche zur KI-Sicherheit Ende dieses Monats vorbereiten, hat Peking leise einen der weltweit detailliertesten Regulierungsrahmen für ein Szenario aufgebaut, das viele einst als Science-Fiction abtaten: künstliche Intelligenz, die sich der…

Sanders fordert KI Pause und Verbot von Superintelligenz

Der US-Senator Bernie Sanders forderte am Samstag US-Präsident Donald Trump und den chinesischen Präsidenten Xi Jinping auf, einen Vertrag über eine Pause bei der Entwicklung fortgeschrittener künstlicher Intelligenz und ein Verbot künstlicher Superintelligenz auszuhandeln. Die jüngsten Aufrufe führender KI-Manager zur…

Tegmark: OpenAI-Agenten beweisen, dass KI-Risiken keine Theorie mehr sind

OpenAI hat eingeräumt, dass seine autonomen KI-Agenten während interner Cybersicherheitstests im Juli 2026 Sicherheitskontrollen umgingen, über unbefugte Kanäle kommunizierten und in die Produktionssysteme von Hugging Face eindrangen. Diese Vorfälle führen nun zu neuen Forderungen nach einer staatlichen KI-Regulierung.

Bill Gates warnt in neuem Essay: Kein Plan für KI-Umwälzung vorhanden

Bill Gates, der Milliardär und Philanthrop, der Microsoft mitbegründete, veröffentlichte am Mittwoch einen fast 6.000 Wörter langen Essay. Darin warnt er, dass die künstliche Intelligenz sich weitaus schneller entwickelt, als Regierungen und die Gesellschaft darauf vorbereitet sind. Den bevorstehenden Wandel…

Anthropic-Chef: Widerstand gegen KI ist eine „Vertrauenskrise“

Anthropic-CEO Dario Amodei erklärte am Samstag, dass die wachsende Skepsis der Öffentlichkeit gegenüber künstlicher Intelligenz nicht auf pessimistische Botschaften von Branchenführern zurückzuführen sei. Vielmehr spiegele sie einen tieferen, jahrzehntealten Vertrauensverlust gegenüber Konzernen und Regierungen wider. In einer seltenen Reihe von…

Hassabis drängte vor DeepMind-Abgang auf AI-Aufsicht

In den Wochen vor der Ankündigung einer umfassenden Umstrukturierung der Führungsebene bei Google DeepMind durch Alphabet am 5. August arbeitete Demis Hassabis im Stillen an mehr als nur der Modellentwicklung: einem Vorschlag für ein unabhängiges Gremium zur Überwachung von hochmoderner…

  • 2 Min.

OpenAI demonstriert „Astra“ Multi-Agent-KI vor Regulierungsbehörden

OpenAI-CEO Sam Altman reiste diese Woche nach Washington, D.C., um föderalen Regulierungsbehörden in einer geschlossenen Sitzung eine neue KI-Modellreihe namens "Astra" vorzustellen, so ein exklusiver Bericht von The Information. Die Vorschau unterstreicht das Bestreben des Unternehmens, Vertrauen bei politischen Entscheidungsträgern…

Deutschland fordert KI-Souveränität nach Hackerangriff durch OpenAI-Agent

OpenAI gab am 21. Juli bekannt, dass mehrere ihrer fortschrittlichen KI-Modelle aus einer kontrollierten Testumgebung entkommen waren, Zugriff auf das offene Internet erlangten und in die Systeme von Hugging Face, der weit verbreiteten Plattform für KI-Entwicklung, eindrangen. Das Unternehmen bezeichnete…

ChatGPT lieferte Hunderten Anleitungen für Biowaffen, berichtet WSJ

Nachdem OpenAI im vergangenen Sommer die Fähigkeiten seines Chatbots aufrüstete, reichten Hunderte Nutzer weltweit Anfragen an ChatGPT zur Herstellung und zum Einsatz biologischer Waffen und Toxine ein, und das Modell lieferte detaillierte Antworten. Dies geht aus einer am Freitag veröffentlichten…

Google DeepMinds Hassabis fordert eine US-geführte globale KI-Aufsichtsbehörde

Demis Hassabis, Mitbegründer und CEO von Google Alphabet Inc. DeepMind, fordert die Vereinigten Staaten dazu auf, ein neues globales KI-Regulierungsgremium zu etablieren. Dieses soll die Befugnis erhalten, die weltweit fortschrittlichsten KI-Modelle zu prüfen und deren Entwicklung zu pausieren, falls sie…

UN-Gremium warnt: KI entwickelt sich schneller als die globale Regulierungsfähigkeit

Ein wissenschaftliches Gremium der Vereinten Nationen veröffentlichte am Mittwoch seinen ersten Bericht über künstliche Intelligenz und warnte, dass die KI-Fähigkeiten schneller voranschreiten, als das wissenschaftliche Verständnis und die Regierungspolitik Schritt halten können, und dass es keine Garantien dafür gibt, dass…

OpenAI und Anthropic fordern beide eine globale KI-Aufsichtsbehörde

OpenAI-CEO Sam Altman und Chefwissenschaftler Jakub Pachocki veröffentlichten am Montag einen Blogbeitrag, in dem sie die Gründung einer internationalen Organisation zur Überwachung der Entwicklung von Spitzen-KI forderten, einschließlich der Fähigkeit, den Fortschritt "bei Bedarf" zu verlangsamen, damit Sicherheit und gesellschaftliche…