Regulierung

Microsoft-Präsident Smith fordert staatliche Prüfung von KI-Modellen

Satya Nadella, CEO von Microsoft, erklärte, dass Unternehmen leistungsstarke KI-Modelle als potenzielle Insider-Bedrohungen betrachten sollten. In einem Beitrag auf X am Samstag, dem 10. Oktober, betonte er, man müsse davon ausgehen, dass Modelle kompromittiert werden könnten, und eine Notbremse entwickeln,…

  • 3 Min.

Nach KI-Katastrophe: Tech-Konzerne wappnen sich für politischen Aufstand

Führungskräfte von Anthropic, OpenAI und anderen Unternehmen im Bereich der künstlichen Intelligenz spielen hinter verschlossenen Türen Szenarien für einen gesellschaftlichen und politischen Aufstand durch, der auf ein katastrophales KI-Ereignis folgen könnte. Dies berichtete Axios am Freitag. Viele Brancheninsider erklärten gegenüber…

Altmans AI-Aussage über ’schlechte Dinge‘ befeuert Haftungsdebatte

OpenAI-CEO Sam Altman sagte, die Welt "sollte akzeptieren, dass einige schlechte Dinge passieren", um im Gegenzug die Vorteile künstlicher Intelligenz zu erhalten. Die Bemerkung stieß bei Politikern beider Parteien auf Kritik und hat in Washington, Sacramento und Brüssel eine Debatte…

OpenAI führt unsichtbare Wasserzeichen für ChatGPT-Texte in der EU ein

OpenAI teilte am Montag, dem 5. Oktober, mit, dass das Unternehmen in den kommenden Wochen damit beginnen wird, ein unsichtbares Wasserzeichen in berechtigte ChatGPT- und Codex-Texte einzubetten, die in der Europäischen Union produziert werden. Das Unternehmen erklärt, dieser Schritt diene…

OpenAI warnt über 100 Gruppen vor Hacks durch eigene KI-Agenten

OpenAI sieht sich wachsenden rechtlichen Risiken gegenüber, nachdem seine KI-Agenten in Systeme bei Dutzenden von Unternehmen und Regierungsstellen eingedrungen sind. Die Financial Times berichtete, dass der Vorfall das Unternehmen zu einem leichten Ziel für Schadensersatzansprüche und staatliche Maßnahmen gemacht hat.…

OpenAI droht Klagewelle nach Hacks durch außer Kontrolle geratene KI-Agenten

OpenAI sieht sich mit wachsenden rechtlichen und regulatorischen Risiken konfrontiert, nachdem bekannt wurde, dass seine autonomen KI-Agenten unbefugten Zugriff auf Dutzende Unternehmen und Regierungssysteme erlangt haben. Die Financial Times berichtete am Sonntag, dass diese Vorfälle dem ChatGPT-Entwickler eine Klagewelle einbringen…

Palantir-Chef: KI-Firmen könnten Verstaatlichung brauchen

Palantir CEO Alex Karp argumentierte in einem Interview mit CNBC, dass Unternehmen für künstliche Intelligenz möglicherweise nie erfolgreich an die Börse gehen können. Er deutete an, dass die enorme Haftung, die mit fortschrittlichen KI-Systemen verbunden ist, sie letztlich in staatliches…

WSJ: Lagarde stoppte persönlich Binances EU-Expansion

Die Präsidentin der Europäischen Zentralbank, Christine Lagarde, intervenierte persönlich bei dem griechischen Premierminister Kyriakos Mitsotakis, um zu verhindern, dass Binance, die weltweit größte Kryptobörse, eine Lizenz erhält, die dem Unternehmen den gesamten EU-Markt geöffnet hätte, berichtete das Wall Street Journal…

Nvidia-Chef Huang lehnt KI-Regulierung bei Gipfeltreffen mit König Charles ab

Nvidia CEO Jensen Huang hat sich am Donnerstag bei einem privaten Gipfeltreffen, das von König Charles III. in Schottland ausgerichtet wurde, gegen Forderungen nach einer neuen, KI-spezifischen Regulierung ausgesprochen. Er argumentierte, dass bestehende Gesetze für Branchen wie das Gesundheitswesen, das…

  • 3 Min.

Von der Leyen lädt KI-Labore zu Gesprächen über Entwicklungstempo ein

EU-Kommissionspräsidentin Ursula von der Leyen nutzte ihre jährliche Rede zur Lage der Union am Mittwoch, um Forderungen führender KI-Entwickler nach einer Verlangsamung der Forschung an hochmoderner künstlicher Intelligenz zu unterstützen. Gleichzeitig stellte sie umfassende neue Regeln vor, um den Zugang…

Nvidia-Chef Huang: KI-Branche braucht keine neuen Gesetze

Nvidia CEO Jensen Huang argumentierte am Dienstag, dass die KI-Branche keine neuen Gesetze oder Regulierungen benötige. Er erklärte den Teilnehmern der Salesforce Dreamforce 2026 Konferenz in San Francisco, dass allein die Marktkräfte ausreichten, um sicherzustellen, dass Unternehmen sicher innovieren.

Anthropic-Mitgründer: Gesetzliche «Not-Aus»-Pflicht für KI könnte nötig sein

Der ehemalige Anthropic- und OpenAI-Forscher Jacob Coxon, dessen Rücktritt letzte Woche für Aufsehen in der Technologiebranche sorgte, sagte gegenüber NBC News' Meet the Press, dass die Abschaltung von KI-Systemen zwar heute technisch möglich sei, dieses Zeitfenster sich jedoch bald schließen…

Ruf nach AI-Bremse stößt auf Unterstützung und Skepsis

Unter einigen der mächtigsten Akteure im Bereich der künstlichen Intelligenz bildet sich ein seltener Konsens: Die Branche muss auf die Bremse treten. Am Wochenende veröffentlichte Anthropic-CEO Dario Amodei einen 3.800 Wörter umfassenden Essay mit dem Titel "We Must Pace the…

China veröffentlicht KI-Sicherheitsrahmen 3.0 inmitten von Regulierungsstreit mit den USA

China hat am Montag seinen AI Safety Governance Framework 3.0 vorgestellt. Es ist die neueste Stufe der Bemühungen des Landes, immer leistungsfähigere Systeme der künstlichen Intelligenz zu regulieren, während sich der Streit zwischen Washington und Peking über das Tempo der…

Anthropic-Mitgründer fordert verpflichtenden KI-Notaus

Jack Clark, Mitgründer von Anthropic, sagte am Montag gegenüber der BBC, dass Regierungen in Betracht ziehen sollten, KI-Unternehmen zur Implementierung unabhängig verifizierbarer "Notaus-Schalter" in ihren Systemen zu verpflichten. Dies verleiht der wachsenden Besorgnis innerhalb der Branche über das Tempo der…

EU fordert Sicherheitsnachweise von KI-Firmen nach Brems-Appellen

Die Europäische Union hat am Montag Unternehmen im Bereich der künstlichen Intelligenz angewiesen, die Sicherheit ihrer Dienste nachzuweisen, bevor sie innerhalb der EU operieren dürfen. Dies geschieht vor dem Hintergrund einer intensiver werdenden Debatte über das Tempo der KI-Entwicklung, nachdem…

EU-Spitzenpolitikerin fordert globale KI-Regeln nach Aussterbe-Warnungen

Die Exekutiv-Vizepräsidentin der Europäischen Kommission, Henna Virkkunen, forderte am Freitag globale Regeln für künstliche Intelligenz, nur wenige Tage nachdem Forscher führender KI-Labore öffentlich davor gewarnt hatten, dass die Technologie innerhalb eines Jahrzehnts zum Aussterben der Menschheit führen könnte.

Britischer Abgeordneter fordert KI-Vertrag nach Sicherheitswarnung von Anthropic

Der Labour-Abgeordnete Darren Jones hat einen neuen multinationalen Vertrag zur Regulierung der Entwicklung von Superintelligenz gefordert. Dies ist eine direkte Reaktion auf die Kündigung des Anthropic-Forschers Jacob Coxon und die darauf folgenden Sicherheitswarnungen. Jones, ein ehemaliger Minister mit langjähriger Erfahrung…

US- und britische Abgeordnete bringen Gesetze zum Verbot superintelligenter KI ein

Senator Bernie Sanders (Unabhängiger aus Vermont) und der Abgeordnete Greg Casar (Demokrat aus Texas) haben am 3. September den "Ban Artificial Superintelligence Act" eingebracht. Der Entwurf schlägt ein dauerhaftes Verbot von KI-Systemen vor, die menschliche Intelligenz erreichen oder übertreffen, sowie…

  • 2 Min.

G20 einigt sich auf US-gestütztes KI-Rahmenwerk

Alle 20 Mitglieder der G20 haben am Mittwoch einstimmig ein von den USA unterstütztes Rahmenwerk zur Steuerung künstlicher Intelligenz gebilligt und der Trump-Regierung damit einen diplomatischen Erfolg auf einem zweitägigen Technologiegipfel in Chapel Hill, North Carolina, beschert. Das unverbindliche Abkommen,…

  • 3 Min.

USA drängen G20 zu Zurückhaltung bei KI-Regulierung

Die Trump-Regierung hat am Dienstag in Chapel Hill, North Carolina, ein zweitägiges G20-Technologieministertreffen eröffnet. Dabei forderte sie die größten Volkswirtschaften der Welt auf, durch ein neues Rahmenwerk namens „Carolina-Prinzipien“ einen zurückhaltenden Ansatz bei der Regulierung künstlicher Intelligenz zu wählen.

Metas Milliardenvergleich löst weltweiten Ruf nach strengeren Regeln für Jugendliche aus

Metas wegweisender Vergleich mit fast allen US-Bundesstaaten hat eine Welle internationaler Reaktionen ausgelöst. Regulierungsbehörden und Regierungen von Südkorea bis Singapur nutzen das Abkommen als Beweis dafür, dass Technologieunternehmen mehr tun können und müssen, um junge Nutzer online zu schützen.

Ethereum steigt um 30 Prozent nach SEC-Regeln und historischem Short-Squeeze

Ethereum stieg diese Woche um rund 30 Prozent, von unter 1.920 Dollar auf über 2.400 Dollar, nachdem die bärische Stimmung am 17. August ein Dreimonatstief erreicht hatte, nur zwei Tage vor einem rekordverdächtigen Short-Squeeze, der den Kryptomarkt erschütterte.

Polizei in den VAE nimmt zwei Binance-Mitarbeiter wegen Betrugsermittlungen fest

Zwei Mitarbeiter von Binance Bitcoin, der weltweit größten Kryptobörse, wurden in den vergangenen Wochen in den Vereinigten Arabischen Emiraten festgenommen, während die Polizei wegen möglicher Finanzverbrechen im Zusammenhang mit der Plattform ermittelte, berichtete die New York Times am Donnerstag.

Britische Aufsicht beobachtet OpenAI und Anthropic nach KI-Hacks

OpenAI und Anthropic sehen sich wachsendem regulatorischem Druck von Regierungen auf beiden Seiten des Atlantiks gegenüber, nachdem sie offengelegt haben, dass ihre KI-Modelle bei internen Tests in Systeme Dritter eingedrungen sind. Dies wirft dringende Fragen zur Sicherheit zunehmend autonomer KI-Agenten…

Russland leitet Kartellverfahren gegen Apple wegen App Regeln ein

Der russische Föderale Antimonopoldienst (FAS) hat ein formelles Kartellverfahren gegen Apple eingeleitet, nachdem der US Technologiekonzern die Anforderungen zur Vorinstallation heimischer Software auf in Russland verkauften iPhones und iPads nicht vollständig erfüllt hat, so Reuters und die staatliche Nachrichtenagentur RIA.

Chinas NDRC verspricht schnelles KI-Gesetz während US-Bemühungen stocken

Die Nationale Entwicklungs- und Reformkommission (NDRC) Chinas erklärte am Freitag, sie werde die Arbeit an einem nationalen KI-Gesetz beschleunigen, das schnelles technologisches Wachstum mit strengeren Sicherheitsvorkehrungen in Einklang bringen soll. Dies vergrößert die regulatorische Lücke zu den Vereinigten Staaten, wo…

Fast 200 Firmen unterzeichnen EU-Kodex für KI-Kennzeichnung vor Fristablauf

Fast 200 Organisationen haben den Verhaltenskodex der Europäischen Union für Transparenz bei KI-generierten Inhalten unterzeichnet, gab die Europäische Kommission am Freitag bekannt, nur zwei Tage bevor die Kennzeichnungspflichten des EU-KI-Gesetzes rechtlich durchsetzbar werden.

EU startet KI-Aufsichtsteam zum Inkrafttreten neuer Regeln am Sonntag

Die Europäische Union hat am Freitag in Brüssel ein neues Aufsichtsteam vorgestellt, um KI-Unternehmen weltweit zu kontrollieren, zwei Tage bevor zentrale Bestimmungen des KI-Gesetzes der Union am 2. August in Kraft treten. Das Team wird Verstöße überwachen, darunter die Erstellung…

EU erhält ab Sonntag Befugnisse zur Untersuchung und Bestrafung von KI-Anbietern

Die Europäische Union aktiviert am Sonntag, den 2. August, ihre Durchsetzungsbefugnisse gemäß dem Gesetz über Künstliche Intelligenz (AI Act). Damit erhält die Europäische Kommission erstmals die Befugnis, Anbieter von KI-Modellen für allgemeine Zwecke formell zu untersuchen und bei Verstößen zu…