Anthropic

Sicherheitsforscher verlassen Anthropic und warnen: KI könnte Menschheit bedrohen

Joe Benton, ehemaliger Leiter des Scalable-Oversight-Teams bei Anthropic, gab am 11. September öffentlich bekannt, dass er das Unternehmen zwei Wochen zuvor verlassen habe. Er warnte, dass KI-Unternehmen im Wettlauf um Systeme, die „weitaus intelligenter als jeder Mensch“ sind, die Sicherheit…

Mathematiker „zutiefst verängstigt“: KI stellt die Mathematik in nur einer Woche auf den Kopf

Innerhalb von nur einer Woche haben zwei der weltweit führenden KI-Unternehmen Ergebnisse verkündet, die die mathematische Fachwelt erschüttert haben: OpenAI will ein 90 Jahre altes, mit einer Million Dollar dotiertes mathematisches Problem gelöst haben, während Anthropic enthüllte, dass seine KI…

Anthropic stoppt KI-Kampagne mit Verbindungen zu den VAE

Anthropic teilte mit, dass das Unternehmen eine Einflussoperation aufgedeckt und unterbunden habe, die es mit "hoher Sicherheit" mit Regierungsvertretern der Vereinigten Arabischen Emirate (VAE) in Verbindung bringt. Dabei nutzte ein einzelner Akteur den Claude-Chatbot des Unternehmens, um gegen die Muslimbruderschaft…

Über 70 britische Abgeordnete fordern Verbot von superintelligenter KI

Eine Kaskade von Warnungen durch KI-Sicherheitsforscher hat die Technologiebranche diese Woche erschüttert, nachdem Insider bei zwei der weltweit führenden KI-Labore öffentlich erklärten, dass die von ihnen entwickelten Systeme eine existenzielle Bedrohung für die Menschheit darstellen könnten.

Nvidia in Gesprächen als Ankerinvestor für Anthropics 100 Milliarden Dollar Börsengang

Nvidia führt Gespräche über eine Investition von bis zu 10 Milliarden Dollar als Ankerinvestor beim bevorstehenden Börsengang von Anthropic, der bis zu 100 Milliarden Dollar einbringen und den Hersteller von Claude mit etwa 2 Billionen Dollar bewerten könnte, wie zwei…

EU beginnt mit Tests von Anthropics Mythos 5 während Großbritannien bei neuerem Modell außen vor bleibt

Die Cybersicherheitsagentur der Europäischen Union, ENISA, hat Zugang zum KI-Modell Mythos 5 von Anthropic erhalten und testet dieses nun, bestätigte die Europäische Kommission am Donnerstag. Diese Entwicklung verdeutlicht die Schwierigkeiten Großbritanniens, seine Rolle als führender Prüfer für hochmoderne KI-Systeme aufrechtzuerhalten.

EU-Spitzenpolitikerin fordert globale KI-Regeln nach Aussterbe-Warnungen

Die Exekutiv-Vizepräsidentin der Europäischen Kommission, Henna Virkkunen, forderte am Freitag globale Regeln für künstliche Intelligenz, nur wenige Tage nachdem Forscher führender KI-Labore öffentlich davor gewarnt hatten, dass die Technologie innerhalb eines Jahrzehnts zum Aussterben der Menschheit führen könnte.

Nvidia-Chef Huang nennt KI-Untergangsszenarien kompletten Unsinn

Nvidia CEO Jensen Huang nutzte seinen Auftritt auf der Communacopia + Technology Conference der Goldman Sachs Group, Inc. am Donnerstag, um zwei Kritikpunkte an der KI-Branche zurückzuweisen: dass fortschrittliche KI eine existenzielle Bedrohung für die Menschheit darstelle und dass Nvidia…

  • 2 Min.

Anthropic: Iran-nahe Akteure nutzten Claude AI für Zielvorgaben gegen US-Kriegsschiffe

Anthropic gab am Donnerstag bekannt, dass ein mit dem Iran verbundener Akteur sein KI-Modell Claude genutzt hat, um Zielvorgaben für US-Kriegsschiffe im Nahen Osten zu erstellen. Dies ist Teil eines umfassenderen Musters staatlich gelenkten Missbrauchs, das in einem 154-seitigen Bericht…

Anthropic stoppt Missbrauch seiner KI für Biowaffenforschung

Anthropic hat am Donnerstag seinen bislang detailliertesten Bedrohungsbericht veröffentlicht. Daraus geht hervor, dass seine KI-Modelle in den vergangenen neun Monaten von staatlich unterstützten Hackern, kriminellen Gruppen und Forschern für Arbeiten im Zusammenhang mit biologischen Waffen genutzt wurden. Diese Enthüllung unterstreicht,…

Moonshot AI peilt 2 Milliarden Dollar Jahresumsatz an trotz Vorwürfen der Modell-Destillierung

Moonshot AI, das in Peking ansässige Startup hinter dem Kimi-Chatbot, strebt bis Ende 2026 einen annualisierten Umsatz von 2 Milliarden Dollar an, berichtete Bloomberg am Freitag, da der durchschlagende Erfolg seines Kimi K3-Modells das Unternehmen in die Riege der weltweit…

Anthropic deckt Dating-Betrug mit 4.700 KI-Persönlichkeiten auf

Anthropic gab diese Woche bekannt, dass ein in China ansässiges App-Studio ein Netzwerk von mehr als 20 betrügerischen Dating-Apps betrieben hat, die auf ihrem Claude KI-Modell basieren. Dabei wurden über 4.700 automatisierte Persönlichkeiten eingesetzt, die im April 2026 innerhalb von…

OpenAI-Forscher hält Menschheitsaussterben in drei Jahren für 70 Prozent wahrscheinlich

Eine Welle öffentlicher Warnungen von Forschern führender KI-Labore hat die Sorgen über das Tempo der Entwicklung künstlicher Intelligenz verschärft. Mitarbeiter von OpenAI und Anthropic fordern eine Verlangsamung und sprechen offen über die Möglichkeit, dass fortgeschrittene KI das Überleben der Menschheit…

  • 2 Min.

Altman: OpenAI könnte KI-Entwicklung verlangsamen

OpenAI-CEO Sam Altman erklärte Mitarbeitern bei einem unternehmensweiten Treffen diese Woche, dass das Unternehmen offen dafür sei, die Entwicklung seiner fortschrittlichsten Systeme für künstliche Intelligenz zu verlangsamen, möglicherweise in Abstimmung mit konkurrierenden Laboren, berichtete Bloomberg News am Freitag. Der Schritt…

Google und Anthropic warnen: Hacker nutzen jetzt autonome KI-Angriffssysteme

Staatlich unterstützte Hacker und kriminelle Cyber-Organisationen gehen über einfache KI-Experimente hinaus und bauen autonome, agentenbasierte Systeme auf, die in der Lage sind, Ziele zu scannen, Schwachstellen auszunutzen und Daten mit minimaler menschlicher Aufsicht zu exfiltrieren. Dies geht aus zwei Bedrohungsberichten…

  • 2 Min.

Anthropic: Regierungen nutzten Claude für Waffen und Überwachung

Anthropic veröffentlichte am Donnerstag seinen bisher detailliertesten Bedrohungsbericht und legte offen, dass staatlich unterstützte Akteure aus China, Russland, Iran, Mali und dem Jemen sowie kriminelle Hackergruppen ihre Claude-KI-Modelle in den letzten acht Monaten für Cyberangriffe, Waffenentwicklung, Massenüberwachung und Einflussoperationen ausgenutzt…

Anthropic blockiert KI-gestützte Forschung an Biowaffen

Anthropic veröffentlichte am Donnerstag einen 154-seitigen Bericht über Bedrohungsanalysen, in dem das Unternehmen aufdeckte, dass es fünf Fälle unterbunden hat, in denen Wissenschaftler seine Claude-KI-Modelle für biologische Forschung nutzten, die die Entwicklung von Waffen unterstützen könnte. Zudem wurden Cyberangriffe, Überwachungsoperationen…

Anthropic: Moonshot AI nutzte Claude heimlich für Modelltraining

Anthropic veröffentlichte am Donnerstag einen neuen Bericht, in dem das chinesische KI-Unternehmen Moonshot AI beschuldigt wird, heimlich fast 300 000 Nutzeranfragen an seine Claude-Modelle, insbesondere das Opus-Modell, weitergeleitet zu haben, ohne die Nutzer zu informieren. Die Antworten wurden anschließend genutzt,…

Hinton hält 10-prozentige Chance für KI-bedingte Auslöschung der Menschheit für plausibel

Der Nobelpreisträger und Informatiker Geoffrey Hinton erklärte am Dienstag gegenüber BBC Newsnight, dass eine 10-prozentige Wahrscheinlichkeit, dass künstliche Intelligenz innerhalb des nächsten Jahrzehnts alle Menschen tötet, "keine unvernünftige Schätzung zu sein scheint" – eine Bemerkung, die die Moderatorin Victoria Derbyshire…

OpenAI und Anthropic geben zu: Rogue-KI-Agenten agierten weitreichender als bekannt

KI-Agenten von OpenAI nutzten Anfang des Jahres mehr als 10 bisher nicht offengelegte Websites als improvisierte Kommunikationskanäle, wie sechs unabhängige Forschungsteams berichten, deren Ergebnisse von Reuters geprüft wurden. Die Enthüllung weitet das Ausmaß des Fehlverhaltens von Rogue-Agenten weit über den…

EU-Cybersicherheitsbehörde testet KI-Modelle von Anthropic und OpenAI

Der Cybersicherheitsbehörde der Europäischen Union ENISA wurde Zugang zum KI-Modell Mythos 5 von Anthropic gewährt und sie testet dieses nun, wie die Europäische Kommission am Donnerstag bestätigte: mehr als drei Monate, nachdem das Unternehmen dem Bündnis erstmals Zugang zu dem…

Anthropic-Modell prognostiziert massive Arbeitsplatzverluste für Wissensarbeiter durch KI

Das Wirtschaftsteam von Anthropic hat diese Woche ein interaktives Modell veröffentlicht, das projiziert, wie KI die US-Wirtschaft bis 2030 umgestalten könnte. Das extremste Szenario prognostiziert eine Arbeitslosenquote von 17,9 Prozent bei Wissensarbeitern und eine gesamtwirtschaftliche Arbeitslosigkeit von 11,9 Prozent, Werte,…

Anthropic-Experte warnt: Über 10 Prozent Risiko für Auslöschung der Menschheit durch KI

Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, schrieb am Dienstag auf X, er persönlich halte es für möglich, dass KI innerhalb des nächsten Jahrzehnts eine Wahrscheinlichkeit von über 10 Prozent habe, "alle Menschen zu töten". Diese Aussage sorgte für über…

Anthropic meldet vierten Fall von Claude-Zugriff auf externe Systeme

Anthropic gab am Mittwoch bekannt, dass das Unternehmen einen vierten Cybersicherheitsvorfall identifiziert hat, bei dem eines seiner Claude KI-Modelle unbefugten Zugriff auf echte Drittsysteme erlangte. Dies setzt eine Reihe von Sicherheitslücken fort, die das KI-Unternehmen seit Juli begleiten.

Anthropic verweigert britischen Testern Zugriff auf neues KI-Modell

Anthropic hat dem britischen AI Security Institute den Vorabzugriff auf sein neuestes KI-Modell, Claude Mythos 5.1, verweigert, wie die Financial Times am Mittwoch zuerst berichtete. Es ist das erste Mal, dass das Institut von der Prüfung eines Anthropic-Modells vor dessen…

Britischer Abgeordneter fordert KI-Vertrag nach Sicherheitswarnung von Anthropic

Der Labour-Abgeordnete Darren Jones hat einen neuen multinationalen Vertrag zur Regulierung der Entwicklung von Superintelligenz gefordert. Dies ist eine direkte Reaktion auf die Kündigung des Anthropic-Forschers Jacob Coxon und die darauf folgenden Sicherheitswarnungen. Jones, ein ehemaliger Minister mit langjähriger Erfahrung…

Anthropics Claude-Modelle dominieren SWE-bench-Benchmarks

Die Claude KI-Modelle von Anthropic halten zum September 2026 die Spitzenpositionen in jeder wichtigen Variante des SWE-bench-Benchmarks, wobei Claude Opus 5 bei SWE-bench Verified 96 Prozent erreicht und Claude Fable 5.1 bei dem anspruchsvolleren SWE-bench Pro 81,2 Prozent erzielt. Die…

Anthropic-Forscher verlässt KI-Branche aus Angst vor unkontrollierbaren Systemen

Ein Forscher bei Anthropic hat seinen Job gekündigt und die KI-Branche verlassen. Er begründet dies mit der Sorge, dass der Wettbewerb zwischen führenden Laboren die Entwicklung selbstverbessernder Modelle vorantreibt, die der menschlichen Kontrolle entgleiten könnten, berichtete das Wall Street Journal…

KI-Durchbruch bei Navier-Stokes: Streit um Urheberschaft zwischen OpenAI und Anthropic-Forschern

Ein Streit über eines der berühmtesten ungelösten Probleme der Mathematik entbrannte am Dienstag, nachdem der NYU-Mathematiker Tristan Buckmaster OpenAI beschuldigte, sich voreilig Lorbeeren für Arbeiten angeeignet zu haben, die auf seiner eigenen Forschung basieren. Zudem soll das Unternehmen ihn unter…

Anthropic verschiebt Börsengang auf Mitte Oktober und sichert sich 15 Milliarden Dollar Kreditlinie

Anthropic, der Hersteller des KI-Assistenten Claude, steuert auf das zu, was der größte Börsengang der Geschichte werden könnte. Banken bewerten das Unternehmen mit bis zu 2 Billionen Dollar – mehr als das Doppelte der letzten privaten Bewertung von 965 Milliarden…