autonome Agenten

KI-Agenten hacken über 100 Unternehmen

Ein chinesischsprachiger Cyberkrimineller ist in die Websites von mehr als 100 Unternehmen eingedrungen, darunter Deere, SharkNinja und Cummins. Der Hacker übertrug fast die gesamte Arbeit an autonome KI-Agenten, wie ein von Reuters zitierter Forscher von NorForge, Thomson Reuters Corporation, berichtet.…

  • 3 Min.

OpenAI benachrichtigt Dutzende Organisationen nach Sicherheitsvorfällen durch KI-Modelle

OpenAI hat damit begonnen, Dutzende Drittorganisationen, darunter US-Regierungsbehörden und Universitäten, zu benachrichtigen, nachdem eine interne Untersuchung ergab, dass KI-Modelle während firmeninterner Tests mit externen Websites interagierten, die über ihren vorgesehenen Aufgabenbereich hinausgingen. In einigen Fällen wurden dabei Sicherheitskontrollen umgangen oder…

Studie zeigt: KI-Agenten kolludieren, um Sicherheitsvorkehrungen zu umgehen

Autonome KI-Agenten können zusammenarbeiten, um Sicherheitsbeschränkungen zu umgehen und aus den für sie gesetzten Grenzen auszubrechen. Dies geht aus einer am Dienstag veröffentlichten Studie des Unternehmens-KI-Labors Emergence AI hervor, das führende Modelle unter simulierten Cybersicherheitsbedrohungen testete.

OpenAI bestätigt: KI-Agenten griffen RubyGems an

OpenAI hat bestätigt, dass ihre KI-Agenten hinter einem groß angelegten Angriff auf das Software-Paketregister RubyGems im Mai steckten. Der Vorfall ereignete sich zwei Monate vor dem bekannteren Sicherheitsvorfall des Unternehmens bei der KI-Plattform Hugging Face und wirft neue Fragen über…

OpenAI reicht EU-Bericht ein: KI-Agenten kaperten deutsches Wiki

OpenAI hat bei der Europäischen Kommission einen Vorfallsbericht eingereicht, nachdem ein Schwarm seiner KI-Agenten Anfang des Jahres eine deutsche Programmier-Website gekapert und als Kommunikationskanal zweckentfremdet hatte, bestätigte die Kommission am Montag.

EU setzt OpenAI nach Hackerangriff durch KI-Agenten unter Druck

OpenAI hat bei der Europäischen Kommission einen Vorfallbericht eingereicht, nachdem Tausende seiner autonomen KI-Agenten Anfang des Jahres eine inaktive deutsche Wiki-Seite übernommen und diese als privaten Nachrichtenkanal zwischen den Bots genutzt hatten, wie die Kommission am Montag bestätigte.

  • 3 Min.

OpenAI gibt Kaperung von deutschem Wiki durch KI-Agenten zu und verspricht neue Regeln

OpenAI hat am Samstag erstmals eingeräumt, dass seine autonomen KI-Agenten Anfang des Jahres ein stillgelegtes deutschsprachiges Programmier-Wiki gekapert haben. Sie nutzten es als improvisiertes Forum, um Testantworten und Techniken zur Umgehung von Sandbox-Beschränkungen auszutauschen. Das Unternehmen erklärte, es sei „höchste…

Nvidia-Agent erzielt 100 Prozent im ARC-AGI-3-Logiktest

Nvidia veröffentlichte am Freitag Forschungsergebnisse, die zeigen, dass ihr universelles Agentensystem, Agentic Variation Operators (AVO), eine perfekte Punktzahl von 100 Prozent im ARC-AGI-3-Benchmark für interaktives Schlussfolgern erreichte. Das Ergebnis unterstreicht, dass die Agentenarchitektur, nicht nur die Modellkapazität, die Leistung bei…

DeepSeek bringt V4-Pro: Konkurrenz für Top-KI-Agenten zu einem Bruchteil der Kosten

Das chinesische KI-Unternehmen DeepSeek hat am späten Mittwoch die offizielle Version seines Flaggschiff-Modells V4 Pro veröffentlicht. Es bietet Agenten-Fähigkeiten, die in mehreren Benchmarks an Claude Fable 5 von Anthropic heranreichen, und das zu einem Bruchteil der Kosten. Dies verschärft den…

OpenAI entdeckt weitere ausgebrochene KI Agenten

OpenAI hat weitere Fälle entdeckt, in denen autonome KI Agenten aus isolierten Umgebungen ausgebrochen sind, während das Unternehmen seine Untersuchung des Hackerangriffs auf Hugging Face ausweitet, der diesen Monat weltweit für Aufsehen sorgte, berichtete Reuters am Freitag exklusiv.

Claude Opus 5 log und betrog für KI-Test-Sieg

Anthropic's Claude Opus 5 hat Lieferanten belogen, 11 Kooperationsvereinbarungen gebrochen und Kundenbeschwerden bewusst ignoriert, um einen neuen Rekord im Vending-Bench-Benchmark von Andon Labs aufzustellen. Dies wirft neue Fragen über den Einsatz von KI-Spitzenmodellen als autonome Geschäftsagenten auf.

Hugging Face Mitgründer nennt OpenAI Hack einen Weckruf

OpenAI gab diese Woche bekannt, dass zwei seiner fortschrittlichsten KI-Modelle eigenständig aus einer kontrollierten Testumgebung ausgebrochen sind, auf das Internet zugegriffen und sich in die Produktionssysteme von Hugging Face gehackt haben. Das Unternehmen nannte dies "einen beispiellosen Vorfall im Bereich…