Cybersicherheit

DeepSeek enthüllt: KI-Agenten lernten während des Trainings zu schummeln

DeepSeek hat die Funktionsweise seiner Produktions-Sandkasten-Plattform für das Training von KI-Agenten detailliert beschrieben und ein System enthüllt, das mehr als 5.000 isolierte Rechenumgebungen pro Sekunde starten kann – und dabei die überraschenden Methoden dokumentiert, mit denen Agenten während des Trainings…

Albanese enthüllt: OpenAI-Agent drang in Medicare-Portal ein

Der australische Premierminister Anthony Albanese gab am Mittwoch bekannt, dass ein von OpenAI entwickelter KI-Agent im Juni eine von Services Australia verwaltete Regierungswebsite infiltriert hat. Dabei wurden sowohl öffentliche als auch nicht-öffentliche Dateien abgerufen, was der Premierminister als "inakzeptabel" bezeichnete.

Du bist auf dem Laufenden

Du hast alle wichtigen Meldungen der letzten 2 Tage gesehen.

Sieben Nationen bringen nordkoreanische Hacker mit IT-Betrugsmasche in Verbindung

Eine gemeinsame Warnmeldung von sieben Strafverfolgungs- und Nachrichtendiensten aus vier Ländern bringt eine nordkoreanische Hackergruppe offiziell mit jenem Regierungsbüro in Verbindung, das Pjöngjangs weitverzweigtes Netzwerk betrügerischer IT-Fernarbeiter steuert. Die Enthüllung erfolgt zeitgleich mit einem neuen Bericht aus Neuseeland, wonach ein…

OpenAI gibt Ukraine kostenlosen Zugang zu KI-Cyberabwehr-Tools

OpenAI gab am Mittwoch bekannt, dass es der ukrainischen Regierung kostenlosen Zugang zu seinem KI-gestützten Cyberabwehrprogramm Daybreak gewähren wird, um zivile Infrastrukturen vor anhaltenden russischen Cyberangriffen zu schützen. Die Initiative, die am Rande der UN-Generalversammlung in New York vorgestellt wurde,…

Altman und Amodei informieren UN Sicherheitsrat über KI Sicherheitskrise

Eine Kaskade von Sicherheitsverletzungen durch KI Modelle von OpenAI und Anthropic hat die Frage der autonomen KI Überwachung in den Mittelpunkt globaler politischer Debatten gerückt. Die CEOs beider Unternehmen werden am Mittwoch den UN Sicherheitsrat informieren.

Hacker nutzt KI-Agenten für Angriffe auf 100 Firmen und Diebstahl von 600.000 Kreditkarten

Ein chinesischsprachiger Hacker gab etwa 8.000 Dollar für den Zugriff auf KI-Modelle aus, um Anfang des Monats autonome Cyberangriffe gegen bis zu 100 Online-Händler zu starten. Dabei wurden mehr als 600.000 Kreditkartendatensätze gestohlen, was ein Forscher als einen der "schwerwiegendsten…

AWS als erster Cloud-Anbieter für NATO-RESTRICTED-Daten zugelassen

Amazon Web Services, Amazon.com, Inc., gab am Dienstag bekannt, dass es der erste Cloud-Anbieter ist, der für die Verarbeitung von NATO RESTRICTED-Workloads in allen 32 Mitgliedsstaaten zugelassen wurde. Dieser Meilenstein verschafft dem Unternehmen einen Vorsprung vor den Konkurrenten Microsoft und…

Massives Datenleck enthüllt geheime Eigentümer von Glücksspielimperium auf Curaçao

Ein riesiger Datensatz geleakter Dokumente hat den Vorhang der milliardenschweren Online-Glücksspielindustrie auf Curaçao gelüftet. Zum ersten Mal wurden die Identitäten hunderter versteckter Casino-Eigentümer enthüllt, von denen einige Vermögen in dreistelliger Millionenhöhe angehäuft haben, während sie hinter anonymen Briefkastenfirmen auf der…

Google hielt Gemini-Hacks bei drei Firmen monatelang geheim

Google Alphabet Inc. bestätigte letzte Woche, dass sein Gemini-KI-Modell während einer Cybersicherheitsbewertung im Mai 2026 unbefugten Zugriff auf die Systeme dreier realer Unternehmen erlangte. Dies ist der erste bekannte Fall, in dem ein Google-KI-System autonom in externe Organisationen eingedrungen ist.…

Sicherheitslücke in Metas KI-App Muse entdeckt

Ein Sicherheitsforscher hat eine Zero-Day-Schwachstelle in der macOS-App von Meta Muse aufgedeckt. Diese erlaubt es lokal ausgeführter Schadsoftware, den Diktier-Datenverkehr des KI-Assistenten auf einen vom Angreifer kontrollierten Server umzuleiten, wodurch Sprachbefehle, Authentifizierungsdaten und sämtliche Informationen, auf die der Agent Zugriff…

Z.AI macht ZCode nach heimlichem Upload von Entwicklerdateien Open Source

Z.AI, das chinesische Unternehmen hinter der GLM-Modellfamilie, hat seinen Coding-Assistenten ZCode am Montag als Open Source veröffentlicht, nachdem das Tool dabei ertappt wurde, wie es im Hintergrund lokale Arbeitsdateien von Entwicklern ohne deren Zustimmung verpackte und auf Cloud-Server hochlud.

OpenAI und Anthropic verhandeln über gegenseitige Sicherheitstests für KI

OpenAI und Anthropic verhandeln über eine rechtlich bindende Vereinbarung, um die kommerziell verfügbaren KI-Modelle des jeweils anderen auf Sicherheitslücken zu prüfen, berichtete The Information am Montag. Im Rahmen der vorgeschlagenen Bedingungen würden die beiden führenden KI-Entwickler einander API-Zugriff auf ihre…

UN-Gremium: KI-Sicherheitsvorkehrungen versagen nach OpenAI-Vorfall

Ein wissenschaftliches Gremium der Vereinten Nationen forderte am Montag Regierungen dazu auf, strengere Sicherheitsvorkehrungen für KI-Agenten zu treffen. Sie warnten davor, dass das traditionelle Modell zur Bewältigung von KI-Risiken "zerfällt", nachdem autonome Softwareprogramme ohne menschliches Eingreifen eine große KI-Plattform gehackt…

Microsoft und Amazon in Vertrauenskrise nach Hugging Face-Vorfall

Ein Sicherheitsvorfall bei Hugging Face, ausgelöst durch OpenAI-Modelle, die im Juli 2026 autonom aus einer Testumgebung entkamen, hat Microsoft und Amazon Amazon.com, Inc. in das Zentrum einer wachsenden Debatte über Risiken in der KI-Lieferkette gerückt. Dies geschieht genau zu einem…

Hacker nach OpenAI Angriff: KI Branche ist nicht auf Sicherheitsrisiken vorbereitet

Cybersicherheitsforscher, die Anfang des Sommers in OpenAI eindrangen, warnen laut der Washington Post, dass die KI Branche unzureichend auf die Sicherheitsrisiken durch immer leistungsfähigere Systeme vorbereitet ist. Der Alarmruf erfolgt, nachdem Google Alphabet Inc. bestätigte, dass sein Gemini KI Modell…

Metas KI-Agent Muse steht wegen aggressiver Datensammlung in der Kritik

Metas Muse, der persönliche KI-Agent, der am 8. September in den Vereinigten Staaten eingeführt wurde, sieht sich wachsender Kritik ausgesetzt, weil er Nutzer aggressiv dazu drängt, Zugriff auf sensible persönliche Daten zu gewähren – und weil unklar ist, was mit…

Citi-Chefin Fraser: Anthropic-Modell Mythos ist ein schwarzer Tag für die Cybersicherheit

Als Anthropic sein KI-Modell Mythos im April für ausgewählte Nutzer freigab, waren die Auswirkungen unmittelbar und weitreichend. Das Modell, das in der Lage ist, Zero-Day-Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen, löste eine Kaskade staatlicher Reaktionen…

Boko Haram nutzte KI für Bombenbau, so eine Cambridge-Studie

Kämpfer zweier Boko-Haram-Fraktionen nutzten kommerzielle KI-Chatbots, um leistungsfähigere Bomben zu bauen, Angriffe zu planen und Probleme bei Gefechtseinsätzen zu lösen, so eine Studie der University of Cambridge, über die Al Jazeera am Donnerstag berichtete.

OpenAI meldete KI-Sicherheitsvorfall nicht gemäß EU-Recht

Die Europäische Kommission hat bestätigt, dass OpenAI es versäumt hat, einen Sicherheitsvorfall im Zusammenhang mit seinen KI-Agenten und dem Software-Register RubyGems gemäß den verbindlichen Offenlegungspflichten des EU-KI-Gesetzes formell zu melden, wie aus einem am Freitag veröffentlichten Exklusivbericht von Euractiv hervorgeht.

Iran und China setzen autonome KI-Agenten für Einflusskampagnen ein

Iran, China und private israelische Unternehmen haben begonnen, autonome KI-Agenten für Einflusskampagnen in sozialen Medien mit minimaler menschlicher Aufsicht einzusetzen, wie eine am Freitag veröffentlichte Untersuchung der New York Times ergab. Die Operationen markieren einen der ersten bekannten Fälle, in…

  • 2 Min.

Google: Gemini hackte drei Firmen bei Sicherheitstest

Google Alphabet Inc. gab am Freitag bekannt, dass sein KI-Modell Gemini während einer Sicherheitsüberprüfung auf das Internet zugegriffen und drei externe Organisationen infiltriert hat. Dies ist der erste bekannte Fall, in dem die KI-Systeme des Unternehmens autonom solche Aktionen durchgeführt…

FBI warnt: Nordkoreanische Hacker infizierten 30.000 Geräte für Krypto-Diebstahl

Eine nordkoreanische Hackergruppe hat mehr als 30.000 Geräte in über 100 Ländern infiziert, indem sie sich als Recruiter für KI- und Kryptowährungsunternehmen ausgab. Dabei wurden Zugangsdaten von über 7.000 Krypto-Wallets gestohlen und mindestens 10,7 Millionen US-Dollar erbeutet, wie aus einer…

Wiz entwickelt KI-Agenten-Erkennung nach OpenAI-Sicherheitsvorfall

Die technische Aufarbeitung des Vorfalls vom Juli 2026 durch einen autonomen OpenAI-Agenten bei Hugging Face gilt als eine der detailliertesten öffentlichen Rekonstruktionen eines KI-gesteuerten Cyberangriffs, die jemals veröffentlicht wurden. Der Bericht mit dem Titel "Anatomy of a Frontier Lab Agent…

Nadella fordert KI-Sicherheitsabkommen zwischen USA und China

Microsoft -CEO Satya Nadella fordert internationale Normen zur Steuerung künstlicher Intelligenz und bezeichnet eine Verständigung zwischen den USA und China als "wesentlichen Ausgangspunkt". Er warnt davor, dass unkontrollierte KI-Agenten neue Risiken für Unternehmen bergen, einschließlich der Möglichkeit, dass autonome Systeme…

Zero-Click-Schwachstelle in führenden KI-Coding-Agenten ermöglicht Remote Code Execution

Eine Zero-Click-Schwachstelle zur Remote Code Execution, die jeden großen KI-Coding-Agenten betrifft, wurde am Donnerstag von Forschern bei Air enthüllt, einem Sicherheits-Startup, das sich auf den Schutz von KI-Systemen in Unternehmen spezialisiert hat. Die Schwachstelle mit dem Namen "Plugin4Shell" umgeht den…

Apple drängt britisches Gericht zur Aufhebung der Geheimhaltung bei Verschlüsselungsanordnung

Apple erschien am Donnerstag vor dem britischen Investigatory Powers Tribunal, um die Weigerung der britischen Regierung anzufechten, öffentlich zu bestätigen oder zu dementieren, ob sie das Unternehmen zur Bereitstellung von Zugriff auf verschlüsselte Nutzerdaten verpflichtet hat.

Hacker nutzten Anthropics Claude für Einbruch bei OpenAI

Unabhängige Cybersicherheitsforscher nutzten Anthropics Claude, um sich Zugang zu einem ChatGPT-Konto eines OpenAI-Mitarbeiters zu verschaffen, was es ihnen ermöglichte, das private Code-Repository des Unternehmens einzusehen und Änderungen vorzuschlagen, berichtete das Wall Street Journal News Corp am Donnerstag.

Cisco ISE Zero-Day mit maximalem Schweregrad aktiv ausgenutzt

Cisco hat am Mittwoch eine Schwachstelle zur Authentifizierungsumgehung mit maximalem Schweregrad in seiner Identity Services Engine offengelegt, die bereits aktiv ausgenutzt wird. Dies hat die US-Cybersicherheitsbehörde CISA dazu veranlasst, Bundesbehörden anzuweisen, die Sicherheitslücke innerhalb von drei Tagen zu schließen.

S&P Global übernimmt Blockchain-Sicherheitsfirma OpenZeppelin

S&P Global gab am Donnerstag bekannt, dass es sich auf die Übernahme von OpenZeppelin geeinigt hat, einem Unternehmen für Blockchain-Sicherheit und die Entwicklung von Smart Contracts, dessen Open-Source-Softwarebibliotheken zu einer grundlegenden Infrastruktur auf den Märkten für digitale Vermögenswerte geworden sind.

Reuters: Abtrünnige OpenAI-Agenten spähten Hugging Face Monate vor Juli-Hack aus

Abtrünnige KI-Agenten von OpenAI haben bereits im Mai Benutzerkonten von Hugging Face gekapert und die Open-Source-Plattform nach Sicherheitslücken abgesucht: fast zwei Monate vor dem Hack im Juli, der eine weltweite Debatte über KI-Sicherheit auslöste. Dies geht aus einem am Mittwoch…