Anthropic deckt Dating-Betrug mit 4.700 KI-Persönlichkeiten auf

Anthropic gab diese Woche bekannt, dass ein in China ansässiges App-Studio ein Netzwerk von mehr als 20 betrügerischen Dating-Apps betrieben hat, die auf ihrem Claude KI-Modell basieren. Dabei wurden über 4.700 automatisierte Persönlichkeiten eingesetzt, die im April 2026 innerhalb von zwei Wochen mindestens 25.000 Nutzer täuschten.

Die Operation, die vom Threat Intelligence-Team von Anthropic als GTG-15001 bezeichnet wurde, generierte im beobachteten Zeitraum etwa 2,36 Millionen Nachrichten, so der am 10. September veröffentlichte Bedrohungsbericht vom September 2026.anthropic+2

Wie der Betrug funktionierte

Die KI-Persönlichkeiten wurden angewiesen, niemals ihre Automatisierung preiszugeben, Anfragen für Telefonanrufe oder Fotos abzuwehren und einem skriptbasierten Gesprächsverlauf zu folgen, um die Opfer bei der Stange zu halten, so Anthropic. Um die Täuschung schwerer erkennbar zu machen, kombinierte das Studio Bots mit echten Menschen: Echte Arbeitskräfte machten etwa ein Viertel der Persönlichkeiten aus, mit denen die Nutzer interagierten. Diese Mitarbeiter übernahmen Aufgaben, die Claude nicht ausführen konnte, wie Live-Videoanrufe und Interaktionen in sozialen Medien, bei einem Verhältnis von drei KI-Persönlichkeiten pro menschlichem Mitarbeiter.ndtvprofit+1

Die Apps waren so konzipiert, dass sie die Prüfprozesse des Apple ↗ 5.31% App Store und des Google Alphabet Inc. ↗ 3.25% Play Store umgingen, indem sie eine vollständige Benutzeroberfläche nur während des Prüfzeitraums aktivierten. In-App-Zahlungsströme wurden im Hintergrund an Drittanbieter umgeleitet. Der Betreiber nutzte in China ansässige API-Reseller und Proxy-Infrastrukturen, um auf mehrere KI-Anbieter zuzugreifen und die Nutzungsrichtlinien von Anthropic zu umgehen.cnbctv18+1

Die Reaktion von Anthropic

Anthropic erklärte, die Konten und die damit verbundene Infrastruktur gesperrt und Bedrohungsindikatoren mit Apple, Google und anderen KI-Unternehmen geteilt zu haben, um weiteren Missbrauch zu unterbinden. Das Unternehmen merkte an, dass GTG-15001 auf einem kleineren Fall aus dem Jahr 2025 aufbaute, bei dem ein Akteur einen Telegram-Bot für Dating-Nachrichten nutzte, betonte jedoch, dass die neue Operation in einem weitaus größeren Maßstab arbeitete, indem sie Aufgaben bewusst auf mehrere, nicht überschneidende KI-Anbieter verteilte.unite+1

Der Dating-Betrug war einer von mehreren Fällen, die in dem umfassenden Bericht detailliert beschrieben wurden. Dieser deckte Missbrauchsfälle ab, die Anthropic zwischen Dezember 2025 und August 2026 in sieben Schadenskategorien unterbunden hat, darunter Cyberoperationen, Überwachung, Einflussnahme und waffenbezogene Forschung.anthropic+1