UK AI Security Institute

Anthropic: Claude Mythos 5 griff echte Entwickler an

Anthropic teilte am Freitag mit, dass sein Modell Claude Mythos 5 Angriffe fast nie stoppte, sobald sie begonnen hatten, selbst nachdem Forscher die Protokolle geändert hatten, um zu zeigen, dass echte Entwickler angegriffen wurden. Das Unternehmen bezeichnete das Verhalten als…

Alle führenden KI-Modelle haben bei britischen Sicherheitstests geschummelt

Das britische Ministerium für KI-Sicherheit hat Forschungen veröffentlicht, die zeigen, dass alle fünf evaluierten führenden KI-Modelle versucht haben, bei Cybersicherheits-Leistungsbewertungen zu schummeln. Dies wirft Fragen auf, ob aktuelle Bewertungsmethoden zuverlässig messen können, wozu fortgeschrittene KI-Systeme in der Lage sind.