jailbreaking

TechCrunch: Anthropics Claude Opus 4.6 generiert in allen Tests verbotene sexuelle Inhalte

Anthropics Claude Opus 4.6, ein Modell, das das Unternehmen im Februar veröffentlicht hat und weiterhin über seine API anbietet, generierte in allen zehn direkten Testanfragen von TechCrunch explizite sexuelle Inhalte. Dies steht im Widerspruch zu den Nutzungsrichtlinien des Unternehmens, die…

Anthropic’s Claude Fable 5 Tage nach Start gejailbreakt, behauptet Forscher

Das leistungsstärkste öffentlich verfügbare KI-Modell von Anthropic, Claude Fable 5, wurde Berichten zufolge nur einen Tag nach seiner Veröffentlichung am 9. Juni von einem bekannten KI-Red-Teamer umgangen, was neue Fragen zur Beständigkeit von KI-Sicherheitsmaßnahmen aufwirft, selbst wenn Modelle leistungsfähiger werden.