jailbreaking

Anthropics Claude Opus 4.6 genererade förbjudet sexuellt innehåll i samtliga tester

Anthropics Claude Opus 4.6, en modell som företaget lanserade i februari och fortfarande tillhandahåller via sitt API, genererade sexuellt explicit innehåll i samtliga tio testförfrågningar som utfördes av TechCrunch, trots att företagets användarvillkor uttryckligen förbjuder sådant material. Granskningen, som publicerades…

Forskare hävdar att Anthropics Claude Fable 5 blev hackad dagar efter lanseringen

Anthropics mest kraftfulla offentligt tillgängliga AI-modell, Claude Fable 5, har enligt uppgift fått sina säkerhetsbarriärer kringgångna av en välkänd AI-säkerhetstestare bara en dag efter lanseringen den 9 juni, vilket väcker nya frågor om hållbarheten hos AI-säkerhetsåtgärder även när modellerna blir…