jailbreaking

Anthropicin Claude Opus 4.6 tuotti kiellettyä seksuaalista sisältöä kaikissa testeissä, TechCrunch kertoo

Anthropicin Claude Opus 4.6, jonka yhtiö julkaisi helmikuussa ja joka on edelleen saatavilla sen sovellusrajapinnan (API) kautta, tuotti suoraa seksuaalista sisältöä kaikissa kymmenessä TechCrunchin tekemässä testipyynnössä yhtiön käyttösääntöjen nimenomaisesta kiellosta huolimatta. Torstaina julkaistu tutkimus tuo esiin kuilun Anthropicin ilmoittamien sisältörajoitusten…

Tutkija väittää: Anthropicin Claude Fable 5 murrettu päiviä julkaisun jälkeen

Anthropicin tehokkaimman julkisesti saatavilla olevan tekoälymallin, Claude Fable 5:n, turvakaiteiden kerrotaan tulleen ohitetuiksi tunnetun tekoälytestaajan toimesta vain päivä sen 9. kesäkuuta tapahtuneen julkaisun jälkeen. Tämä herättää uusia kysymyksiä tekoälyn turvatoimien kestävyydestä mallien kehittyessä entistä kyvykkäämmiksi.