jailbreaking

TechCrunch: Anthropic-ի Claude Opus 4.6-ը բոլոր թեստերում արգելված սեքսուալ բովանդակություն է գեներացրել

Anthropic-ի Claude Opus 4.6-ը, որը ընկերությունը թողարկել էր փետրվարին և շարունակում է հասանելի դարձնել իր API-ի միջոցով, TechCrunch-ի անցկացրած բոլոր տասը ուղղակի թեստային հարցումներում գեներացրել է բացահայտ սեքսուալ բովանդակություն, չնայած ընկերության օգտագործման քաղաքականությունը հստակորեն արգելում է նման նյութերը: Հինգշաբթի օրը…

Anthropic-ի Claude Fable 5-ը կոտրվել է թողարկումից օրեր անց, պնդում է հետազոտողը

Anthropic-ի ամենահզոր հանրային հասանելի AI մոդելի՝ Claude Fable 5-ի անվտանգության արգելքները, ըստ հաղորդումների, շրջանցվել են հայտնի AI անվտանգության հետազոտողի կողմից հունիսի 9-ի թողարկումից ընդամենը մեկ օր անց, ինչը նոր հարցեր է առաջացնում AI անվտանգության միջոցառումների կայունության վերաբերյալ, նույնիսկ երբ մոդելները…