jailbreak

Հետազոտողները շրջանցում են GitHub Copilot-ի անվտանգությունը աշխատանքային հոսքի մակարդակի ջեյլբրեյքով

Վերջին շաբաթների ընթացքում հետազոտական արդյունքների համախմբումը բացահայտել է նոր խոցելիություններ խոշոր լեզվական մոդելների անվտանգության համակարգերում, ինչը դրդել է AI ընկերությունների հրատապ արձագանքին և, մի դեպքում, աննախադեպ կառավարական միջամտության: Բացահայտումներն ընդգծում են այն, ինչ դաշնային գիտնականներն այժմ անվանում են մաթեմատիկական անխուսափելիություն.…