jailbreak

Výzkumníci obcházejí zabezpečení GitHub Copilot pomocí jailbreaku na úrovni pracovního postupu

Konvergence výzkumných zjištění v posledních týdnech odhalila nové zranitelnosti v bezpečnostních systémech hlavních jazykových modelů, což vyvolalo nouzové reakce ze strany společností zabývajících se umělou inteligencí a v jednom případě i bezprecedentní vládní zásah. Tato zjištění podtrhují to, co federální…