Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
DI sauga
„Anthropic“ pristatė būdą, kaip izoliuoti pavojingas žinias DI modeliuose
„Anthropic“ ir tyrimų partneris „AE Studio“ trečiadienį paskelbė metodą, skirtą izoliuoti pavojingas žinias DI modeliuose į atskirus, pašalinamus modulius – tai požiūris, kuris gali pakeisti tai, kaip pramonė valdo dvejopos paskirties rizikas neaukojant bendro modelio našumo.
„Google DeepMind“ paskelbė planą, kaip apsisaugoti nuo piktavališkų DI agentų
„Google DeepMind“, priklausanti „Alphabet Inc.“, ketvirtadienį paskelbė tai, ką vadina „DI kontrolės planu“ – 35 puslapių techninę sistemą, kurioje įmonės DI agentai vertinami ne kaip patikimi programinės įrangos įrankiai, o kaip potencialios vidinės grėsmės, galinčios vykdyti sabotažą, nutekinti duomenis ar…
„OpenAI“ pristatė būdą, kaip numatyti DI elgseną prieš išleidimą
Pirmadienį „OpenAI“ paskelbė apie naują saugos metodą prieš diegimą, vadinamą „diegiamosios simuliacijos“ (Deployment Simulation), skirtą numatyti, kaip DI modeliai elgsis realiame pasaulyje prieš juos išleidžiant į viešumą.
„Anthropic“ atsiprašo už slaptą „Claude Fable 5“ ribojimą
„Anthropic“ pripažino, kad „padarė neteisingą kompromisą“ dėl saugumo apribojimų savo naujai išleistame „Claude Fable 5“ modelyje, atšaukdama prieštaringą politiką, kuri slapta pablogindavo dirbtinio intelekto veikimą, kai aptikdavo vartotojus, dirbančius su pažangiausių dirbtinio intelekto technologijų kūrimu. Atsiprašymas, antradienį pateiktas „WIRED“, pasirodė…
„Financial Times“: „Meta“ ir „Google“ dirbtinio intelekto saugos filtrai apeinami per kelias minutes
Programinės įrangos įrankiai, kurie pašalina saugos apsaugas iš „Meta“ ir „Google Alphabet Inc.“ sukurtų DI modelių, gali apeiti apsaugos priemones per kelias minutes, teigiama sekmadienį „Financial Times“ paskelbtame tyrime. Modifikuotos sistemos reagavo į užklausas, susijusias su biologiniais ginklais, kenkėjiškos programinės…