„OpenAI“, „Anthropic“ ir „Microsoft“ pasirašė Paryžiaus DI saugos paktą

Šešios vyriausybės ir dešimt dirbtinio intelekto (DI) įmonių, įskaitant „Anthropic“, „OpenAI“ ir „Microsoft“, pirmadienį, lapkričio 9 d., pasirašė „Paryžiaus kvietimą dėl DI saugos ir saugumo“. Deklaracija įpareigoja jas atlikti bendrus pažangiausių modelių vertinimus, diegti ankstyvojo perspėjimo sistemas ir užtikrinti aiškesnę kūrėjų atskaitomybę, skelbia Eliziejaus rūmai. Nacionalinės šalys pasirašytojos yra Bahreinas, Kanada, Suomija, Prancūzija, Norvegija ir Nyderlandai. Kitos įmonės pasirašytojos yra „Black Forest Labs“, „Cohere“, „Domyn“, „Hugging Face“, „Mistral AI“, „Sakana AI“ ir „Synthesia“. Deklaracija nėra teisiškai privaloma ir lieka atvira naujiems prisijungimams, teigiama tekste.elysee.fr+1

Macrono sušauktas susitikimas

Prancūzijos prezidentas Emmanuelis Macronas vaizdo ryšiu subūrė apie 50 dalyvių, tarp kurių buvo pasaulio lyderiai, mokslininkai ir DI laboratorijų vadovai, pranešė dpa. Jungtinės Karalystės, Japonijos ir Siera Leonės lyderiai dalyvavo derybose, tačiau nebuvo įtraukti į pasirašiusiųjų sąrašą. JAV iždo sekretorius Scottas Bessentas bei Jungtinių Tautų ir EBPO atstovai taip pat dalyvavo, kaip ir „OpenAI“ vadovas Samas Altmanas, „Anthropic“ vadovas Dario Amodei bei „Microsoft“ prezidentas Bradas Smithas, pranešė „Logistik Heute“, remdamasi dpa. Macronas teigė, kad dalyviai įsipareigojo nepriklausomai ir viešai vertinti pažangiausių modelių riziką, efektyviau dalytis įspėjimais apie rimtus incidentus ir reikalauti kūrėjų atskaitomybės, nurodo dpa. Prie deklaracijos prisijungė ir pilietinės visuomenės grupės, įskaitant Yoshua Bengio „LawZero“, „SaferAI“, „AI Safety Connect“ ir Prancūzijos analitinį centrą „Ifri“, pranešė Eliziejaus rūmai.dpa-international.com+2

Trys įsipareigojimai

Pirmasis įsipareigojimas yra bendra sistema, skirta pažangiausių modelių rizikai vertinti ir valdyti. Dėmesys skiriamas pavojingam piktnaudžiavimui kibernetinėje bei CBRN (cheminėje, biologinėje, radiologinėje ir branduolinėje) srityse, taip pat rizikai, kylančiai dėl didėjančio savarankiškumo, nesuderinamumo ir kontrolės praradimo. Pasirašiusios šalys susitarė skelbti nekonfidencialias vertinimų išvadas standartizuotu formatu bendroje viešoje saugykloje, teigiama deklaracijoje.presidentti.fi

Antrasis įsipareigojimas apima atsakomybę. Kūrėjai įsipareigoja atskleisti modelių galimybes, apribojimus ir žinomas rizikas bei prireikus remti nepriklausomų vertintojų atliekamus vertinimus. Jie taip pat įsipareigoja kurti saugiklius, leidžiančius pristabdyti ar išjungti jų kontroliuojamus modelius, įskaitant mokymo ir vidinio naudojimo metu. Savo ruožtu politikos formuotojai įsipareigojo išaiškinti atsakomybės ribas, kai DI sukelia didelio masto žalą, įskaitant tarpvalstybinę žalą, teigiama tekste.presidentti.fi

Trečiasis įsipareigojimas ragina kurti skubaus perspėjimo sistemas ir geriau dalytis informacija apie rimtus kibernetinius bei DI valdymo incidentus. Jis taip pat įpareigoja vyriausybes užtikrinti saugius kanalus pranešėjams, nurodo Eliziejaus rūmai.elysee.fr

Įtemptas saugumo fonas

Deklaracija pasirašyta praėjus savaitei po įtariamos kibernetinės atakos lapkričio 2 d., kuri sutrikdė prekybos centrų šaldymo sistemas 11 Europos šalių, pranešė „Türkiye Today“. Toje pačioje ataskaitoje pažymima, kad kibernetinio saugumo įmonė „Wiz“ spalį pavadino „Juoduoju spaliu“, kai bent devynios DI kūrimo platformos pranešė apie saugumo incidentus. Priduriama, kad valdžios institucijos dar nenustatė, ar šios atakos yra susijusios ir ar DI atliko vaidmenį kiekvienu atveju.turkiyetoday.com

Eliziejaus rūmai nurodė, kad chartija skirta informuoti nacionalines ir Europos teisėkūros diskusijas, pranešė „Pollar“.pollar.news