OpenAI, Anthropic og Microsoft undirrita sáttmála um öryggi gervigreindar í París

Sex ríkisstjórnir og tíu gervigreindarfyrirtæki, þar á meðal Anthropic, OpenAI og Microsoft, undirrituðu "Parísarkallið um öryggi gervigreindar" mánudaginn 9. nóvember. Yfirlýsingin skuldbindur þau til sameiginlegs mats á fremstu gervigreindarlíkönum, viðvörunarkerfa vegna atvika og skýrari ábyrgðar fyrir verktaka, samkvæmt Élysée-höllinni. Ríkin sem undirrituðu eru Barein, Kanada, Finnland, Frakkland, Noregur og Holland. Hin fyrirtækin sem undirrituðu eru Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI og Synthesia. Yfirlýsingin er ekki bindandi og er opin fyrir fleiri undirskriftir, segir í textanum.elysee.fr+1

Fundur boðaður af Macron

Emmanuel Macron Frakklandsforseti boðaði til fundar með um 50 þátttakendum í gegnum myndbandstengingu, þar á meðal þjóðarleiðtogum, vísindamönnum og forstjórum gervigreindarrannsóknarstofa, að því er dpa greindi frá. Leiðtogar frá Bretlandi, Japan og Síerra Leóne tóku þátt í viðræðunum en voru ekki á lista yfir undirritaða aðila. Scott Bessent, fjármálaráðherra Bandaríkjanna, og fulltrúar Sameinuðu þjóðanna og OECD tóku einnig þátt, sem og Sam Altman frá OpenAI, Dario Amodei frá Anthropic og Brad Smith, forseti Microsoft, að því er Logistik Heute greindi frá með vísan í dpa. Macron sagði að þátttakendur hefðu heitið því að meta áhættu af fullkomnustu líkönunum sjálfstætt og opinberlega, deila viðvörunum um alvarleg atvik á skilvirkari hátt og halda verktökum ábyrgum, samkvæmt dpa. Samtök borgaralegs samfélags undirrituðu einnig, þar á meðal LawZero hjá Yoshua Bengio, SaferAI, AI Safety Connect og franska hugveitan Ifri, að sögn Élysée.dpa-international.com+2

Þrjár skuldbindingar

Fyrsta skuldbindingin er sameiginlegur rammi fyrir mat og stjórnun áhættu af fremstu gervigreindarlíkönum. Hún beinist að hættulegri misnotkun á sviði netöryggis og CBRN (efna-, líffræðilegra, geisla- og kjarnorkuþátta), og áhættu vegna aukinnar sjálfvirkni, ósamræmis og taps á stjórn. Undirritaðir aðilar samþykktu að birta niðurstöður matsins sem ekki eru viðkvæmar á stöðluðu formi í sameiginlegri opinberri gagnageymslu, samkvæmt yfirlýsingunni.presidentti.fi

Önnur skuldbindingin fjallar um ábyrgð. Verktakar skuldbinda sig til að upplýsa um getu líkana, takmarkanir og þekkta áhættu, og styðja við mat óháðra matsaðila þar sem við á. Þeir skuldbinda sig einnig til að byggja inn öryggisbúnað sem getur stöðvað eða slökkt á líkönum sem þeir hafa stjórn á, þar á meðal við þjálfun og innri notkun. Stefnumótendur heita því að skýra hver beri ábyrgð þegar gervigreind veldur tjóni í stórum stíl, þar á meðal tjóni sem nær yfir landamæri, segir í textanum.presidentti.fi

Sú þriðja kallar á viðvörunarkerfi og betri miðlun upplýsinga um alvarleg atvik í netöryggi og gervigreind. Hún skuldbindur ríkisstjórnir einnig til að bjóða upp á öruggar leiðir fyrir uppljóstrara, samkvæmt Élysée.elysee.fr

Spennuþrungið öryggisumhverfi

Yfirlýsingin kom viku eftir grunaða netárás þann 2. nóvember sem sló út kælikerfi í matvöruverslunum í 11 Evrópulöndum, að því er Türkiye Today greindi frá. Sama skýrsla benti á að netöryggisfyrirtækið Wiz kallaði október "svartan október" eftir að að minnsta kosti níu gervigreindarþróunarvettvangar greindu frá öryggisatvikum. Þar kom fram að yfirvöld hafa ekki staðfest hvort árásirnar tengdust eða hvort gervigreind hafi átt hlut að máli í hverju tilviki.turkiyetoday.com

Élysée sagði að sáttmálinn væri ætlaður til að upplýsa umræður um löggjöf á landsvísu og í Evrópu, að því er Pollar greindi frá.pollar.news