OpenAI, Anthropic a Microsoft podepsaly pařížský pakt o bezpečnosti AI

Šest vlád a deset společností zabývajících se umělou inteligencí, včetně Anthropic, OpenAI a Microsoftu, podepsalo v pondělí 9. listopadu „Pařížskou výzvu k bezpečnosti a zabezpečení AI“. Deklarace je podle Elysejského paláce zavazuje ke společnému hodnocení hraničních modelů, systémům včasného varování před incidenty a jasnější odpovědnosti vývojářů. Národními signatáři jsou Bahrajn, Kanada, Finsko, Francie, Norsko a Nizozemsko. Dalšími signatářskými firmami jsou Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI a Synthesia. Deklarace není právně závazná a zůstává otevřená pro další připojení, uvádí text.elysee.fr+1

Setkání svolané Macronem

Francouzský prezident Emmanuel Macron svolal prostřednictvím videokonference asi 50 účastníků, mezi nimiž byli světoví lídři, vědci a šéfové laboratoří AI, uvedla agentura dpa. Lídři ze Spojeného království, Japonska a Sierry Leone se jednání zúčastnili, ale nebyli uvedeni jako signatáři. Podle zprávy Logistik Heute, která cituje dpa, se zúčastnil také americký ministr financí Scott Bessent a zástupci OSN a OECD, stejně jako Sam Altman z OpenAI, Dario Amodei z Anthropic a prezident Microsoftu Brad Smith. Macron podle dpa uvedl, že účastníci se zavázali nezávisle a veřejně posuzovat rizika nejpokročilejších modelů, efektivněji sdílet varování před vážnými incidenty a vyžadovat odpovědnost vývojářů. Deklaraci podepsaly i skupiny občanské společnosti, včetně LawZero Yoshuy Bengia, SaferAI, AI Safety Connect a francouzského think-tanku Ifri, uvedl Elysejský palác.dpa-international.com+2

Tři závazky

Prvním závazkem je společný rámec pro hodnocení a řízení rizik hraničních modelů. Zaměřuje se na nebezpečné zneužití v kybernetické a CBRN (chemické, biologické, radiologické a jaderné) oblasti a na rizika vyplývající z rostoucí autonomie, nesouladu a ztráty kontroly. Signatáři se podle deklarace dohodli na zveřejňování nekritických zjištění svých hodnocení ve standardizovaném formátu ve sdíleném veřejném úložišti.presidentti.fi

Druhý závazek se týká odpovědnosti. Vývojáři se zavazují zveřejňovat schopnosti, omezení a známá rizika modelů a v případě potřeby podporovat hodnocení nezávislými auditory. Zavazují se také vybudovat pojistné mechanismy, které mohou pozastavit nebo vypnout modely pod jejich kontrolou, a to i během tréninku a interního použití. Tvůrci politik se na oplátku zavázali vyjasnit, kdo nese odpovědnost, když AI způsobí rozsáhlé škody, včetně škod přesahujících hranice, uvádí text.presidentti.fi

Třetí závazek volá po systémech rychlého varování a lepším sdílení informací o vážných kybernetických incidentech a incidentech spojených s kontrolou AI. Podle Elysejského paláce také zavazuje vlády k poskytnutí bezpečných kanálů pro oznamovatele.elysee.fr

Napjaté bezpečnostní pozadí

Deklarace přišla týden po podezřelém kybernetickém útoku z 2. listopadu, který vyřadil z provozu chladicí systémy v supermarketech v 11 evropských zemích, uvedl server Türkiye Today. Stejná zpráva poznamenala, že kybernetická bezpečnostní firma Wiz označila říjen za „černý říjen“ poté, co nejméně devět platforem pro vývoj AI oznámilo bezpečnostní incidenty. Dodala, že úřady zatím nestanovily, zda spolu útoky souvisejí nebo zda AI hrála roli v každém z těchto případů.turkiyetoday.com

Elysejský palác uvedl, že charta má informovat národní a evropské legislativní debaty, uvedl Pollar.pollar.news