OpenAI, Anthropic och Microsoft skriver under AI-säkerhetspakt i Paris

Sex regeringar och tio AI-företag, däribland Anthropic, OpenAI och Microsoft, undertecknade "Paris Call for AI Safety and Security" måndagen den 9 november. Deklarationen förbinder dem till gemensamma utvärderingar av avancerade modeller, system för tidig varning vid incidenter och tydligare ansvar för utvecklare, enligt Élyséepalatset. De nationella undertecknarna är Bahrain, Kanada, Finland, Frankrike, Norge och Nederländerna. De övriga företagen som skrivit under är Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI och Synthesia. Deklarationen är inte bindande och förblir öppen för nya anslutningar, står det i texten.elysee.fr+1

Ett möte sammankallat av Macron

Frankrikes president Emmanuel Macron samlade omkring 50 deltagare via videolänk, däribland världsledare, forskare och chefer för AI-laboratorier, rapporterade dpa. Ledare från Storbritannien, Japan och Sierra Leone deltog i samtalen men fanns inte med som undertecknare. USA:s finansminister Scott Bessent och representanter för FN och OECD deltog också, liksom Sam Altman från OpenAI, Dario Amodei från Anthropic och Microsofts president Brad Smith, rapporterade Logistik Heute med hänvisning till dpa. Macron sade att deltagarna lovat att utvärdera riskerna med de mest avancerade modellerna oberoende och offentligt, dela varningar om allvarliga incidenter mer effektivt och hålla utvecklare ansvariga, enligt dpa. Civilsamhällesorganisationer skrev också under, däribland Yoshua Bengios LawZero, SaferAI, AI Safety Connect och den franska tankesmedjan Ifri, uppgav Élyséepalatset.dpa-international.com+2

Tre åtaganden

Det första åtagandet är ett gemensamt ramverk för att utvärdera och hantera riskerna med avancerade modeller. Det fokuserar på farligt missbruk inom cyber- och CBRN-domäner (kemiska, biologiska, radiologiska och nukleära), samt risker från växande autonomi, bristande anpassning och förlust av kontroll. Undertecknarna enades om att publicera icke-känsliga resultat från sina utvärderingar i ett standardiserat format i ett gemensamt offentligt arkiv, enligt deklarationen.presidentti.fi

Det andra rör ansvar. Utvecklare förbinder sig att offentliggöra modellkapaciteter, begränsningar och kända risker, samt att stödja utvärdering av oberoende granskare där så är lämpligt. De förbinder sig också att bygga säkerhetsmekanismer som kan pausa eller stänga av modeller under deras kontroll, inklusive under träning och intern användning. Beslutsfattare har å sin sida lovat att klargöra vem som är ansvarig när AI orsakar storskalig skada, inklusive skada som korsar landsgränser, står det i texten.presidentti.fi

Det tredje efterlyser snabba varningssystem och bättre informationsutbyte om allvarliga cyber- och AI-kontrollincidenter. Det förbinder även regeringar att erbjuda säkra kanaler för visselblåsare, enligt Élyséepalatset.elysee.fr

En spänd säkerhetsbakgrund

Deklarationen kom en vecka efter en misstänkt cyberattack den 2 november som slog ut kylsystem i stormarknader i 11 europeiska länder, rapporterade Türkiye Today. Samma rapport noterade att cybersäkerhetsföretaget Wiz kallade oktober för "Black October" efter att minst nio AI-utvecklingsplattformar rapporterat om säkerhetsincidenter. Det tillades att myndigheterna inte har fastställt om attackerna var kopplade till varandra eller om AI spelade en roll i varje enskilt fall.turkiyetoday.com

Élyséepalatset uppgav att stadgan är avsedd att informera nationella och europeiska lagstiftningsdebatter, rapporterade Pollar.pollar.news