OpenAI, Anthropic og Microsoft signerer AI-sikkerhetspakt i Paris

Seks regjeringer og ti AI-selskaper, inkludert Anthropic, OpenAI og Microsoft, signerte "Paris Call for AI Safety and Security" mandag 9. november. Erklæringen forplikter dem til felles evalueringer av avanserte modeller, systemer for tidlig varsling ved hendelser og tydeligere ansvar for utviklere, ifølge Élysée-palasset. De nasjonale undertegnerne er Bahrain, Canada, Finland, Frankrike, Norge og Nederland. De andre selskapene som har signert er Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI og Synthesia. Erklæringen er ikke bindende og forblir åpen for nye tilslutninger, heter det i teksten.elysee.fr+1

Et møte innkalt av Macron

Frankrikes president Emmanuel Macron samlet rundt 50 deltakere via videolink, deriblant verdensledere, forskere og ledere for AI-laboratorier, meldte dpa. Ledere fra Storbritannia, Japan og Sierra Leone deltok i samtalene, men var ikke oppført som undertegnere. USAs finansminister Scott Bessent og representanter fra FN og OECD deltok også, det samme gjorde Sam Altman fra OpenAI, Dario Amodei fra Anthropic og Microsoft-president Brad Smith, meldte Logistik Heute med henvisning til dpa. Macron sa at deltakerne hadde lovet å vurdere risikoen ved de mest avanserte modellene uavhengig og offentlig, dele advarsler om alvorlige hendelser mer effektivt og holde utviklere ansvarlige, ifølge dpa. Sivilsamfunnsgrupper signerte også, inkludert Yoshua Bengios LawZero, SaferAI, AI Safety Connect og den franske tenketanken Ifri, opplyste Élysée-palasset.dpa-international.com+2

Tre forpliktelser

Den første forpliktelsen er et felles rammeverk for å evaluere og håndtere risikoen ved avanserte modeller. Det fokuserer på farlig misbruk innen cyber- og CBRN-domener (kjemiske, biologiske, radiologiske og nukleære), samt risiko knyttet til økende autonomi, manglende samsvar og tap av kontroll. Undertegnerne ble enige om å publisere ikke-sensitive funn fra sine evalueringer i et standardisert format i et delt offentlig arkiv, ifølge erklæringen.presidentti.fi

Den andre omhandler ansvar. Utviklere forplikter seg til å offentliggjøre modellkapasiteter, begrensninger og kjente risikoer, og til å støtte evaluering fra uavhengige kontrollører der det er hensiktsmessig. De forplikter seg også til å bygge sikkerhetsmekanismer som kan pause eller stenge ned modeller under deres kontroll, inkludert under trening og intern bruk. Beslutningstakere har på sin side lovet å avklare hvem som er ansvarlig når AI forårsaker omfattende skade, inkludert skade som krysser landegrenser, heter det i teksten.presidentti.fi

Den tredje oppfordrer til raske varslingssystemer og bedre informasjonsdeling om alvorlige cyber- og AI-kontrollhendelser. Den forplikter også myndigheter til å tilby sikre kanaler for varslere, ifølge Élysée-palasset.elysee.fr

Et spent sikkerhetsbakteppe

Erklæringen kom en uke etter et mistenkt cyberangrep 2. november som satte ut kjølesystemer i supermarkeder i 11 europeiske land, meldte Türkiye Today. Den samme rapporten bemerket at cybersikkerhetsselskapet Wiz kalte oktober for "Black October" etter at minst ni AI-utviklingsplattformer rapporterte om sikkerhetshendelser. Det ble lagt til at myndighetene ikke har fastslått om angrepene var knyttet sammen eller om AI spilte en rolle i hvert enkelt tilfelle.turkiyetoday.com

Élysée-palasset uttalte at charteret er ment å informere nasjonale og europeiske lovgivningsdebatter, rapporterte Pollar.pollar.news