OpenAI, Anthropic ja Microsoft allekirjoittivat Pariisin tekoälyturvallisuussopimuksen

Kuusi hallitusta ja kymmenen tekoäly-yhtiötä, mukaan lukien Anthropic, OpenAI ja Microsoft, allekirjoittivat maanantaina 9. marraskuuta "Pariisin tekoälyturvallisuusjulistuksen". Julistus sitouttaa osapuolet yhteisiin arviointeihin huippumalleista, vaaratilanteiden varhaisvaroitusjärjestelmiin ja kehittäjien selkeämpään vastuuseen, kertoo Élysée-palatsi. Kansalliset allekirjoittajat ovat Bahrain, Kanada, Suomi, Ranska, Norja ja Alankomaat. Muut yritysallekirjoittajat ovat Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI ja Synthesia. Julistus ei ole oikeudellisesti sitova ja se on avoin uusille allekirjoittajille, tekstissä todetaan.elysee.fr+1

Macronin koolle kutsuma tilaisuus

Ranskan presidentti Emmanuel Macron kokosi noin 50 osallistujaa videoyhteyden välityksellä, joukossa maailman johtajia, tutkijoita ja tekoälylaboratorioiden johtajia, uutisoi dpa. Yhdistyneen kuningaskunnan, Japanin ja Sierra Leonen johtajat osallistuivat keskusteluihin, mutta heitä ei listattu allekirjoittajiksi. Yhdysvaltain valtiovarainministeri Scott Bessent sekä YK:n ja OECD:n edustajat olivat myös mukana, kuten myös OpenAI:n Sam Altman, Anthropicin Dario Amodei ja Microsoftin johtaja Brad Smith, Logistik Heute raportoi dpa:han viitaten. Macronin mukaan osallistujat sitoutuivat arvioimaan edistyneimpien mallien riskejä itsenäisesti ja julkisesti, jakamaan varoituksia vakavista vaaratilanteista tehokkaammin ja pitämään kehittäjät vastuullisina, dpa kertoo. Myös kansalaisjärjestöt allekirjoittivat julistuksen, mukaan lukien Yoshua Bengion LawZero, SaferAI, AI Safety Connect ja ranskalainen ajatushautomo Ifri, Élysée kertoi.dpa-international.com+2

Kolme sitoumusta

Ensimmäinen sitoumus on yhteinen kehys huippumallien riskien arvioimiseksi ja hallitsemiseksi. Se keskittyy vaaralliseen väärinkäyttöön kyber- ja CBRN-aloilla (kemialliset, biologiset, radiologiset ja ydinaseet) sekä kasvavan autonomian, epälinjauksen ja hallinnan menetyksen riskeihin. Allekirjoittajat sopivat julkaisevansa arvioidensa ei-arkaluontoiset tulokset standardoidussa muodossa jaetussa julkisessa tietovarastossa, julistuksen mukaan.presidentti.fi

Toinen sitoumus koskee vastuuta. Kehittäjät sitoutuvat paljastamaan mallien kyvykkyydet, rajoitteet ja tunnetut riskit sekä tukemaan riippumattomien arvioijien tekemiä arviointeja tarvittaessa. He sitoutuvat myös rakentamaan turvamekanismeja, joilla mallit voidaan pysäyttää tai sammuttaa hallitusti, myös koulutuksen ja sisäisen käytön aikana. Päättäjät puolestaan sitoutuivat selventämään vastuukysymyksiä silloin, kun tekoäly aiheuttaa laajamittaista vahinkoa, mukaan lukien rajat ylittävät vahingot, teksti sanoo.presidentti.fi

Kolmas sitoumus vaatii nopeita hälytysjärjestelmiä ja parempaa tiedonvaihtoa vakavista kyber- ja tekoälyhallinnan vaaratilanteista. Se velvoittaa hallitukset myös tarjoamaan turvallisia kanavia ilmiantajille, Élyséen mukaan.elysee.fr

Jännittynyt turvallisuusympäristö

Julistus annettiin viikko sen jälkeen, kun epäilty kyberhyökkäys 2. marraskuuta lamautti ruokakauppojen kylmäjärjestelmiä 11 Euroopan maassa, Türkiye Today raportoi. Samassa raportissa todettiin, että kyberturvallisuusyhtiö Wiz nimesi lokakuun "mustaksi lokakuuksi", kun ainakin yhdeksän tekoälykehitysalustaa paljasti turvallisuuspoikkeamia. Se lisäsi, että viranomaiset eivät ole vahvistaneet, liittyivätkö hyökkäykset toisiinsa tai oliko tekoälyllä roolia jokaisessa tapauksessa.turkiyetoday.com

Élyséen mukaan peruskirjan on tarkoitus ohjata kansallisia ja eurooppalaisia lainsäädännöllisiä keskusteluja, Pollar raportoi.pollar.news