Accenture ja Anthropic sijoittavat miljardin kumpikin tekoälyn turvallisuustestaukseen

Accenture ↘ 4.73% ja Anthropic ilmoittivat perjantaina kumppanuudesta, jonka puitteissa Anthropicin sisälle perustetaan arvioijien tiimi testaamaan yrityksen kehittyneiden tekoälymallien turvallisuutta. Molemmat yritykset sitoutuvat sijoittamaan vähintään miljardi dollaria viiden vuoden aikana tekoälyn turvallisuusaloitteisiin.investing+1

Sopimus on yksi suurimmista yritysten tekemistä sitoumuksista tekoälyn turvallisuusarviointiin ja se esittelee uudenlaisen rakenteen, jossa ulkopuoliset arvioijat saavat työntekijätason pääsyn tekoälykehittäjän sisäisiin toimintoihin.

Miten sisäinen arviointi toimii

Toisin kuin perinteiset ulkopuoliset tarkastajat, sisäiset arvioijat työskentelevät Anthropicin toimistoissa pääsykorteilla, yrityksen kannettavilla tietokoneilla ja käyttöoikeuksilla, jotka vastaavat yrityksen sisäisiä riskienarviointitiimejä. Tämä pääsy mahdollistaa mallien tarkkailun koulutuksen aikana, mallien rakentamiseen ja käyttöönottoon liittyvien päätösten seuraamisen sekä suoran keskustelun työntekijöiden kanssa.unite

Työtä johtaa Faculty, Accenturen hankkima tekoälyyn erikoistunut yritys, jolla on kokemusta mallien testaamisesta johtaville tekoälylaboratorioille sekä järjestelmien rakentamisesta hallituksen ja puolustusalan asiakkaille, mukaan lukien Britannian terveydenhuollon varhaisvaroitusjärjestelmä COVID-19-pandemian aikana.finance.yahoo

"Turvallisuus vaatii sekä syvällistä teknistä osaamista että selkeää ymmärrystä siitä, miten tekoälyä käytetään todellisessa maailmassa", sanoi Accenturen hallituksen puheenjohtaja ja toimitusjohtaja Julie Sweet. "Sisäinen arviointi on nouseva ala, ja odotamme innolla yhteistyötä Anthropicin kanssa auttaaksemme nopeuttamaan sisäisten arvioijien kehitystä."finance.yahoo

Avoimuus ja julkaisuoikeudet

Anthropicin toimitusjohtajan Dario Amodein syyskuussa 2026 julkaiseman "We Must Pace the Frontier" -esseen ehtojen mukaisesti ulkopuolisilla arvioijilla on oikeus julkaista havaintoja riskitasoista, vaaratilanteista ja käytännöistä ilman Anthropicin toimituksellista kontrollia. Yrityksellä on rajallinen oikeus peittää turvallisuuden kannalta arkaluonteista tai juridisesti suojattua materiaalia, mutta se ei voi estää epäsuotuisia johtopäätöksiä. Arvioijat voivat julkisesti ilmoittaa, jos peittäminen on poistanut jotain olennaista heidän havaintojensa kannalta.unite

Esseessään Amodei hahmotteli kolmivaiheisen suunnitelman – sisäiset arvioijat, koordinointi demokraattisten maiden tekoälyyritysten välillä ja globaali koordinointi – ja kehotti hallituksia vaatimaan muita johtavia laboratorioita omaksumaan vastaavia toimenpiteitä. "Meidän on hidastettava tahtia, jolla parannamme tekoälymallien kyvykkyyksiä", hän kirjoitti.unite

Ei-yksinomainen järjestely

Kumppanuus ei ole yksinomainen. Anthropic kertoi suunnittelevansa lisäarvioijien julkistamista tulevina viikkoina ja käyvänsä keskusteluja METR:n ja muiden voittoa tavoittelemattomien järjestöjen kanssa sisäisen arvioinnin elementtien pilotoimiseksi. Järjestely laajentaa joulukuussa 2025 alkanutta laajempaa yhteistyötä, jolloin yritykset perustivat Accenture Anthropic Business Groupin ja aloittivat noin 30 000 Accenturen ammattilaisen kouluttamisen Anthropicin Claude-malleilla.unite

Accenturen osake nousi pörssin alkuvaiheessa ilmoituksen jälkeen.seekingalpha