Accenture og Anthropic fjárfesta fyrir 1 milljarð dollara hvor í öryggisprófunum á gervigreind

Accenture ↘ 4.73% og Anthropic tilkynntu á föstudag um samstarf sem miðar að því að byggja upp teymi innbyggðra matsaðila sem munu starfa innan Anthropic til að meta öryggi gervigreindarlíkana sinna. Fyrirtækin skuldbinda sig til að fjárfesta að minnsta kosti 1 milljarði dollara hvort í öryggisverkefnum tengdum gervigreind á næstu fimm árum.investing+1

Samningurinn markar eina stærstu fyrirtækjaskuldbindingu til öryggismats á gervigreind og kynnir nýstárlegt fyrirkomulag þar sem utanaðkomandi matsaðilar fá aðgang að innri starfsemi gervigreindarþróunaraðila sem jafnast á við starfsmenn.

Hvernig innbyggt mat virkar

Ólíkt hefðbundnum ytri endurskoðendum munu innbyggðir matsaðilar sitja á skrifstofum Anthropic með aðgangskort, fartölvur fyrirtækisins og heimildir sem jafnast á við innri áhættumatsteymi, samkvæmt tilkynningunni. Sá aðgangur gerir matsaðilum kleift að fylgjast með líkönum við þjálfun, fylgja ákvörðunum um hvernig líkön eru smíðuð og notuð, og ræða beint við starfsmenn.unite

Verkið verður leitt af Faculty, sérhæfðu gervigreindarfyrirtæki sem Accenture keypti, en það hefur reynslu af því að prófa líkön fyrir leiðandi gervigreindarstofur og byggja kerfi fyrir stjórnvöld og varnarmálayfirvöld, þar á meðal snemmbúna viðvörunarkerfi breska heilbrigðiskerfisins (NHS) meðan á COVID-19 heimsfaraldrinum stóð.finance.yahoo

"Öryggi krefst bæði djúprar tæknilegrar sérfræðiþekkingar og skýrs skilnings á því hvernig gervigreind er notuð í raunheimum," sagði Julie Sweet, stjórnarformaður og forstjóri Accenture. "Innbyggt mat er vaxandi svið og við hlökkum til að vinna með Anthropic að því að flýta fyrir þróun innbyggðra matsaðila."finance.yahoo

Gagnsæi og birtingarréttur

Samkvæmt skilmálum sem lýst var í ritgerð Dario Amodei, forstjóra Anthropic, í september 2026 sem ber titilinn "We Must Pace the Frontier," munu utanaðkomandi matsaðilar hafa rétt til að birta niðurstöður um áhættustig, atvik og vinnubrögð án ritstjórnarlegs valds Anthropic. Fyrirtækið heldur takmörkuðum rétti til að strika yfir öryggisviðkvæmt eða lagalega varið efni en getur ekki bælt niður óhagstæðar niðurstöður. Matsaðilar mega upplýsa opinberlega ef yfirstrikun fjarlægði eitthvað sem skiptir máli fyrir niðurstöður þeirra.unite

Í ritgerðinni setti Amodei fram þriggja þrepa áætlun, innbyggða matsaðila, samhæfingu milli gervigreindarfyrirtækja í lýðræðisríkjum og alþjóðlega samhæfingu, og hvatti stjórnvöld til að krefjast þess að aðrar rannsóknarstofur tækju upp svipaðar ráðstafanir. "Við verðum að hægja á þeim hraða sem við bætum getu gervigreindarlíkana," skrifaði hann.unite

Ekki einkarétt samkomulag

Samstarfið er ekki einkarétt. Anthropic sagðist ætla að tilkynna um fleiri matsaðila á næstu vikum og er í viðræðum við METR og önnur frjáls félagasamtök um að prófa þætti innbyggðs mats. Samkomulagið útvíkkar víðtækara samband sem myndaðist í desember 2025, þegar fyrirtækin tvö settu á fót Accenture Anthropic Business Group og hófu þjálfun á um 30.000 sérfræðingum Accenture á Claude-líkönum Anthropic.unite

Hlutabréf Accenture hækkuðu í viðskiptum eftir tilkynninguna.seekingalpha