Anthropic, OpenAI og Google ræða stofnun samtaka um öryggisstaðla fyrir gervigreind

Þrír leiðandi framleiðendur gervigreindar, Anthropic, OpenAI og Google Alphabet Inc. ↗ 3.06% DeepMind, hafa átt leynilegar viðræður um stofnun sameiginlegra iðnaðarsamtaka um öryggisstaðla, samkvæmt frétt The Information sem birtist á sunnudag. Viðræðurnar hafa staðið yfir síðan í júlí, áður en Dario Amodei, forstjóri Anthropic, kallaði opinberlega eftir því á laugardag að iðnaðurinn hægði á þróun gervigreindar.theinformation+1

Þrýstingur á sameiginlegar öryggisreglur

Samtökin myndu setja sameiginlegar reglur um tæknilegar prófanir og úttektir á gervigreindarlíkönum fyrir útgáfu. Sam Altman, Demis Hassabis og Amodei hafa hver um sig kallað eftir samstarfi undir forystu Bandaríkjanna um öryggisstaðla, þar á meðal alþjóðlegum vettvangi fyrir prófanir og áhættugreiningu.cryptobriefing+1

Fyrirtækin þrjú eru enn ósammála um lykilatriði. Anthropic hefur hallað sér að samstarfi við stjórnvöld, þar sem yfirmaður öryggismála fyrirtækisins hvatti opinberlega í júlí 2026 til staðla sem þróaðir væru í samvinnu við opinbera aðila. OpenAI hefur lagt áherslu á sjálfboðaliðnar reglur og birti bloggfærslu í september þar sem fyrirtækið skuldbatt sig til að efla staðla óháð afskiptum stjórnvalda. Viðræðurnar byggja á fyrra samstarfi í gegnum Frontier Model Forum, samtök sem einnig innihalda Microsoft ↗ 1.97%.aiweekly+1

Ritgerð Amodei setur tóninn

Ritgerð Amodei, sem er um 3.800 orð og var birt á laugardag, lagði grunninn að opinberri umræðu um leynilegu viðræðurnar. Hann varaði við því að gervigreind gæti innan sex til tólf mánaða orðið fær um að stýra sjálfvirkum hópum sem gætu tekið yfir allt internetið. Ég tel að ef það að hægja á þróun gæfi okkur eitt eða tvö ár í viðbót áður en líkön ná mikilvægum getustigum, og við nýttum þann tíma til að bæta samræmingu, gætum við dregið verulega úr hættunni á að eitthvað fari úrskeiðis, skrifaði Amodei.latimes

Þriggja þrepa áætlun hans kallar á að óháðir matsaðilar verði staðsettir innan gervigreindarfyrirtækja, samræmingu á sameiginlegum öryggisstöðlum meðal fyrirtækja í lýðræðisríkjum og alþjóðlega samvinnu, þar á meðal við einræðisstjórnir. Anthropic hefur þegar skuldbundið sig einhliða til fyrsta skrefsins með því að bjóða utanaðkomandi matsaðilum aðstöðu á skrifstofum sínum.techcrunch+2

Kína-spurningin

Umdeildasti þáttur tillögunnar gæti verið alþjóðleg samvinna. Amodei viðurkenndi á sunnudag að Kína væri erfiðasta viðfangsefnið, þar sem hættan er sú að hægari þróun í Bandaríkjunum gefi keppinautum sem fylgja ekki sömu reglum forskot. Öryggisvísitala Future of Life Institute frá sumrinu 2026 undirstrikaði víðtækari áhyggjur af öryggismálum iðnaðarins, þar sem Anthropic fékk hæstu einkunnina C+, á eftir kom OpenAI með C og Google DeepMind með C.cnbc+1