Anthropic, OpenAI og Google diskuterer felles organ for KI-sikkerhet

De tre ledende utviklerne av avansert kunstig intelligens – Anthropic, OpenAI og Google Alphabet Inc. ↗ 1.53% DeepMind – har holdt samtaler i kulissene om å danne et felles bransjeorgan for KI-standarder, ifølge en rapport fra The Information publisert søndag. Samtalene har pågått siden minst juli, i forkant av at Anthropic-sjef Dario Amodei lørdag offentlig ba bransjen om å bremse KI-utviklingen.theinformation+1

Et press for felles sikkerhetsprotokoller

Den foreslåtte organisasjonen skal etablere felles protokoller for teknisk testing og revisjon av KI-modeller før de slippes. Sam Altman, Demis Hassabis og Amodei har hver for seg offentlig etterlyst et USA-ledet samarbeid om KI-sikkerhetsstandarder, inkludert internasjonale fora for testing og risikoanalyse.cryptobriefing+1

De tre laboratoriene er fortsatt uenige om sentrale detaljer. Anthropic har lent seg mot partnerskap med myndighetene, der deres leder for red-teaming i juli 2026 offentlig tok til orde for standarder utviklet sammen med statlige organer. OpenAI har vektlagt frivillige bransjeregler, og publiserte i september et blogginnlegg der de forpliktet seg til å fremme standarder uavhengig av statlig inngripen. Diskusjonene bygger på tidligere koordinering gjennom Frontier Model Forum, et konsortium som også inkluderer Microsoft ↗ 0.65%.aiweekly+1

Amodeis essay setter rammen

Amodeis essay på rundt 3800 ord, publisert lørdag, utgjorde det offentlige bakteppet for de private samtalene. Han advarte om at KI innen seks til 12 måneder kan bli i stand til å lede automatiserte svermer som kan ta kontroll over hele internett, blant andre risikoer. Jeg tror at hvis det å bremse ned kjøpte oss et ekstra år eller to før modellene når kritiske kapasitetsnivåer, og vi brukte den tiden til å forbedre samsvar, kunne vi redusert risikoen for at noe går alvorlig galt, skrev Amodei.latimes

Hans plan i tre trinn krever at uavhengige evaluatorer plasseres inne i KI-laboratoriene, at man koordinerer felles sikkerhetsstandarder mellom selskaper i demokratiske land, og at man søker global koordinering, inkludert med autoritære regimer. Anthropic har allerede ensidig forpliktet seg til det første trinnet ved å tilby tredjeparts-evaluatorer kontorplass, adgangskort og selskapets bærbare datamaskiner.techcrunch+2

Kina-spørsmålet

Det mest omstridte elementet i forslaget kan være internasjonal koordinering. Amodei erkjente søndag at Kina representerer det vanskeligste dilemmaet: risikoen for at en brems i amerikansk utvikling bare gir en fordel til konkurrenter som ikke følger de samme reglene. Future of Life Institutes KI-sikkerhetsindeks fra sommeren 2026 understreket bredere bekymringer rundt bransjens sikkerhetshistorikk, der Anthropic ble vurdert høyest av de tre selskapene med karakteren C+, etterfulgt av OpenAI med C og Google DeepMind med C.cnbc+1