Anthropic, OpenAI och Google diskuterar gemensamt organ för AI-säkerhet

De tre ledande utvecklarna av avancerad artificiell intelligens – Anthropic, OpenAI och Google Alphabet Inc. ↗ 1.53% DeepMind – har fört informella diskussioner om att bilda ett gemensamt branschorgan för AI-standarder, enligt en rapport från The Information som publicerades i söndags. Samtalen har pågått sedan åtminstone juli, vilket föregår Anthropic-chefen Dario Amodeis offentliga uppmaning i lördags om att branschen bör sakta ner AI-utvecklingen.theinformation+1

Krav på gemensamma säkerhetsprotokoll

Den föreslagna organisationen skulle fastställa gemensamma protokoll för teknisk testning och granskning av AI-modeller innan de släpps. Sam Altman, Demis Hassabis och Amodei har alla offentligt efterlyst ett USA-lett samarbete kring AI-säkerhetsstandarder, inklusive internationella forum för testning och riskanalys.cryptobriefing+1

De tre laboratorierna är fortfarande oeniga om viktiga detaljer. Anthropic har lutat åt partnerskap med myndigheter, där deras chef för red-teaming i juli 2026 offentligt förespråkade standarder utvecklade tillsammans med statliga organ. OpenAI har betonat frivilliga branschregler och publicerade i september ett blogginlägg där de förbinder sig att driva standarder oavsett statlig inblandning. Diskussionerna bygger vidare på tidigare samordning genom Frontier Model Forum, ett konsortium som även inkluderar Microsoft ↗ 0.65%.aiweekly+1

Amodeis essä sätter tonen

Amodeis essä på cirka 3 800 ord, som publicerades i lördags, utgjorde den offentliga bakgrunden till de privata samtalen. Han varnade för att AI inom sex till 12 månader kan bli kapabel att leda automatiserade svärmar som kan ta över hela internet, utöver andra risker. Jag tror att om vi genom att sakta ner köper oss ett extra år eller två innan modellerna når kritiska nivåer av kapacitet, och vi använder den tiden för att förbättra säkerhetsanpassningen, skulle vi kunna minska risken för att något går allvarligt fel, skrev Amodei.latimes

Hans plan i tre steg kräver att oberoende utvärderare placeras inuti AI-laboratorierna, att gemensamma säkerhetsstandarder samordnas mellan företag i demokratiska länder och att global samordning eftersträvas, även med auktoritära regeringar. Anthropic har redan ensidigt förbundit sig till det första steget genom att erbjuda utomstående utvärderare kontorsplatser, passerkort och företagets bärbara datorer.techcrunch+2

Kina-frågan

Förslagets mest kontroversiella del kan vara den internationella samordningen. Amodei erkände på söndagen att Kina utgör det svåraste dilemmat: risken att en inbromsning av den amerikanska utvecklingen bara ger en fördel till konkurrenter som inte följer samma regler. Future of Life Institutes AI-säkerhetsindex från sommaren 2026 underströk bredare farhågor kring branschens säkerhetshistorik, där Anthropic rankades högst av de tre företagen med betyget C+, följt av OpenAI med C och Google DeepMind med C.cnbc+1