KI-selskaper forbereder seg på folkelig opprør etter katastrofal hendelse

Toppledere i Anthropic, OpenAI og andre selskaper innen kunstig intelligens jobber i kulissene med scenarioer for et folkelig og politisk opprør som kan følge i kjølvannet av en katastrofal KI-hendelse, rapporterte Axios fredag. Flere kilder i bransjen opplyser til nettstedet at de venter en slik hendelse i løpet av de neste seks til tolv månedene.axios

Planleggerne mener den mest sannsynlige utløsende faktoren er et storstilt cyberangrep som kutter tilgangen til finansielle tjenester, internett, eller til og med strøm og vann, ifølge Axios. Det første tilfellet av alvorlig skade i den virkelige verden forårsaket av usikker KI, vil sannsynligvis snu en allerede skeptisk offentlighet ytterligere mot teknologien og dens ledere, inkludert Anthropic-sjef Dario Amodei og OpenAI-sjef Sam Altman. Det kan også ramme president Trump, som har vært motvillig til å regulere bransjen.axios

Forbereder Kongressen på etterspillet

Axios rapporterer at arbeidet blant annet innebærer simuleringer av verste fall-scenarioer (såkalt red-teaming), men at hovedfokuset ligger på å informere og utdanne medlemmer av Kongressen. Lederne vet at det er tilnærmet umulig å få vedtatt nye reguleringer akkurat nå. Likevel ønsker de å forme lovene og retningslinjene som amerikanske politikere vil ty til etter en eventuell første katastrofe.axios

En talsperson for OpenAI sier til Axios at selskapet "gjennomfører beredskapsøvelser der team diskuterer og går gjennom en rekke potensielle scenarioer." Talspersonen la til: "Disse scenarioene blir ikke behandlet som uunngåelige, men er ment å hjelpe oss med å forberede oss på ulike omstendigheter". Anthropic ønsket ikke å kommentere saken.axios

Planleggerne i bransjen antar at demokratene, som har styrket sin posisjon etter mellomvalget, vil handle raskt for å stenge ned KI, men at de vil støte på hindringer. Disse hindringene inkluderer en aldrende Kongress som kan ha problemer med å forstå teknologien, samt en økonomi som er tett knyttet til utbyggingen av KI-infrastruktur. De mest aggressive forslagene fra demokratene innebærer å forby superintelligens eller sette utviklingen av avansert KI på pause. En påkrevd nødstoppknapp (kill switch) på avansert KI har tverrpolitisk støtte og en viss oppslutning i bransjen, selv om eksperter stiller spørsmål ved om det faktisk er mulig å slå av alle KI-systemer.axios

Advarslene er allerede synlige

Axios peker på en nylig kampanje mot sørkoreanske finansinstitusjoner, inkludert rapporterte datainnbrudd i to banker. En hacker fra Kina skal ha brukt KI-verktøy, inkludert den kinesisk-utviklede modellen DeepSeek, til å stjele data fra titusenvis av bankkunder. Ifølge cybersikkerhetsselskapet CrowdStrike ↗ 4.57% ba angriperen også Anthropics Claude Code om hjelp til å finne steder der de stjålne dataene kunne selges.axios

Eksperter på cybersikkerhet advarer også om at for mange modeller med åpne vekter (open-weight) allerede kan lastes ned fritt og brukes til å gjøre skade. De fleste av dem mener den eneste løsningen er å bruke KI til å bekjempe ondsinnet KI.axios

Rapporten vakte raskt oppsikt blant kommentatorer. Liz Wolfe i Reason trakk den frem i sin daglige oppsummering. Til tross for forventninger om politisk splid, tror bransjen også at Washington kan samle seg i en reell krisesituasjon. En demokratisk rådgiver sier til Axios at politikerne samarbeidet under pandemien og under finanskrisen i 2008.reason+1