Ledande AI-labb vill bromsa utvecklingen efter säkerhetslarm

AI-branschen befinner sig i sin mest avgörande interna uppgörelse sedan tekniken slog igenom på allvar. Ledande forskningslabb medger nu att rekursiv självförbättring, där AI-modeller självständigt bygger mer kapabla efterföljare, är närmare än man tidigare trott. Samtidigt drabbar toppchefer offentligt samman om huruvida utvecklingen bör saktas ner eller snabbas på.

En tio dagar lång kedjereaktion

Turbulensen inleddes den 3 september när OpenAI tillkännagav sin senaste modell, Astra, samtidigt som bolaget medgav att man i allt mindre utsträckning kan kontrollera eller ens övervaka de AI-system som släpps, enligt Reuters. Några dagar senare, den 8 september, sade Anthropic-forskaren Jacob Coxon upp sig. I en serie virala inlägg varnade han för att AI-labben spelar med våra liv. En annan Anthropic-forskare, Evan Hubinger, skrev på X: "Vi tror verkligen på fullaste allvar att AI kan döda alla människor."reuters

Den 12 september publicerade Anthropics vd Dario Amodei en nästan 4 000 ord lång essä där han krävde en inbromsning. Han varnade för att svärmar av AI-agenter inom sex till tolv månader skulle kunna ta över hela internet. Han fick stöd av cheferna för OpenAI, Googles Alphabet Inc. ↗ 0.78% DeepMind, Microsoft ↘ 0.99% och xAI i en sällsynt gemensam uppmaning om att sakta ner utvecklingen och låta externa aktörer granska systemens säkerhet.reuters

Splittringen: Amodei mot Huang

Men alla håller inte med. Nvidias ↗ 2.78% vd Jensen Huang avfärdade förslagen om att pausa AI-utvecklingen. "Vi bör gå så snabbt vi kan, oavsett vad andra gör", sade Huang till CBS News i en intervju som sänds i helgen. Han lade till: "Vi skulle aldrig någonsin, och bör aldrig, lansera produkter innan de är redo, eller leverera produkter som är osäkra."cbsnews

Metas ↗ 0.84% Mark Zuckerberg intog en liknande hållning och menade att varje lab bör sätta sitt eget tempo snarare än att samordna en kollektiv inbromsning. "Labben står inför ett betydande skadeståndsansvar om deras modeller orsakar skada, så de har starka incitament att förhindra detta", skrev han i ett inlägg på sociala medier.reuters

The Wall Street Journal News Corp ↘ 0.03% beskrev klyftan som en avgörande splittring, där Amodei framstår som försiktighetens ansikte utåt och Huang som den ledande rösten mot restriktioner.wsj

Rekursiv självförbättring närmar sig verklighet

Oron eldas på av konkreta framsteg mot rekursiv självförbättring. Anthropic avslöjade i veckan att deras modell Claude nu leder 26 procent av företagets egen forskning och utveckling, enligt Associated Press. OpenAI har utvecklat en automatiserad "forskningspraktikant" och siktar på en helt automatiserad AI-"forskare" till mars 2028. Elon Musk har sagt att xAI:s Grok-modeller kan nå helt automatiserad självförbättring redan före årets slut.wral

Forskare varnade tidigare denna månad för att artificiell generell intelligens (AGI) kan vara här om så kort tid som tre år. "Det här är förmodligen den sämsta idén i mänsklighetens historia", sade Anthony Aguirre, ordförande för Future of Life Institute, med hänvisning till strävan efter helt autonom AI-självförbättring.reuters+1

President Donald Trump kallade samtidigt AI-säkerhetslarmet för en "bluff" och varnade för att en inbromsning bara skulle gynna Kina. Den amerikanska kongressen har gjort små framsteg med AI-reglering, samtidigt som Kina har tagit steg för att föreslå skyldigheter för utvecklare och statligt stödda säkerhetsstandarder.reuters

Microsofts AI-chef Mustafa Suleyman gav en tankeväckande sammanfattning: "Vi är alla fokuserade på samma mål, vilket är att försöka kontrollera en superintelligens. Jag tror att det kommer att bli den största utmaningen vi står inför under det 21:a århundradet."reuters