Brin: Gemini-modeller hjälper nu till att bygga sina efterföljare

Googles medgrundare Sergey Brin säger att företagets AI-modeller nu hjälper till att bygga sina egna efterföljare. Han beskrev det som ett tidigt skede av rekursiv självförbättring (RSI), en länge debatterad punkt där AI börjar påskynda sin egen utveckling.

Brin gjorde uttalandet under en rundabordsdiskussion om skapandet av Gemini 4 Argon, Googles nya flaggskeppsmodell. Google delade videon onsdagen den 14 oktober, rapporterade Business Insider. Han sa att AI-utvecklingen går snabbare internt hos Alphabet Inc. ↘ 2.32%. Han pekade på den snabba takten av Flash-släpp före Gemini 4 som bevis och sa att företaget "börjar komma in på den där RSI-tredje-milen".businessinsider.com

Modeller som bygger modeller

"Och nu arbetar våra forskare och modellen hand i hand för att göra nästa version av modellen", sa Brin enligt Business Insider. Han tillade att när tittarna såg videon skulle Google redan internt använda modeller som var "ett par" versioner förbi Argon, och att han förväntar sig att takten "bara kommer att fortsätta att accelerera".businessinsider.com

Googles säkerhetsrapport för Argon säger att delar av AI-forskningen och utvecklingscykeln redan är automatiserad. "AI-agenter fungerar nu som högeffektiva assistenter som skriver majoriteten av produktionskoden och buggfixar, även om kodändringar förblir föremål för mänsklig granskning före inlämning", står det i rapporten, enligt Business Insider. Vihan Jain, en RSI-ledare för Gemini på Google DeepMind, skrev på X att "RSI-svänghjulet har nått en ny växel" nu när teamen efter träning ber om Argon-användningskvoter snarare än råa chip.businessinsider.com

Ett försenat flaggskepp

Argon blev tillgängligt för Google AI Pro- och Ultra-prenumeranter i Gemini-appen den 13 oktober, uppgav Google. Det är Googles första toppmodell på cirka sju månader, efter Gemini 3.1 Pro i februari. Innan den breda lanseringen gick den först till granskade experter genom företagets "Fairwind"-säkerhetsprogram den 30 september, rapporterade SBS. Under tiden hade Google hållit tillbaka mer avancerade modeller på grund av oro för deras kodningsförmåga och släppte lätta Flash-modeller ungefär var tredje vecka, enligt SBS.blog.google+1

Brin har blivit mer involverad i Gemini-arbetet. Han har använt sitt inflytande som medgrundare för att styra resurser mot RSI-arbete, har Business Insider rapporterat. Business Insider rapporterade också att Google-anställda har testat en starkare intern version av Argon kallad Carbon.businessinsider.com

Industrikapplöpning och säkerhetsfrågor

Anthropic och OpenAI har också sagt att AI kan vara nära rekursiv självförbättring. En rapport som släpptes denna vecka av Gladstone AI fann att de flesta av de forskare de intervjuade förväntar sig att RSI kommer att börja inom 3 till 12 månader, och möjligen tidigare utan statliga åtgärder, rapporterade Business Insider.businessinsider.com

Den utsikterna oroar vissa experter. Förra månaden varnade AI-forskare för att människor kan förlora kontrollen över tekniken om tillräckligt starka skyddsmekanismer inte finns på plats innan självförbättrande system anländer.