Brin teigia, kad „Gemini“ modeliai dabar padeda kurti savo įpėdinius

„Google“ įkūrėjas Sergey Brin teigia, kad įmonės DI modeliai dabar padeda kurti savo pačių įpėdinius. Jis apibūdino tai kaip ankstyvąją rekursinio savęs tobulinimo (RSI) stadiją – ilgai diskutuotą momentą, kai DI pradeda spartinti savo paties vystymąsi.

Brin šias pastabas išsakė apskritojo stalo diskusijoje apie „Gemini 4 Argon“, naujo „Google“ pavyzdinio modelio, kūrimą. „Google“ vaizdo įrašu pasidalijo trečiadienį, spalio 14 d., pranešė „Business Insider“. Jis sakė, kad DI plėtra „Google Alphabet Inc.“ ↗ 0.37% viduje spartėja. Jis nurodė spartų „Flash“ leidimų ciklą prieš „Gemini 4“ kaip įrodymą, sakydamas, kad įmonė „pradeda lipti ant to RSI bėgimo takelio“.businessinsider.com

Modeliai, padedantys kurti modelius

„Dabar mūsų tyrėjai ir modelis dirba ranka rankon, kad sukurtų kitą modelio versiją“, – sakė Brin, remiantis „Business Insider“. Jis pridūrė, kad iki to laiko, kai žiūrovai pamatys vaizdo įrašą, „Google“ viduje jau naudos modelius, kurie yra „porą“ versijų pažangesni už „Argon“, ir tikisi, kad tempas „tik toliau spartės“.businessinsider.com

„Google“ saugos ataskaitoje apie „Argon“ teigiama, kad dalis DI tyrimų ir plėtros ciklo jau yra automatizuota. „DI agentai dabar veikia kaip didelio poveikio asistentai, kurie parašo didžiąją dalį gamybinio kodo ir klaidų pataisymų, nors kodo pakeitimai prieš pateikimą vis dar turi būti peržiūrimi žmonių“, – teigiama ataskaitoje, praneša „Business Insider“. Vihan Jain, „Google DeepMind“ „Gemini“ RSI vadovas, platformoje X rašė, kad „RSI smagratis pasiekė naują pavarą“, dabar, kai komandos po mokymų prašo „Argon“ naudojimo kvotų, o ne neapdorotų lustų.businessinsider.com

Vėluojantis pavyzdinis modelis

„Google“ teigimu, „Argon“ „Google AI Pro“ ir „Ultra“ prenumeratoriams „Gemini“ programėlėje tapo prieinamas spalio 13 d. Tai pirmasis „Google“ aukščiausios klasės modelis per maždaug septynis mėnesius, po vasario mėnesį pasirodžiusio „Gemini 3.1 Pro“. Prieš platų išleidimą, rugsėjo 30 d., jis pirmiausia buvo pateiktas patikrintiems ekspertams per įmonės „Fairwind“ saugumo programą, pranešė SBS. Tuo tarpu „Google“ sulaikė aukštesnės klasės modelius dėl susirūpinimo jų kodavimo gebėjimais ir maždaug kas tris savaites išleisdavo lengvus „Flash“ modelius, teigia SBS.blog.google+1

Brin tapo labiau įsitraukęs į „Gemini“ projektą. „Business Insider“ pranešė, kad jis pasinaudojo savo, kaip įkūrėjo, įtaka, kad nukreiptų išteklius į RSI darbus. „Business Insider“ taip pat pranešė, kad „Google“ darbuotojai testuoja stipresnę vidinę „Argon“ versiją, vadinamą „Carbon“.businessinsider.com

Pramonės lenktynės ir saugumo problemos

„Anthropic“ ir „OpenAI“ taip pat teigė, kad DI gali būti arti rekursinio savęs tobulinimo. Šią savaitę paskelbtoje „Gladstone AI“ ataskaitoje nustatyta, kad dauguma apklaustų tyrėjų tikisi, jog RSI prasidės per 3–12 mėnesių, o be vyriausybės veiksmų – galbūt ir anksčiau, pranešė „Business Insider“.businessinsider.com

Tokia perspektyva kelia nerimą kai kuriems ekspertams. Praėjusį mėnesį DI tyrėjai įspėjo, kad žmonės gali prarasti technologijos kontrolę, jei prieš atsirandant savarankiškai tobulėjančioms sistemoms nebus įdiegtos pakankamai stiprios apsaugos priemonės.