Pagrindinės DI laboratorijos ragina lėtinti plėtrą dėl saugumo baimių

DI pramonę krečia didžiausia vidinė krizė nuo pat technologijos išpopuliarėjimo, nes pirmaujančios laboratorijos pripažįsta, kad rekursinis savęs tobulinimas, kai DI modeliai savarankiškai kuria galingesnius įpėdinius, yra arčiau nei manyta, o aukščiausio lygio vadovai viešai nesutaria, ar reikėtų stabdyti, ar spartinti procesus.

Dešimties dienų grandininė reakcija

Neramumai prasidėjo rugsėjo 3 d., kai „OpenAI“ pristatė savo naujausią modelį „Astra“, nors bendrovė pripažino, kad ji „vis labiau nepajėgi kontroliuoti ar net stebėti“ savo išleidžiamų DI sistemų, praneša „Reuters“. Po kelių dienų, rugsėjo 8 d., „Anthropic“ tyrėjas Jacobas Coxonas atsistatydino, įspėdamas virusiniuose įrašuose, kad DI laboratorijos „lošia mūsų gyvybėmis“. Kitas „Anthropic“ tyrėjas Evanas Hubingeris platformoje X rašė: „Mes tikrai nuoširdžiai tikime, kad DI gali nužudyti visus žmones.“reuters

Iki rugsėjo 12 d. „Anthropic“ generalinis direktorius Dario Amodei paskelbė beveik 4000 žodžių esė, ragindamas lėtinti tempą ir įspėdamas, kad per 6–12 mėnesių DI agentų spiečiai „gali tapti pajėgūs perimti visą internetą“. Prie jo prisijungė „OpenAI“, „Google“ priklausančios „Alphabet Inc.“ ↗ 2.01% „DeepMind“, „Microsoft“ ↗ 2.58% ir „xAI“ vadovai, kartu ragindami lėtinti plėtrą ir leisti išorės įmonėms atlikti jų sistemų saugumo auditą.reuters

Skilimas: Amodei prieš Huangą

Ne visi su tuo sutinka. „Nvidia“ ↘ 4.81% generalinis direktorius Jensenas Huangas atmetė siūlymus pristabdyti DI plėtrą. „Turėtume judėti kuo greičiau, nepaisant nieko kito“, – interviu „CBS News“, kuris bus rodomas šį savaitgalį, sakė Huangas. Jis pridūrė: „Mes niekada, niekada neturėtume išleisti produktų, kol jie nėra paruošti, ar tiekti nesaugių produktų.“cbsnews

„Meta“ ↗ 5.34% vadovas Markas Zuckerbergas laikėsi panašios pozicijos, teigdamas, kad kiekviena laboratorija turėtų nustatyti savo tempą, o ne derinti pramonės lėtinimą. „Laboratorijos susiduria su didele atsakomybe, jei jų modeliai padaro žalos, todėl jos turi stiprią paskatą to išvengti“, – rašė jis socialinės žiniasklaidos įraše.reuters

„The Wall Street Journal“ („News Corp“ ↗ 0.07%) šį susiskaldymą įvardijo kaip esminį lūžį, kuriame Amodei tapo atsargumo simboliu, o Huangas – pagrindiniu balsu prieš suvaržymus.wsj

Rekursinis savęs tobulinimas tampa realybe

Nerimą kursto konkretus progresas rekursinio savęs tobulinimo link. „Anthropic“ šią savaitę atskleidė, kad jos modelis „Claude“ dabar atlieka 26 proc. pačios bendrovės tyrimų ir plėtros darbų, praneša „Associated Press“. „OpenAI“ sukūrė automatizuotą „tyrimų praktikantą“ ir iki 2028 m. kovo siekia sukurti visiškai automatizuotą DI „tyrėją“. Elonas Muskas teigė, kad „xAI“ modeliai „Grok“ iki šių metų pabaigos gali pasiekti visiškai automatizuotą savęs tobulinimą.wral

Tyrėjai anksčiau šį mėnesį įspėjo, kad dirbtinis bendrasis intelektas gali atsirasti vos per trejus metus. „Tai tikriausiai pati blogiausia idėja žmonijos istorijoje“, – sakė Anthony Aguirre, „Future of Life Institute“ prezidentas, kalbėdamas apie visiškai autonomiško DI savęs tobulinimo siekį.reuters+1

Tuo tarpu prezidentas Donaldas Trumpas DI saugumo aliarmą pavadino „apgaule“ ir įspėjo, kad bet koks lėtinimas naudingas tik Kinijai. Kongresas padarė mažai pažangos DI reguliavimo srityje, nors Kinija ėmėsi siūlyti kūrėjų įsipareigojimus ir valstybės remiamus saugumo standartus.reuters

„Microsoft“ DI vadovas Mustafa Suleymanas pateikė blaivią santrauką: „Mes visi susitelkę į tą patį tikslą – bandyti suvaldyti superintelektą. Manau, kad tai bus didžiausias iššūkis, su kuriuo susidursime XXI amžiuje.“reuters