Raginimai lėtinti DI plėtrą sulaukia palaikymo ir skepticizmo

Tarp įtakingiausių dirbtinio intelekto figūrų formuojasi retas sutarimas: pramonei reikia pristabdyti tempus. Savaitgalį Anthropic generalinis direktorius Dario Amodei paskelbė 3 800 žodžių esė pavadinimu "We Must Pace the Frontier", kurioje pasiūlė trijų žingsnių planą, skirtą sulėtinti DI modelių kūrimą ir įdiegti nepriklausomą saugos stebėseną. Per kelias valandas OpenAI vadovas Samas Altmanas ir xAI atstovas Elonas Muskas išreiškė savo palaikymą, o Muskas platformoje X tiesiog parašė: "Dario teisus".nytimes+3

Formuojamas trijų dalių planas

Savo šeštadienio esė Amodei įspėjo, kad DI per 6–12 mėnesių gali tapti pajėgus valdyti autonominių agentų spiečius, nebekontroliuojamus žmonių. Jis pasiūlė, kad visos pažangiausios DI įmonės įsipareigotų suteikti "nuolatinę, į darbuotojus panašią prieigą" nepriklausomiems trečiųjų šalių vertintojams, po to sektų pramonės masto saugos standartai ir galiausiai pasaulinis reglamentavimas. Anthropic jau vienašališkai įsipareigojo įgyvendinti pirmąjį žingsnį.bbc+3

Altmanas platformoje X atsakė, kad šis pasiūlymas atitinka vidines diskusijas OpenAI, rašydamas: "Sutinku su Dario, kad turime pristabdyti pažangą", ir įsipareigojo priimti trečiųjų šalių vertintojų sistemą. Pirmadienį OpenAI prezidentas Gregas Brockmanas papildė šią mintį "Bloomberg" tinklalaidėje "Odd Lots", teigdamas, kad bet koks lėtinimas turėtų būti nukreiptas tik į pažangiausias laboratorijas, išleidžiančias šimtus milijardų superkompiuteriams, o ne į atvirojo kodo kūrėjus ar mėgėjus.nbcnews+2

Prie choro prisijungia sveikatos priežiūros lyderis

Tempus AI ↗ 5.42% įkūrėjas ir generalinis direktorius Ericas Lefkofsky tapo vienu pirmųjų svarbių veikėjų už pagrindinių DI laboratorijų ribų, parėmusių šį raginimą. Pirmadienį duotame interviu "Bloomberg" būstinėje Niujorke Lefkofsky sakė, kad gali įsivaizduoti momentą, kai besitobulinantys modeliai pralenks žmogaus priežiūrą. "Galiu įsivaizduoti, atsižvelgiant į tai, kad modeliai dabar patys save treniruoja ir tobulina, kad ateis taškas, kai paklausi: 'Ar tai nepradės mūsų kontroliuoti?'" – sakė jis. Pasak "Crain's Chicago Business", Lefkofsky taip pat nurodė kapitalo efektyvumą kaip priežastį palaikyti pamatuotą požiūrį.bloomberg+1

Ne visi pritaria

Investuotojas Michaelas Burry, rizikos draudimo fondų valdytojas, įkvėpęs filmą "Didžioji skola", paskelbė aštrų atsaką savo "Substack" platformoje "Cassandra Unchained". Burry teigė, kad didieji kalbos modeliai nėra tikrasis DI, kad lėtinimas tik apsaugotų rinkos senbuvius nuo konkurencijos, o saugos įspėjimai prilygsta "sofistikuotai rinkodarai", skirtai sukurti ažiotažą prieš galimus IPO. Jis apibūdino šiuos raginimus kaip pastangą užmaskuoti pramonę, kuri jau dabar susiduria su lėtėjančiu augimu.nypost+2

Diskusijos jau veikia rinkas. "Citigroup" ↘ 1.90% pirmadienį įspėjo, kad didėjantis susirūpinimas dėl DI saugos gali pakenkti įmonių pelnui, o debesų kompiuterijos ir lustų gamintojų akcijos prekybos prieš atidarymą metu smuko. Federalinio rezervo sistemos artėjantis sprendimas dėl palūkanų normų šią savaitę prideda dar vieną neapibrėžtumo sluoksnį investuotojams, vertinantiems būsimą DI investicijų tempą.news.futunn+1