Köllun eftir hægari þróun gervigreindar mætir stuðningi og efasemdum

Sjaldgæf samstaða er að myndast meðal sumra valdamestu einstaklinga í heimi gervigreindar: iðnaðurinn þarf að stíga á bremsuna. Um helgina birti Dario Amodei, forstjóri Anthropic, 3.800 orða ritgerð sem ber titilinn "We Must Pace the Frontier" þar sem hann leggur til þriggja þrepa áætlun til að hægja á þróun gervigreindarlíkana og innleiða óháð öryggiseftirlit. Innan nokkurra klukkustunda lýstu Sam Altman, forstjóri OpenAI, og Elon Musk hjá xAI yfir stuðningi, en Musk skrifaði einfaldlega á X: "Dario hefur rétt fyrir sér".nytimes+3

Þriggja þrepa áætlun tekur á sig mynd

Í ritgerð sinni á laugardag varaði Amodei við því að gervigreind gæti innan sex til tólf mánaða orðið fær um að stýra sjálfstæðum hópum sem væru utan mannlegrar stjórnar. Hann lagði til að öll leiðandi gervigreindarfyrirtæki skuldbindi sig til að veita óháðum matsaðilum "varanlegan aðgang eins og um starfsmenn væri að ræða", fylgt eftir með öryggisstöðlum fyrir allan iðnaðinn og að lokum alþjóðlegri reglugerð. Anthropic hefur þegar skuldbundið sig einhliða til fyrsta skrefsins.bbc+3

Altman svaraði á X að tillagan samræmdist innri umræðum hjá OpenAI og skrifaði: "Ég er sammála Dario um að við þurfum að hægja á þróuninni," og lofaði að taka upp ramma fyrir óháða matsaðila. Á mánudag bætti Greg Brockman, forseti OpenAI, við útskýringum í hlaðvarpinu Odd Lots hjá Bloomberg og hélt því fram að hvers kyns hægagangur ætti aðeins að beinast að rannsóknarstofum sem eyða hundruðum milljarða í ofurtölvur, ekki opnum hugbúnaðarhönnuðum eða áhugafólki.nbcnews+2

Leiðtogi í heilbrigðistækni bætist í hópinn

Eric Lefkofsky, stofnandi og forstjóri Tempus AI ↗ 7.98%, varð einn af fyrstu stóru aðilunum utan kjarna gervigreindarfyrirtækjanna til að styðja þessa kröfu. Í viðtali á mánudag í höfuðstöðvum Bloomberg í New York sagðist Lefkofsky geta séð fyrir sér punkt þar sem sjálfbætandi líkön færu fram úr mannlegu eftirliti. "Ég get ímyndað mér það, í ljósi þess að líkönin eru nú að þjálfa sig og bæta sig, að það komi punktur þar sem maður spyr: 'Er þetta að fara úr böndunum?'" sagði hann. Lefkofsky nefndi einnig fjármagnsnýtingu sem ástæðu til að styðja yfirvegaða nálgun, samkvæmt Crain's Chicago Business.bloomberg+1

Ekki eru allir á sama máli

Fjárfestirinn Michael Burry, vogunarsjóðsstjórinn sem var innblásturinn að "The Big Short", birti harða andmæli á Substack síðu sinni, Cassandra Unchained. Burry hélt því fram að stór mállíkön væru ekki raunveruleg gervigreind, að hægagangur myndi aðeins vernda núverandi fyrirtæki fyrir samkeppni og að öryggisviðvaranir væru "fágað markaðsbragð" hannað til að byggja upp væntingar fyrir hugsanleg hlutafjárútboð. Hann lýsti kröfunum sem tilraun til að fela iðnað sem glímir nú þegar við minnkandi vöxt.nypost+2

Umræðan er þegar farin að hafa áhrif á markaði. Citigroup ↗ 0.51% varaði við á mánudag að vaxandi áhyggjur af öryggi gervigreindar gætu haft neikvæð áhrif á afkomu fyrirtækja, á meðan hlutabréf í skýjaþjónustu og flísaframleiðendum féllu víða í viðskiptum fyrir opnun markaða. Ákvörðun bandaríska seðlabankans um stýrivexti síðar í vikunni bætir við óvissu fyrir fjárfesta sem meta framtíðarhraða fjárfestinga í gervigreind.news.futunn+1