Leiðandi gervigreindarfyrirtæki kalla eftir hægari þróun af öryggisástæðum

Gervigreindariðnaðurinn stendur nú í ströngustu innri uppgjörum sínum frá því að tæknin varð almenningseign. Leiðandi rannsóknarstofur viðurkenna nú að sjálfendurbætandi gervigreind, þar sem gervigreindarlíkön smíða sjálfkrafa færari eftirmenn sína, sé nær en áður var talið, og æðstu stjórnendur takast opinberlega á um hvort eigi að hægja á eða auka hraðann.

Tíu daga keðjuverkun

Umskiptin hófust þann 3. september þegar OpenAI kynnti nýjasta líkan sitt, Astra, jafnframt því sem fyrirtækið viðurkenndi að það gæti „í sífellt minna mæli stjórnað eða jafnvel fylgst með“ þeim gervigreindarkerfum sem það setti á markað, samkvæmt Reuters. Nokkrum dögum síðar, þann 8. september, sagði Jacob Coxon, rannsakandi hjá Anthropic, upp störfum og varaði við því í röð vinsælla færslna að gervigreindarstofur væru að „tefla með líf okkar“. Annar rannsakandi hjá Anthropic, Evan Hubinger, skrifaði á X: „Við trúum því í einlægni að gervigreind gæti útrýmt öllu mannkyni.“reuters

Þann 12. september birti Dario Amodei, forstjóri Anthropic, tæplega 4.000 orða ritgerð þar sem hann kallaði eftir því að hægt yrði á þróuninni. Hann varaði við því að innan sex til tólf mánaða gætu hópar gervigreindarfulltrúa „verið færir um að yfirtaka allt internetið“. Stjórnendur OpenAI, DeepMind hjá Alphabet Inc. ↗ 0.78% (móðurfélagi Google), Microsoft ↘ 0.99% og xAI tóku undir með honum í fágætri sameiginlegri áskorun um að hægja á þróuninni og leyfa utanaðkomandi fyrirtækjum að gera öryggisúttektir á kerfum þeirra.reuters

Ágreiningurinn: Amodei gegn Huang

Ekki eru allir á sama máli. Jensen Huang, forstjóri Nvidia ↗ 2.78%, hafnaði hugmyndum um að gera hlé á þróun gervigreindar. „Við ættum að fara eins hratt og við getum, óháð öllum öðrum,“ sagði Huang í samtali við CBS News í viðtali sem sýnt verður um helgina. Hann bætti við: „Við myndum aldrei, og ættum aldrei, að setja vörur á markað áður en þær eru tilbúnar, eða afhenda vörur sem eru óöruggar.“cbsnews

Mark Zuckerberg hjá Meta ↗ 0.84% tók svipaða afstöðu og sagði að hver rannsóknarstofa ætti að ákveða sinn eigin hraða í stað þess að sammælast um að hægja á öllum iðnaðinum. „Rannsóknarstofur bera mikla ábyrgð ef líkön þeirra valda skaða, svo þær hafa ríka hvatningu til að koma í veg fyrir það,“ skrifaði hann í færslu á samfélagsmiðlum.reuters

The Wall Street Journal News Corp ↘ 0.03% lýsti þessum ágreiningi sem afgerandi klofningi, þar sem Amodei væri orðinn andlit varkárninnar en Huang helsti talsmaður þess að halda ekki aftur af þróuninni.wsj

Sjálfendurbætandi gervigreind nálgast raunveruleikann

Áhyggjurnar magnast vegna raunverulegra framfara í átt að sjálfendurbætandi gervigreind. Anthropic greindi frá því í vikunni að líkan þess, Claude, stýri nú 26% af eigin rannsóknum og þróun fyrirtækisins, samkvæmt Associated Press. OpenAI hefur þróað sjálfvirkan „rannsóknarnema“ og stefnir að kuðungnum gervigreindar-„rannsakanda“ fyrir mars 2028. Elon Musk hefur sagt að Grok-líkön xAI gætu náð fullkomlega sjálfvirkri sjálfendurbót fyrir lok þessa árs.wral

Rannsakendur vöruðu við því fyrr í þessum mánuði að almenn gervigreind (AGI) gæti litið dagsins ljós eftir aðeins þrjú ár. „Þetta er sennilega versta hugmynd í sögu mannkynsins,“ sagði Anthony Aguirre, forseti Future of Life Institute, og átti þar við viðleitnina til að ná fram fullkomlega sjálfstæðri sjálfendurbót gervigreindar.reuters+1

Donald Trump forseti kallaði á sama tíma öryggisviðvaranir vegna gervigreindar „hugarburð“ og varaði við því að hvers kyns hæging myndi aðeins gagnast Kína. Bandaríkjaþing hefur lítið þokast áfram í reglusetningu um gervigreind, jafnvel þótt Kína hafi þegar lagt til skyldur fyrir hönnuði og ríkisstudda öryggisstaðla.reuters

Mustafa Suleyman, yfirmaður gervigreindarmála hjá Microsoft, dró stöðuna saman á alvarlegan hátt: „Við stefnum öll að sama markmiði, sem er að reyna að ná stjórn á ofurgervigreind. Ég tel að það verði stærsta áskorunin sem við mætum á 21. öldinni.“reuters