Starfsfólk í gervigreindaröryggi veikist og segir upp vegna ótta við tæknina

Rannsakendur í fremstu röð gervigreindarþróunar eru í auknum mæli að fara í veikindaleyfi, leita sér sálfræðiaðstoðar og segja upp störfum eftir því sem andlega álagið við vinnuna verður óbærilegt, samkvæmt rannsókn Financial Times sem birt var 22. september.ft+1

Geðheilbrigðiskreppa innan gervigreindarstofa

Starfsfólk hjá bresku gervigreindaröryggisstofnuninni (UK AI Safety Institute), sem hefur það hlutverk að meta nýjustu gervigreindarlíkön, er meðal þeirra sem hafa orðið verst úti. Nokkrir starfsmenn eru nú í veikindaleyfi og fá sálfræðiaðstoð vegna streitu sem tengist ströngum prófunaráætlunum og því sem einn fyrrverandi starfsmaður lýsti sem „streituvaldandi og stundum eitruðu“ andrúmslofti. Álagið hefur lagst þyngst á teymi sem sinna netöryggi og lífefnafræðilegu mati, en vinna þeirra felst í því að kanna hvort gervigreindarlíkön geti hjálpað til við að búa til nýjar líffræðilegar ógnir eða uppgötva óþekktar veikleika í hugbúnaði.aiweekly+1

Vandinn nær langt út fyrir bresku stofnunina. Starfsmenn hjá Anthropic, OpenAI og Google Alphabet Inc. ↘ 3.58% DeepMind greina frá svipuðum erfiðleikum. Einn starfsmaður DeepMind sagði við Financial Times að rannsóknir á öryggi gervigreindar bæru með sér svo mikla hættu á kulnun að það fyndist eins og „ógerlegt verkefni“, og bætti við: „Tilfinningin um að hafa misst stjórnina, ásamt vanlíðaninni við að byggja eitthvað sem veldur raunverulegum skaða, leiðir til þess að margir segja upp eða fara í veikindaleyfi“.sedaily+1

Uppsagnir þekktra sérfræðinga hrannast upp

Fleiri en tugur háttsettra rannsakenda hefur sagt upp störfum hjá þremur helstu gervigreindarstofum vesturlanda á síðustu tveimur árum, samkvæmt Financial Times. Þekktasta uppsögnin að undanförnu var Jacob Coxon, 27 ára, sem yfirgaf Anthropic í byrjun september eftir aðeins fjóra mánuði og fór á mis við verulegar hlutabréfaeignir. Í færslu á X sem hefur fengið yfir 115 milljónir áhorfa skrifaði Coxon: „Fólkið sem byggir gervigreind trúir því einlæglega að hún gæti drepið okkur öll fyrir lok áratugarins. Þetta er ekki markaðsbrellu“.axios+2

Í viðtali við CNN sagði Coxon að gervigreindarfyrirtæki væru að „tefla með líf okkar“ og varaði við því að möguleikinn á að gervigreind geri sjálfa sig gáfaðri væri „það óhugnanlegasta“. Uppsögn hans var fylgt eftir með stuðningsyfirlýsingum frá Evan Hubinger, rannsakanda hjá Anthropic, sem skrifaði að hann teldi sjálfur meira en 10 prósent líkur á að gervigreind gæti valdið útrýmingu mannkyns á næsta áratug.cnbc+1

Kröfur um aðgerðir starfsmanna

Uppsagnahrinan hefur vakið athygli í akademíunni. Á viðburði hjá Stanford HAI þann 21. september hvatti Rob Reich, prófessor í stjórnmálafræði, starfsmenn hjá gervigreindarfyrirtækjum til að íhuga sameiginlegar aðgerðir. Reich benti á að í stjórnarkreppu OpenAI árið 2023 hafi samstaða starfsmanna bjargað starfi Sam Altman. „Verkalýðsstarf, í þessum venjulega skilningi, getur líka haft mikil áhrif á milli rannsóknarstofa til að reyna að hægja á þróuninni,“ sagði hann og benti á að ef fleiri en 1.300 undirritaðir aðilar að opnu bréfi sem kallar eftir hægari gervigreindarþróun hafi ekki íhugað að minnsta kosti eins dags vinnustöðvun, „þá er ég ekki viss um að ég taki bréfið alvarlega í fyrsta lagi“.

Ummælin falla í miðri víðtækari umræðu um hvort kröfur um hægari þróun frá stjórnendum eins og Dario Amodei, forstjóra Anthropic, og Sam Altman hjá OpenAI endurspegli raunverulegar áhyggjur eða, eins og tækniblaðamaðurinn Steven Vaughan-Nichols hélt fram í Computerworld fyrir International Business Machines Corporation ↗ 0.60%, þjóni því að kaupa tíma fyrir fyrirtæki sem eiga í fjárhagslegum erfiðleikum.futurism