AI-ansatte sykemeldes og slutter i frykt for teknologien de selv har bygget

Forskere i frontlinjen av utviklingen av kunstig intelligens sykemelder seg, søker psykologhjelp og sier opp jobbene sine i økende antall ettersom den psykologiske belastningen ved arbeidet blir uutholdelig, ifølge en undersøkelse fra Financial Times publisert 22. september.ft+1

Mental helsekrise i AI-laboratoriene

Ansatte ved britiske AI Safety Institute, det statlige organet som har ansvar for å evaluere avanserte AI-modeller, er blant de hardest rammede. Flere ansatte er for tiden sykemeldte og mottar psykologisk oppfølging på grunn av stress knyttet til krevende testplaner og det en tidligere ansatt beskriver som et "stressende og til tider giftig" arbeidsmiljø. Belastningen har rammet teamene for cybersikkerhet og biokjemi hardest, da deres arbeid innebærer å undersøke om AI-modeller kan bidra til å skape nye biologiske trusler eller avdekke ukjente programvaresårbarheter.aiweekly+1

Problemene strekker seg langt utover det britiske instituttet. Ansatte hos Anthropic, OpenAI og Google Alphabet Inc. ↘ 3.58% DeepMind rapporterer om lignende utfordringer. En ansatt i DeepMind fortalte Financial Times at AI-sikkerhetsforskning innebærer en så høy risiko for utmattelse at det føles som et "umulig oppdrag", og la til: "Følelsen av å ha mistet kontrollen, kombinert med angsten for å bygge noe som forårsaker reell skade, fører til at mange sier opp eller sykemelder seg".sedaily+1

Flere profilerte oppsigelser

Mer enn et dusin seniorforskere har sagt opp ved de tre ledende vestlige AI-laboratoriene de siste to årene, ifølge Financial Times. Den mest omtalte avgangen nylig var Jacob Coxon (27), som forlot Anthropic i begynnelsen av september etter bare fire måneder, og ga avkall på betydelige aksjeverdier. I et innlegg på X som har fått over 115 millioner visninger, skrev Coxon: "Folkene som bygger AI tror oppriktig at det kan ta livet av oss alle innen tiåret er omme. Dette er ikke et markedsføringsstunt".axios+2

I et intervju med CNN sa Coxon at AI-selskaper "gambler med livene våre" og advarte om at utsiktene til at AI gjør seg selv mer intelligent er "det mest skremmende". Hans avgang ble fulgt opp av støtteerklæringer fra Anthropic-forsker Evan Hubinger, som skrev at han personlig anslår en sannsynlighet på over 10 prosent for at AI vil forårsake menneskehetens undergang i løpet av det neste tiåret.cnbc+1

Oppfordringer til aksjon

Bølgen av oppsigelser har vakt oppsikt i akademia. Under et arrangement ved Stanford HAI den 21. september oppfordret professor i statsvitenskap, Rob Reich, ansatte ved AI-selskaper til å vurdere kollektiv handling. Reich påpekte at under OpenAI-krisen i 2023 var det de ansattes solidaritet som reddet jobben til Sam Altman. "Fagorganisering i vanlig forstand kan også være svært virkningsfullt på tvers av laboratorier for å prøve å bremse utviklingen," sa han, og antydet at hvis de mer enn 1 300 underskriverne av et nylig åpent brev som ber om langsommere AI-utvikling ikke engang har vurdert en dags streik, "så er jeg ikke sikker på om jeg tar hele brevet seriøst i utgangspunktet".

Uttalelsene kommer midt i en bredere debatt om hvorvidt oppfordringer til bremsing fra AI-ledere som Anthropic-sjef Dario Amodei og OpenAIs Sam Altman reflekterer genuin bekymring, eller om det, som teknologijournalist Steven Vaughan-Nichols argumenterte i Computerworld International Business Machines Corporation ↗ 0.60%, handler om å kjøpe tid for selskaper hvis økonomi fortsatt er usikker.futurism