Zaměstnanci v oblasti bezpečnosti AI odcházejí a marodí kvůli strachu z technologií, které sami vytvořili

Výzkumníci v čele vývoje umělé inteligence si stále častěji berou nemocenskou, vyhledávají poradenství a dávají výpovědi, protože psychická zátěž jejich práce se stává neúnosnou, vyplývá z vyšetřování deníku Financial Times zveřejněného 22. září.ft+1

Krize duševního zdraví v laboratořích AI

Zaměstnanci britského institutu pro bezpečnost AI, vládního orgánu pověřeného hodnocením nejmodernějších modelů AI, patří k těm nejvíce zasaženým. Několik zaměstnanců je v současné době na nemocenské a dochází na psychologické poradenství kvůli stresu spojenému s vyčerpávajícími testovacími plány a tím, co jeden bývalý zaměstnanec popsal jako „stresující a místy toxickou“ atmosféru. Největší zátěž dopadá na týmy pro kybernetickou bezpečnost a biochemické hodnocení, jejichž práce zahrnuje zkoumání, zda modely AI mohou pomoci při vytváření nových biologických hrozeb nebo objevování neznámých softwarových zranitelností.aiweekly+1

Problémy sahají daleko za hranice britského institutu. Zaměstnanci společností Anthropic, OpenAI a Google Alphabet Inc. ↘ 3.58% DeepMind hlásí podobné potíže. Jeden zaměstnanec DeepMind deníku Financial Times řekl, že výzkum bezpečnosti AI s sebou nese tak vysoké riziko vyčerpání, že působí jako „nemožná mise“, a dodal: „Pocit ztráty kontroly spolu s úzkostí z vytváření něčeho, co způsobuje skutečnou škodu, vede mnoho lidí k rezignaci nebo k odchodu na nemocenskou“.sedaily+1

Hromadí se odchody významných osobností

Podle Financial Times za poslední dva roky rezignovalo ze tří předních západních laboratoří AI více než tucet špičkových výzkumníků. Nejvýraznějším nedávným odchodem byl sedmadvacetiletý Jacob Coxon, který opustil Anthropic začátkem září po pouhých čtyřech měsících, přičemž se vzdal nevyužitých akciových opcí v značné hodnotě. V příspěvku na síti X, který zaznamenal přes 115 milionů zhlédnutí, Coxon napsal: „Lidé, kteří budují AI, upřímně věří, že by nás všechny mohla do konce desetiletí zabít. Není to marketingový trik“.axios+2

V rozhovoru pro CNN Coxon uvedl, že firmy zabývající se AI „hazardují s našimi životy“, a varoval, že vyhlídka na to, že se AI stane inteligentnější než lidé, je „nejvíce děsivá“. Jeho odchod podpořil výzkumník z Anthropic Evan Hubinger, který napsal, že osobně odhaduje pravděpodobnost, že AI způsobí vyhynutí lidstva v příštím desetiletí, na více než 10 procent.cnbc+1

Výzvy k akci pro zaměstnance

Vlna rezignací přitáhla pozornost akademické obce. Na akci Stanford HAI 21. září vyzval profesor politologie Rob Reich zaměstnance firem zabývajících se AI, aby zvážili kolektivní akci. Reich poznamenal, že během krize správní rady OpenAI v roce 2023 zachránila místo Sama Altmana solidarita zaměstnanců. „Odborová organizace v tomto běžném smyslu může být napříč laboratořemi velmi důsledná ve snaze zpomalit vývoj na hranici možností,“ řekl a naznačil, že pokud více než 1 300 signatářů nedávného otevřeného dopisu vyzývajícího k pomalejšímu vývoji AI ani neuvažovalo o jednodenní stávce, „pak si nejsem jistý, zda celý ten dopis vůbec beru vážně“.

Tyto poznámky zazněly uprostřed širší debaty o tom, zda výzvy ke zpomalení od šéfů AI, jako jsou generální ředitel Anthropic Dario Amodei a Sam Altman z OpenAI, odrážejí skutečné obavy, nebo zda, jak argumentoval technologický novinář Steven Vaughan-Nichols v Computerworld International Business Machines Corporation ↗ 0.60%, slouží pouze k získání času pro společnosti, jejichž finance zůstávají nejisté.futurism