Des experts en sécurité IA démissionnent, inquiets face à la technologie qu’ils développent

Les chercheurs à la pointe du développement de l'intelligence artificielle prennent des congés maladie, consultent des psychologues et démissionnent en nombre croissant à mesure que le poids psychologique de leur travail devient insupportable, selon une enquête du Financial Times publiée le 22 septembre.ft+1

Crise de santé mentale dans les laboratoires d'IA

Le personnel du UK AI Safety Institute, l'organisme gouvernemental chargé d'évaluer les modèles d'IA de pointe, figure parmi les plus touchés. Plusieurs employés sont actuellement en arrêt maladie et reçoivent un soutien psychologique en raison du stress lié à des calendriers de tests épuisants et à ce qu'un ancien employé a décrit comme une atmosphère "stressante et parfois toxique". La pression pèse particulièrement sur les équipes d'évaluation de la cybersécurité et de la biochimie, dont le travail consiste à vérifier si les modèles d'IA peuvent aider à générer de nouvelles menaces biologiques ou découvrir des vulnérabilités logicielles inconnues.aiweekly+1

Les problèmes s'étendent bien au-delà de l'institut britannique. Des employés d'Anthropic, OpenAI et Google Alphabet Inc. ↘ 3.58% DeepMind signalent des difficultés similaires. Un employé de DeepMind a déclaré au Financial Times que la recherche sur la sécurité de l'IA comporte un risque d'épuisement si élevé qu'elle ressemble à une "mission impossible", ajoutant : "Le sentiment d'avoir perdu le contrôle, associé à la détresse de construire quelque chose qui cause un réel préjudice, pousse de nombreuses personnes à démissionner ou à prendre des congés maladie".sedaily+1

Une série de départs médiatisés

Plus d'une douzaine de chercheurs seniors ont démissionné des trois principaux laboratoires d'IA occidentaux au cours des deux dernières années, selon le Financial Times. Le départ récent le plus marquant est celui de Jacob Coxon, 27 ans, qui a quitté Anthropic début septembre après seulement quatre mois, renonçant à une somme substantielle en actions non acquises. Dans une publication sur X qui a recueilli plus de 115 millions de vues, Coxon a écrit : "Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing".axios+2

Dans une interview avec CNN, Coxon a déclaré que les entreprises d'IA "jouent avec nos vies" et a averti que la perspective d'une IA devenant plus intelligente par elle-même est "ce qu'il y a de plus effrayant". Son départ a été suivi par des commentaires de soutien du chercheur en alignement d'Anthropic, Evan Hubinger, qui a écrit qu'il estime personnellement à plus de 10 pour cent la probabilité que l'IA provoque l'extinction humaine au cours de la prochaine décennie.cnbc+1

Appels à l'action des travailleurs

La vague de démissions a attiré l'attention du monde universitaire. Lors d'un événement Stanford HAI le 21 septembre, Rob Reich, professeur de sciences politiques, a exhorté les employés des entreprises d'IA de pointe à envisager une action collective. Reich a noté que lors de la crise du conseil d'administration d'OpenAI en 2023, la solidarité des employés a sauvé le poste de Sam Altman. "L'organisation syndicale, au sens ordinaire du terme, peut également être très lourde de conséquences dans les laboratoires pour tenter de ralentir la course", a-t-il déclaré, suggérant que si les plus de 1 300 signataires d'une récente lettre ouverte appelant à un développement plus lent de l'IA n'ont même pas envisagé une journée de grève, "alors je ne suis pas sûr de prendre cette lettre au sérieux".

Ces remarques interviennent dans le cadre d'un débat plus large sur la question de savoir si les appels au ralentissement lancés par des dirigeants d'IA comme le PDG d'Anthropic, Dario Amodei, et Sam Altman d'OpenAI reflètent une préoccupation sincère ou, comme l'a soutenu le journaliste technologique Steven Vaughan-Nichols dans Computerworld International Business Machines Corporation ↗ 0.60%, servent à gagner du temps pour des entreprises dont les finances restent précaires.futurism