Anthropic recrute des experts en armement pour protéger l’IA contre les abus

Anthropic lance une campagne de recrutement d'analystes et d'experts chargés d'empêcher que ses systèmes d'IA ne soient utilisés pour aider à fabriquer des armes de destruction massive, commettre des cyberattaques ou perpétrer des fraudes financières.

L'entreprise a publié ces derniers jours une série d'offres d'emploi recherchant des spécialistes des risques radiologiques et nucléaires, des produits chimiques et explosifs, de la cybercriminalité et d'autres catégories de menaces, comme l'a rapporté Axios et détaillé Yahoo Finance. Les postes, qui offrent des salaires compris entre 200 000 et 300 000 dollars, ne nécessitent pas de compétences en programmation — Anthropic recherche plutôt une expertise réelle dans des domaines tels que la physique nucléaire, la biologie et les explosifs, ainsi que la capacité de penser comme un attaquant cherchant les points faibles des défenses de l'entreprise.thenextweb+1

Un appareil de sécurité en pleine croissance

Une offre pour un "Analyste de l'application des garanties, risques radiologiques et nucléaires" recherche des candidats ayant une formation en ingénierie nucléaire ou en physique de la santé et une expérience dans la non-prolifération des armes de destruction massive ou le renseignement sur les menaces. Une autre, axée sur les cyber-risques, demande aux analystes de détecter et d'atténuer les tentatives de détournement des modèles d'Anthropic à des fins d'opérations cybernétiques malveillantes. L'entreprise recrute également des chercheurs en biosécurité titulaires d'un doctorat en virologie, microbiologie ou dans des domaines connexes pour "définir ce à quoi ressemble une sécurité responsable de l'IA dans le domaine biologique".job-boards.greenhouse+2

Un porte-parole d'Anthropic a déclaré à The Next Web que "garantir que nos modèles ne fournissent pas d'informations potentiellement dangereuses est essentiel au développement responsable", ajoutant que des centaines d'employés travaillent désormais sur la sécurité. La BBC a rapporté plus tôt cette année qu'Anthropic recherchait un expert en armes chimiques et explosifs à haut rendement pour atténuer ce qu'elle a qualifié de "mauvais usage catastrophique" de sa technologie.bbc+1

Les avertissements répétés d'Amodei

Cette vague de recrutement fait suite aux avertissements du PDG Dario Amodei, qui a passé une grande partie de l'année écoulée à tirer la sonnette d'alarme sur les risques posés par l'IA avancée. Dans un essai publié en janvier, Amodei a écrit que les attaques biologiques étaient sa plus grande crainte, notant que "si l'on considère des millions de personnes sur quelques années, je pense qu'il existe un risque sérieux d'attaque majeure, avec potentiellement des millions de victimes ou plus". Il a également averti qu'il restait une fenêtre de six à 12 mois pour que les entreprises et les gouvernements corrigent les vulnérabilités logicielles identifiées par les derniers modèles d'Anthropic.axios+2

Autorégulation dans un vide législatif

Anthropic n'est pas seule dans cet effort. OpenAI recrute également des chercheurs spécialisés dans les risques biologiques et chimiques, avec des salaires pouvant atteindre 445 000 dollars. Cette dynamique parallèle souligne une situation inhabituelle dans l'industrie de l'IA : les entreprises qui construisent les modèles les plus puissants sont également celles qui recrutent pour les surveiller, en l'absence d'une législation fédérale complète sur la sécurité de l'IA. Amodei a reconnu cette tension, qualifiant les entreprises d'IA elles-mêmes de niveau de risque juste en dessous des États hostiles.thenextweb