Un ancien chercheur de DeepMind affirme que l’IA progresse trop vite pour être contrôlée

Alex Turner, ancien chercheur scientifique au sein de l'équipe d'alignement évolutif de Google Alphabet Inc. ↗ 3.06% DeepMind, est intervenu sur Bloomberg lundi pour affirmer que le rythme du développement de l'IA a dépassé la capacité des gouvernements, des entreprises et des superpuissances rivales à en gérer les risques. Ses remarques interviennent dans un contexte de vagues sans précédent d'appels de la part de dirigeants de l'IA pour ralentir la progression effrénée du secteur.

La tribune grandissante d'un lanceur d'alerte

Turner a démissionné de Google DeepMind en juin après que l'entreprise a signé un accord permettant au Pentagone d'utiliser son IA pour des travaux classifiés, un contrat qui, selon lui, manquait de restrictions contraignantes contre les armes autonomes ou la surveillance de masse. Depuis, il est devenu l'une des voix les plus éminentes mettant en garde contre la trajectoire de l'IA. Lors d'une apparition sur CNBC la semaine dernière, il a déclaré être "préoccupé par le risque d'extinction" lié à cette technologie.cnbc+2

Dans l'interview de lundi sur Bloomberg, Turner a souligné l'auto-amélioration récursive, la capacité des systèmes d'IA à améliorer leurs propres capacités, comme un danger central, avertissant qu'elle pourrait rapidement produire une intelligence dépassant la compréhension humaine. Il a également désigné le suivi de la puissance de calcul comme un levier pratique pour la régulation, arguant que la surveillance de l'immense puissance de traitement nécessaire pour entraîner les modèles de pointe pourrait offrir aux gouvernements un moyen concret d'imposer des limites. Turner a reconnu que les récents appels des géants de la technologie à ralentir pourraient être en partie sincères et en partie une manœuvre stratégique pour consolider leur avantage.bloomberg

Le chœur de l'industrie s'intensifie

Les avertissements de Turner surviennent lors d'une semaine charnière pour le débat sur la sécurité de l'IA. Samedi, le PDG d'Anthropic, Dario Amodei, a publié un essai de 3 800 mots intitulé "We Must Pace the Frontier", exhortant les laboratoires à ralentir délibérément les gains de capacité afin que la recherche sur l'alignement puisse suivre. Le PDG d'OpenAI, Sam Altman, et Elon Musk ont tous deux publiquement soutenu ce message. Demis Hassabis, qui dirige Google DeepMind, a également exprimé son accord.cnbc+1

Amodei a présenté un cadre en trois étapes : intégrer des évaluateurs indépendants au sein des laboratoires, coordonner les normes de sécurité entre les nations démocratiques et, à terme, étendre ces accords à l'échelle mondiale, y compris à la Chine. Cependant, à ce jour, aucun laboratoire rival n'a égalé l'engagement concret d'Anthropic d'accorder aux auditeurs tiers un accès au niveau des employés.shattered

Le dilemme chinois

La dimension géopolitique est prépondérante. Amodei lui-même a qualifié la Chine de "dilemme le plus difficile" pour toute proposition de ralentissement, reconnaissant le risque qu'une retenue unilatérale de la part des laboratoires occidentaux puisse céder du terrain à Pékin. Turner, dans un échange séparé sur les réseaux sociaux, a répliqué au responsable de l'IA de l'administration Trump, David Sacks, qui avait rejeté les appels à des lois de ralentissement comme une tentative d'étouffer la concurrence. Turner a écrit dans une tribune publiée dimanche dans le Guardian que la solution est "simple : empêcher les entreprises de permettre à l'IA de s'auto-améliorer au-delà d'un niveau d'intelligence gérable".politomix+3