Hassabis a promu un plan de surveillance de l’IA avant son départ de DeepMind

Dans les semaines précédant l'annonce par Alphabet ↘ 0.18% d'un remaniement majeur de la direction de Google DeepMind le 5 août, Demis Hassabis travaillait discrètement sur un projet dépassant le simple développement de modèles : une proposition pour un organisme indépendant chargé de surveiller l'intelligence artificielle de pointe, selon le Wall Street Journal News Corp ↗ 0.03%.wsj

Hassabis a engagé des discussions avec les dirigeants de laboratoires d'IA rivaux et des responsables de l'administration Trump, dont le secrétaire au Trésor Scott Bessent, sur la création d'une organisation de normalisation dirigée par les États-Unis et financée par l'industrie, calquée sur la Financial Industry Regulatory Authority (FINRA), l'organisme privé qui supervise les courtiers de Wall Street. La proposition prévoit qu'un conseil d'experts techniques indépendants examine les modèles d'IA de pointe jusqu'à 30 jours avant leur mise sur le marché, l'organisme étant responsable devant le gouvernement fédéral tout en restant géré par le secteur privé.claimsjournal+3

La proposition

Hassabis a rendu public son cadre le 14 juillet, appelant à la création d'un "Organisme de normalisation de l'IA de pointe". Le plan prévoit que les laboratoires de pointe soumettent volontairement leurs modèles les plus puissants à des tests de sécurité avant leur lancement, les laboratoires finançant eux-mêmes l'organisation, à l'instar du financement de la FINRA par les courtiers qu'elle régule. Selon Fortune, Bessent a aidé à développer la proposition, qui était examinée par la chef de cabinet de la Maison Blanche, Susie Wiles.digitalapplied+3

Le Washington Post a décrit l'initiative comme une forme d'"autorégulation de l'IA" avec une "invitation discrète faite au gouvernement d'en faire davantage à terme". Bloomberg a rapporté en juillet que l'administration Trump étudiait activement le plan après que des leaders de la Silicon Valley se soient plaints du caractère improvisé des récentes mesures américaines visant à gérer les systèmes d'IA de pointe.washingtonpost+1

Le remaniement de la direction

Le 5 août, Alphabet a annoncé que Hassabis quitterait son poste de PDG de Google DeepMind pour devenir président de l'unité et scientifique en chef d'Alphabet, un changement marquant un retrait de la gestion quotidienne au profit de la stratégie AGI et de la recherche scientifique. Koray Kavukcuoglu, directeur de la technologie de DeepMind, a repris les opérations quotidiennes en tant que vice-président senior, rapportant directement au PDG Sundar Pichai.axios+2

Le remaniement a également vu l'ingénieur vétéran Jeff Dean et plusieurs autres leaders éminents de l'IA, dont Sanjay Ghemawat, Oriol Vinyals et Quoc Le, quitter Google pour lancer une startup appelée Discovery Loop.reuters+1

Sécurité et concurrence

Le timing de l'initiative réglementaire de Hassabis, parallèlement à son retrait des opérations, soulève des questions sur un éventuel lien entre les deux développements. Dans des conversations avec ses collègues, Hassabis a comparé l'organisation qu'il envisageait à l'Agence internationale de l'énergie atomique, la présentant comme un organe de collaboration plutôt que comme un régulateur punitif. Son nouveau rôle de scientifique en chef d'Alphabet et de président de DeepMind lui permet de continuer à promouvoir cet organisme de normalisation sans les contraintes opérationnelles liées à la direction de l'un des plus grands laboratoires d'IA au monde.cnbc+1