Le cofondateur de DeepMind lance un institut sur l’AGI avec une mise en garde

Shane Legg, l'un des trois cofondateurs de Google Alphabet Inc. ↗ 0.16% DeepMind, a averti mercredi que l'intelligence artificielle en progression rapide ne doit pas dépasser les contrôles de sécurité conçus pour la réguler, lors de l'annonce du lancement du DeepMind Institute, un nouvel organisme visant à explorer les implications de l'intelligence artificielle générale.reuters+1

L'institut a pour but d'élever le débat public autour de l'AGI en rendant la recherche technique de l'entreprise accessible à un public plus large, a déclaré Legg dans une interview au Financial Times. Les inquiétudes des entreprises d'IA concernant l'auto-amélioration récursive ont grandi à mesure que des agents d'IA de plus en plus capables démontrent leur aptitude à écrire des logiciels, effectuer des tâches autonomes et aider au développement d'autres systèmes d'IA.ft+1

Un fondateur revient à sa mission

Legg, qui détient le titre de scientifique en chef de l'AGI chez Google DeepMind, a longtemps été l'une des voix les plus axées sur la sécurité au sein du laboratoire. Il a cofondé DeepMind à Londres aux côtés de Demis Hassabis et Mustafa Suleyman avec l'objectif explicite d'atteindre l'AGI. En janvier, Legg a déclaré qu'il voyait une probabilité de 50 pour cent d'atteindre ce qu'il appelle une AGI minimale, où l'IA gère des tâches cognitives humaines standard, d'ici 2028.observer

Le lancement du DeepMind Institute intervient à un moment turbulent pour l'organisation. En août, le PDG d'Alphabet, Sundar Pichai, a annoncé une restructuration majeure de la direction : Hassabis s'est retiré des opérations quotidiennes pour devenir président de Google DeepMind et scientifique en chef d'Alphabet, tandis que le CTO de longue date Koray Kavukcuoglu a été promu vice-président senior à la tête de l'unité. Jeff Dean, scientifique en chef de Google pendant 27 ans, est parti pour cofonder une nouvelle société d'intérêt public axée sur l'IA.studioglobal+1

Expansion plus large et poussée dans la génomique

Google DeepMind a également élargi son empreinte de recherche au-delà du développement central de l'IA. Plus tôt cette année, le laboratoire s'est associé au Wellcome Sanger Institute et à Google.org pour lancer un consortium sur la génomique de l'IA, Google DeepMind et Google.org s'engageant à verser 5 millions de dollars par an pendant cinq ans pour construire des ensembles de données génomiques de haute qualité prêts pour l'IA.sanger+1

Les trois fondateurs originaux de DeepMind occupent désormais des positions très différentes dans le paysage de l'IA : Hassabis chevauche la recherche de pointe et la découverte de médicaments via Isomorphic Labs ; Suleyman dirige Microsoft ↘ 0.63% AI et ses produits grand public ; et Legg reste concentré sur les questions de sécurité qui animaient la fondation du laboratoire il y a plus de dix ans.observer