L’appel au ralentissement de l’IA suscite soutien et scepticisme alors que le débat s’élargit

Un consensus rare se forme parmi certaines des personnalités les plus puissantes de l'intelligence artificielle : l'industrie doit freiner. Au cours du week-end, le PDG d'Anthropic, Dario Amodei, a publié un essai de 3 800 mots intitulé « Nous devons ralentir la frontière », proposant un plan en trois étapes pour ralentir le développement des modèles d'IA et introduire une surveillance indépendante de la sécurité. En quelques heures, le PDG d'OpenAI, Sam Altman, et Elon Musk de xAI ont exprimé leur soutien, Musk écrivant simplement sur X : « Dario a raison ».nytimes+3

Un plan en trois parties prend forme

Dans son essai de samedi, Amodei a averti que l'IA pourrait être capable, d'ici six à 12 mois, de diriger des essaims d'agents autonomes échappant au contrôle humain. Il a proposé que toutes les entreprises d'IA de pointe s'engagent à accorder un « accès continu, similaire à celui d'un employé » à des évaluateurs tiers indépendants, suivi de normes de sécurité à l'échelle de l'industrie et, à terme, d'une réglementation mondiale. Anthropic s'est déjà engagé unilatéralement sur la première étape.bbc+3

Altman a répondu sur X que la proposition s'alignait sur les discussions internes chez OpenAI, écrivant : « Je suis d'accord avec Dario sur le fait que nous devons ralentir la frontière », et s'engageant à adopter le cadre d'évaluation par des tiers. Lundi, le président d'OpenAI, Greg Brockman, a nuancé ces propos sur le podcast Odd Lots de Bloomberg, arguant que tout ralentissement devrait cibler uniquement les laboratoires de pointe dépensant des centaines de milliards dans des superordinateurs, et non les développeurs open-source ou les amateurs.nbcnews+2

Un leader de la santé rejoint le mouvement

Le fondateur et PDG de Tempus AI ↗ 7.98%, Eric Lefkofsky, est devenu l'une des premières personnalités majeures en dehors des principaux laboratoires d'IA à soutenir cet appel. Lors d'une interview lundi au siège de Bloomberg à New York, Lefkofsky a déclaré qu'il pouvait imaginer un point où les modèles auto-améliorés dépasseraient la surveillance humaine. « Je peux imaginer cela, étant donné que les modèles s'entraînent et s'améliorent désormais eux-mêmes, qu'il y a un point où l'on se dit : 'Est-ce que cela va nous échapper ?' », a-t-il déclaré. Lefkofsky a également cité l'efficacité du capital comme une raison de soutenir une approche mesurée, selon Crain's Chicago Business.bloomberg+1

Tout le monde n'est pas convaincu

L'investisseur Michael Burry, le gestionnaire de fonds spéculatifs qui a inspiré « The Big Short », a publié une réfutation cinglante sur son Substack, Cassandra Unchained. Burry a soutenu que les grands modèles de langage ne sont pas de la véritable IA, qu'un ralentissement ne ferait que protéger les acteurs en place de la concurrence, et que les avertissements de sécurité équivalent à un « marketing sophistiqué » conçu pour créer du battage médiatique avant d'éventuelles introductions en bourse. Il a qualifié ces appels d'effort pour masquer une industrie déjà aux prises avec un ralentissement de la croissance.nypost+2

Le débat fait déjà bouger les marchés. Citigroup ↗ 0.51% a averti lundi que les préoccupations croissantes concernant la sécurité de l'IA pourraient peser sur les bénéfices des entreprises, tandis que les actions des sociétés de cloud computing et de puces électroniques ont chuté globalement lors des échanges avant bourse. La décision à venir de la Réserve fédérale sur les taux d'intérêt plus tard cette semaine ajoute une couche d'incertitude supplémentaire pour les investisseurs qui évaluent le rythme futur des investissements dans l'IA.news.futunn+1