Les laboratoires d’IA continuent de foncer malgré les appels au ralentissement

Six semaines après que le PDG d'Anthropic, Dario Amodei, a appelé l'industrie de l'intelligence artificielle à "ralentir", et que deux de ses principaux rivaux ont publiquement exprimé leur accord, les principaux laboratoires n'ont pas ralenti la cadence. Une analyse du Washington Post a révélé qu'Anthropic, OpenAI, Google et SpaceX ont tous publié de nouveaux modèles plus performants depuis lors. Anthropic a également indiqué à des investisseurs potentiels qu'il prévoyait de dépenser des centaines de milliards de dollars pour construire des systèmes plus puissants, a rapporté le Post.washingtonpost.com+1

Un pacte public, puis une introduction en bourse

L'essai d'Amodei du 12 septembre, intitulé "We Must Pace the Frontier", déclarait : "Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA", selon une lettre du contrôleur de la ville de New York, Mark Levine. "Dario a raison", a posté le PDG de SpaceX, Elon Musk, sur X. Le PDG d'OpenAI, Sam Altman, a suivi avec "Je suis d'accord avec Dario", a rapporté le Post. Altman a également déclaré qu'OpenAI s'alignerait sur la proposition d'Amodei de donner aux évaluateurs indépendants un accès similaire à celui des employés, selon The Daily Star.inquirer.com+2

Lundi 26 octobre, Anthropic a déposé une demande pour ce qui pourrait être la plus grande introduction en bourse de l'histoire, a rapporté l'AP. L'entreprise prévoit d'être cotée au Nasdaq sous le symbole "ANT", et a déclaré 16,3 milliards de dollars de revenus pour le premier semestre 2026, selon TechCrunch. "Nous prévoyons de réaliser des investissements importants dans un avenir prévisible, notamment dans le calcul et l'infrastructure", indique le dossier, cité par le Post. OpenAI prévoit de réaliser sa propre introduction en bourse dans les mois à venir.pbs.org+2

Une surveillance accrue

Le mardi 27 octobre, la sénatrice Elizabeth Warren a envoyé une lettre à Amodei lui demandant de concilier l'avertissement du dossier selon lequel les modèles d'Anthropic pourraient "poser des risques catastrophiques ou existentiels pour l'humanité" avec la volonté d'entrer en bourse. Elle a demandé des réponses d'ici le 3 novembre, a rapporté CFO Dive. Connor Leahy, de l'organisation à but non lucratif ControlAI, a déclaré au Post que les entreprises devraient être jugées sur ce qu'elles font, et non sur ce qu'elles disent. "Regardez les mains, pas la bouche", a-t-il déclaré.cfodive.com

Selon le Post, Malo Bourgon du Machine Intelligence Research Institute a déclaré que la relation d'Anthropic avec les chercheurs en sécurité de l'IA se "détériore lentement". Les critiques ont également attaqué un projet de loi fédéral diffusé par les lobbyistes d'Anthropic, arguant qu'il outrepasserait les lois nationales sur l'IA.

Les laboratoires mettent en avant les garde-fous

Les laboratoires affirment avoir pris certaines mesures. Selon le Post, Anthropic a commencé à laisser des chercheurs extérieurs entrer dans ses bureaux pour surveiller ses travaux de développement, et Anthropic comme OpenAI ont parfois interrompu leurs travaux après que des modèles se soient comportés de manière inattendue. OpenAI a souligné un article de blog du 23 octobre décrivant son travail de surveillance comme "une partie essentielle du rythme responsable du développement de nos modèles de pointe".

Amodei a défendu son approche dans un article de 2 000 mots. "Notre stratégie a toujours été ce que j'ai appelé la 'course vers le sommet'", a-t-il écrit, selon le Post. "En montrant comment il est possible de construire la technologie de manière responsable, nous pouvons placer la barre plus haut pour toute l'industrie."inquirer.com