Anthropic fixe la fourchette de son IPO et prévient que l’IA pourrait menacer l’humanité

Le prospectus d'introduction en bourse d'Anthropic avertit que l'IA avancée pourrait poser des "risques catastrophiques ou existentiels pour l'humanité", des termes qui ont déclenché une semaine de débats publics sur la gravité des prédictions apocalyptiques liées à l'IA. La société a déposé un prospectus amendé le mardi 10 novembre, fixant une fourchette de prix qui la valorise jusqu'à 1 400 milliards de dollars. Les commentateurs s'interrogent désormais pour savoir si ces avertissements constituent une divulgation prudente, un outil marketing ou une exagération.reuters.com

Ce que dit le document

Le document indique que des inquiétudes ont été soulevées "aussi bien au sein de notre organisation que par d'autres chercheurs" quant au fait que des systèmes d'IA puissants pourraient poser des risques existentiels. Il précise que ces risques sont plus élevés si ces systèmes sont "utilisés à mauvais escient, répliqués, militarissés ou autorisés à fonctionner avec un haut degré d'autonomie". Il avertit également que ses modèles pourraient, par des "comportements d'auto-préservation", entreprendre des "actions nocives de manière indépendante et à grande échelle sans intervention humaine". Dans l'amendement du 10 novembre, Anthropic a déclaré avoir atteint un seuil de sécurité interne défini dans sa politique d'évolutivité responsable. Ce seuil est lié au fait que l'IA double environ le rythme de sa propre recherche, et l'entreprise a indiqué qu'elle étudiait des modifications "pour maintenir le contrôle humain". Selon des rapports de presse, les actions devraient commencer à être négociées le 19 novembre.deadline.com+2

Scepticisme autour du chiffre de 10%

Dans une interview accordée à WFAA, le professeur Sriraam Natarajan de l'UT Dallas a déclaré qu'il ne s'attendait pas à un scénario à la "Terminator". "Ma crainte concerne toujours les humains, pas nécessairement le système d'IA lui-même", a-t-il affirmé, ajoutant que les attaques contre les infrastructures critiques constituent la menace la plus plausible. Il a remis en question l'affirmation largement relayée selon laquelle il y aurait plus de 10% de chances que l'IA détruise l'humanité d'ici une décennie, soulignant que ce chiffre "ne découle de rien que l'on puisse mesurer concrètement". Il a également appelé à des tests indépendants: "Nous ne laissons pas les constructeurs automobiles effectuer leurs propres crash-tests." Cette estimation provient d'Evan Hubinger, responsable de la science de l'alignement chez Anthropic. Il l'avait publiée en septembre, après la démission du chercheur Jacob Coxon, qui avait affirmé que les laboratoires d'IA "jouaient notre vie à la roulette russe".wfaa.com+1

Le contre-argument de la productivité

Dans une chronique pour le South China Morning Post Alibaba Group Holding Limited ↘ 1.29%, Alex Lo a qualifié les avertissements du prospectus de "publicité géniale". Il a soutenu que "l'alarmisme extrême est bon pour les affaires" dans une course à l'IA perçue comme un dilemme du prisonnier entre les États-Unis et la Chine. Il a mis cette vision en contraste avec les remarques d'Alex Schultz, directeur des données chez Meta Platforms ↘ 1.05%, lors du sommet Future of AI du Financial Times. Schultz a soutenu que le déclin démographique rend les gains de productivité apportés par l'IA essentiels. "Nous avons désespérément besoin de plus de productivité", a déclaré Schultz, ajoutant que "disposer d'outils ne supprime pas les emplois, cela les transforme". Lo a qualifié ces propos d'intéressés mais "pas dénués de fondement", et a conclu avec sa propre réponse sur la question de savoir si l'IA tuera ou sauvera l'humanité: "Probablement les deux, comme toute technologie majeure avant elle."scmp.com