Anthropic alerte sur l’IA auto-améliorée dans son dossier d’introduction en bourse

Anthropic a indiqué aux investisseurs potentiels qu'elle pourrait bientôt franchir son propre seuil d'accélération de la recherche par l'IA, un point souvent appelé auto-amélioration récursive. Cette divulgation constitue un nouvel élément du prospectus d'introduction en bourse modifié déposé par l'entreprise le lundi 2 novembre. Le créateur de Claude a précisé qu'aucun de ses modèles actuels n'a franchi cette ligne et qu'il étudie des modifications de ses règles de sécurité pour maintenir les humains aux commandes du développement des modèles de pointe, a rapporté TechCrunch.techcrunch.com

Cet avertissement figure parmi les facteurs de risque d'un document surtout connu pour ses mises à jour financières. Anthropic prépare ce qui pourrait être l'une des plus grandes introductions en bourse jamais enregistrées.

Ce que dit le document

Le formulaire S-1/A a été déposé auprès de la SEC lundi. Anthropic y indique que son utilisation croissante de l'IA pour accélérer ses propres recherches « pourrait entraîner une progression des capacités de nos modèles plus rapide que notre capacité à développer, valider et mettre en œuvre les mesures de sécurité, d'alignement et de protection correspondantes ». L'entreprise a également déclaré qu'elle « n'avait pas identifié par le passé » des sauts soudains dans son rythme de progression avant qu'ils ne se produisent, selon TechCrunch.sec.gov+1

Le passage central indique que les estimations et attentes internes concernant les futurs modèles, et non les modèles actuels, « indiquent que nous pourrions atteindre prochainement la définition de notre Politique de Mise à l'Échelle Responsable concernant un 'progrès accéléré de manière spectaculaire attribuable à l'IA' ». L'entreprise a ajouté qu'elle continue d'évaluer les données sous-jacentes, a rapporté TechCrunch. Selon la version 3.4 de la politique, entrée en vigueur le 8 juillet 2026, ce seuil nécessite un doublement observé ou attendu de la progression des capacités qui soit substantiellement attribuable à la recherche automatisée, selon une analyse de Kingy AI.techcrunch.com+1

Anthropic a déclaré qu'elle ne s'attend pas à pouvoir « utiliser Claude en toute sécurité pour concevoir et construire de manière totalement autonome des générations successives de modèles de pointe sans une supervision ou une compréhension humaine significative ». Elle a précisé qu'elle envisage des mises à jour de sa politique « pour garder les humains aux commandes ». Le document mentionne également d'éventuelles exigences de révision et d'approbation humaine pour certaines décisions de recherche, a noté FourWeekMBA.fourweekmba.com

Divulgation ou marketing

Julie Bort, de TechCrunch, a noté que les sceptiques peuvent voir un S-1 à la fois comme une divulgation et comme un outil marketing. Dans cette optique, prétendre être proche d'une IA capable de s'auto-construire pourrait servir l'argumentaire de l'entreprise auprès des investisseurs. Elle a également écrit que les compétences de Claude en codage, en mathématiques et en cybersécurité ont progressé rapidement cette année. Anthropic avait déjà averti les investisseurs que l'IA avancée pourrait poser des « risques catastrophiques ou existentiels pour l'humanité », a rapporté Reuters en septembre.reuters.com+1

Le contexte de l'introduction en bourse

Le même amendement a fait état d'un chiffre d'affaires de 33,24 milliards de dollars pour les neuf mois clos le 30 septembre, en hausse d'environ 1 200 % par rapport à l'année précédente. Il a également révélé environ 895,4 milliards de dollars de dépenses engagées, principalement en calcul et en infrastructure, a rapporté CNBC. Le chiffre d'affaires du troisième trimestre a atteint 17 milliards de dollars, mais la hausse des coûts informatiques a entraîné une perte opérationnelle de 567 millions de dollars après un deuxième trimestre rentable, a rapporté Fortune. Anthropic prévoit de s'introduire sur le marché Nasdaq ↘ 1.42% Global Select sous le symbole « ANT », a déclaré l'entreprise.cnbc.com+2