Amazon découvre des surcoûts catastrophiques liés à l’IA

Amazon.com, Inc. ↗ 5.47% a mis au jour des cas de dépenses incontrôlées dans des projets internes d'IA, dont l'un a dépassé son budget de 860 % et est passé inaperçu pendant cinq mois, selon un rapport du Financial Times publié jeudi.ft

L'incident le plus coûteux concernait un projet basé sur le modèle Claude Sonnet d'Anthropic, conçu pour automatiser l'association des données d'auteurs aux fiches produits sur la plateforme de commerce électronique d'Amazon. Le projet a engendré 1,8 million de dollars de coûts avant que quiconque ne remarque le dépassement, et il n'a jamais été lancé. Deux autres cas signalés par les ingénieurs incluent environ 541 000 dollars de coûts imprévus sur un outil d'audit financier et 134 000 dollars perdus sur un projet d'IA logistique destiné à améliorer les délais de livraison.aiweekly+2

'Catastrophiquement coûteux'

Les ingénieurs de l'entreprise ont décrit ce schéma comme "catastrophiquement coûteux" lors d'une réunion d'examen interne, l'un d'eux notant qu'il est "très difficile de comprendre combien coûte tout ce qui est lié à l'intelligence artificielle". Cet avertissement souligne un défi structurel auquel sont confrontées les entreprises déployant de grands modèles de langage : contrairement aux logiciels traditionnels, où le coût d'une erreur de codage est généralement négligeable, un code inefficace exécuté sur des modèles d'IA générative peut entraîner une consommation informatique massive, faisant grimper les coûts en flèche.tradingkey+1

La réponse d'Amazon

Amazon a déclaré que ces cas ne concernaient que quelques équipes et ne reflètent pas l'utilisation globale de l'IA par l'entreprise. Les ingénieurs principaux de la société ont depuis averti les équipes internes des risques et ont pris des mesures pour imposer des contrôles budgétaires.unite+1

Ces révélations surviennent à la veille du rapport sur les résultats trimestriels d'Amazon et dans un contexte de surveillance accrue des investisseurs concernant les dépenses de l'entreprise en matière d'IA. Amazon a engagé des centaines de milliards de dollars dans l'infrastructure d'IA, et ces échecs de gestion des coûts internes ajoutent une nouvelle dimension aux questions sur la rentabilité réelle de ces investissements.linkedin

Inquiétudes à l'échelle de l'industrie

Ces incidents soulignent un défi croissant dans tout le secteur technologique. Alors que les entreprises se précipitent pour intégrer l'IA générative dans leurs flux de travail, l'absence de garde-fous financiers robustes a créé des conditions où de petites erreurs, comme une boucle de requêtes mal configurée ou un modèle d'appel API inefficace, peuvent générer des factures énormes avant que les systèmes traditionnels de suivi des coûts ne déclenchent une alerte. Pour Amazon, une entreprise dont la division cloud vend des outils de gestion des coûts à d'autres entreprises, ces faux pas internes sont particulièrement ironiques.aiweekly+1