Amazon avslöjar katastrofalt dyra AI-kostnader

Amazon.com, Inc. ↗ 5.47% har upptäckt fall av skenande utgifter i interna AI-projekt, inklusive ett som överskred sin budget med 860 procent och förblev oupptäckt i fem månader, enligt en rapport från Financial Times som publicerades på torsdagen.ft

Den dyraste incidenten involverade ett projekt byggt på Anthropic-modellen Claude Sonnet, utformat för att automatisera mappning av författardata till produktlistor på Amazons e-handelsplattform. Projektet kostade 1,8 miljoner dollar innan någon märkte överskridandet, och det lanserades aldrig. Två ytterligare fall som flaggades av ingenjörer inkluderade cirka 541 000 dollar i oväntade kostnader för ett finansiellt granskningsverktyg och 134 000 dollar som förlorades på ett logistik-AI-projekt avsett att förbättra leveranshastigheten.aiweekly+2

Katastrofalt dyrt

Ingenjörer på företaget beskrev mönstret som "katastrofalt dyrt" under ett internt möte, där en person noterade att det är "mycket svårt att förstå hur mycket allt som rör artificiell intelligens kostar". Varningen belyser en strukturell utmaning för företag som implementerar stora språkmodeller: till skillnad från traditionell programvara, där kostnaden för ett kodfel vanligtvis är försumbar, kan ineffektiv kod som körs mot generativa AI-modeller utlösa massiv resursförbrukning och få kostnaderna att skena.tradingkey+1

Amazons respons

Amazon uppger att fallen endast involverade ett fåtal team och inte representerar företagets bredare AI-användning. Företagets seniora ingenjörer har sedan dess varnat interna team för riskerna och infört striktare utgiftskontroller.unite+1

Avslöjandena kommer precis innan Amazons kvartalsrapport och mitt i en bredare granskning från investerare gällande företagets AI-utgifter. Amazon har satsat hundratals miljarder dollar på AI-infrastruktur, och de interna kostnadsmissarna tillför en ny dimension till frågor om huruvida dessa investeringar ger proportionell avkastning.linkedin

Branschövergripande oro

Incidenterna understryker en växande utmaning inom tekniksektorn. När företag skyndar sig att bädda in generativ AI i arbetsflöden har bristen på robusta finansiella skyddsräcken skapat förhållanden där små fel, som en felkonfigurerad promptloop eller ineffektiva API-anrop, kan generera enorma räkningar innan traditionella kostnadsövervakningssystem slår larm. För Amazon, ett företag vars molndivision säljer kostnadshanteringsverktyg till andra företag, bär de interna snedstegen på en viss ironi.aiweekly+1