Amazon deckt katastrophal hohe KI-Kosten auf

Amazon.com, Inc. ↗ 15.32% hat Fälle von ausufernden Ausgaben bei internen KI-Projekten aufgedeckt, darunter eines, das sein Budget um 860 Prozent überschritt und fünf Monate lang unentdeckt blieb, wie die Financial Times am Donnerstag berichtete.ft

Der teuerste Vorfall betraf ein Projekt auf Basis des Modells Claude Sonnet von Anthropic, das darauf ausgelegt war, die Zuordnung von Autorendaten zu Produktlisten auf der E-Commerce-Plattform von Amazon zu automatisieren. Das Projekt verursachte Kosten in Höhe von 1,8 Millionen Dollar, bevor jemand die Überschreitung bemerkte, und es wurde nie in Betrieb genommen. Zwei weitere von Ingenieuren gemeldete Fälle umfassten etwa 541 000 Dollar an unerwarteten Kosten für ein Finanzprüfungstool und 134 000 Dollar Verlust bei einem Logistik-KI-Projekt zur Verbesserung der Liefergeschwindigkeit.aiweekly+2

Katastrophal teuer

Ingenieure des Unternehmens beschrieben das Muster während eines internen Meetings als "katastrophal teuer", wobei einer anmerkte, es sei "sehr schwierig zu verstehen, wie viel irgendetwas im Zusammenhang mit künstlicher Intelligenz kostet". Die Warnung unterstreicht eine strukturelle Herausforderung für Unternehmen, die große Sprachmodelle einsetzen: Im Gegensatz zu herkömmlicher Software, bei der die Kosten eines Programmierfehlers in der Regel vernachlässigbar sind, kann ineffizienter Code, der auf generativen KI-Modellen läuft, einen massiven Rechenverbrauch auslösen und die Kosten in die Höhe treiben.tradingkey+1

Amazons Reaktion

Amazon erklärte, die Fälle beträfen nur wenige Teams und seien nicht repräsentativ für die breitere KI-Nutzung des Unternehmens. Die leitenden Ingenieure des Unternehmens haben seitdem interne Teams vor den Risiken gewarnt und Ausgabenkontrollen eingeführt.unite+1

Die Enthüllungen kommen kurz vor dem Quartalsbericht von Amazon und inmitten einer verstärkten Prüfung der KI-Ausgaben des Unternehmens durch Investoren. Amazon hat Hunderte Milliarden Dollar in die KI-Infrastruktur investiert, und die internen Kostenfehler werfen neue Fragen darüber auf, ob diese Investitionen angemessene Renditen erzielen.linkedin

Branchenweite Bedenken

Die Vorfälle unterstreichen eine wachsende Herausforderung im Technologiesektor. Da Unternehmen sich beeilen, generative KI in ihre Arbeitsabläufe zu integrieren, hat das Fehlen robuster finanzieller Leitplanken Bedingungen geschaffen, unter denen kleine Fehler, wie eine falsch konfigurierte Prompt-Schleife oder ineffiziente API-Aufrufmuster, enorme Rechnungen verursachen können, bevor herkömmliche Kostenüberwachungssysteme Alarm schlagen. Für Amazon, ein Unternehmen, dessen Cloud-Sparte Kostenmanagement-Tools an andere Unternehmen verkauft, ist die interne Panne besonders ironisch.aiweekly+1