OpenAIs Altman nennt PC-Arbeitsspeicher Ressourcenverschwendung

OpenAI-CEO Sam Altman hat unter Nutzern lokaler KI-Modelle für Empörung gesorgt. In einem am Donnerstag, den 29. Oktober, veröffentlichten Podcast sagte er, dass Speicherchips in PCs die weltweit begrenzten DRAM-Vorräte verschwenden würden. Seiner Ansicht nach wäre dieser Speicher in Rechenzentren, die rund um die Uhr laufen, besser aufgehoben. Die Äußerungen fallen in eine Zeit, in der Verbraucher für PCs und Arbeitsspeicher tiefer in die Tasche greifen müssen, und viele Kritiker merken an, dass Altmans eigenes Unternehmen einer der größten Käufer ist, die diese Knappheit befeuern.

Was Altman sagte

Altman sprach mit Stripe-Mitgründer John Collison im Cheeky Pint-Podcast. Laut Transkript sagte er, viele gingen davon aus, dass Open-Source-Modelle auf eigenen Computern bedeuteten, dass "wir nicht all das Zeug im Rechenzentrum brauchen werden." Er widersprach dem: "Aus einer globalen Allokationsperspektive ist es tatsächlich ziemlich schrecklich, wenn jeder einen Haufen der weltweit begrenzten DRAM-Vorräte in seinem eigenen Computer sitzen hat", sagte er und fügte hinzu, dass der Speicher "5 % der Zeit" genutzt werde. Er fuhr fort: "Man will eine maximale Auslastung in der Cloud, wenn man mit dieser sehr ressourcenknappen Umgebung umgehen will."cheekypint.substack.com

Der im Internet verbreitete Satz "eine schreckliche Allokation knapper Ressourcen" stammte aus einer viralen Zusammenfassung des Clips und nicht aus Altmans exakten Worten, wie La Razón berichtete.larazon.es

Altman sagte Collison zudem, dass die "unsichtbare Hand derzeit versagt", wenn es um die Speicherversorgung geht. Er erklärte, dass DRAM-Hersteller früher etwa 20 Milliarden Dollar investierten, um 19 Milliarden zu verdienen, und heute theoretisch jeweils etwa 100 Milliarden Dollar an freiem Cashflow pro Jahr erzielen könnten. Dennoch hielten sie die Erinnerungen an frühere Beinahe-Insolvenzen davon ab, neue Fabriken zu bauen, so das Transkript.cheekypint.substack.com

Die Gegenreaktion

Kritiker reagierten scharf. Jason England schrieb für Tom's Guide, dass der Manager, "dessen Unternehmen wohl für die globale Speicherknappheit verantwortlich ist", nun den Verbrauchern erkläre, ihr eigener RAM sei ineffizient. England argumentierte, dass Menschen lokale KI für Datenschutz, Freiheit von Ratenbegrenzungen und Unabhängigkeit von Abonnements wollten. Er fügte hinzu, dass ein 32-GB-DDR5-Speicherkit derzeit etwa 500 Dollar koste.tomsguide.com

La Razón deutete ein kommerzielles Motiv an: Nutzer, die leistungsfähige Modelle auf eigenen Maschinen ausführen können, haben weniger Grund, monatlich für ChatGPT zu zahlen. Kommentatoren auf r/LocalLLaMA äußerten den gleichen Punkt bezüglich Altmans Anreiz, Cloud-Dienste zu verkaufen, berichtete The A.I. Daily.aidaily.fyi+1

Das Argument der Versorgung

Altmans Punkt dreht sich um die Auslastung. Speicher in einem Rechenzentrum bedient über den Tag hinweg viele Nutzer, während RAM in einem Laptop über lange Strecken ungenutzt bleibt, wie es in einer Zusammenfassung seiner Bemerkungen hieß. The State of AI erklärte, die Rechnung gehe zwar auf, lasse aber außer Acht, warum Unternehmen sich für den lokalen Betrieb von Modellen entscheiden. Im selben Gespräch sagte Altman, OpenAI habe einen eigenen Chip entwickelt und lerne, eigene Rechenzentren zu bauen, und er brachte die Idee ins Spiel, dass OpenAI diesen Chip möglicherweise verkaufen könnte, so das Transkript.thestateofai.com+2