Altman d’OpenAI qualifie la RAM des ordinateurs de gaspillage de mémoire

Le PDG d'OpenAI, Sam Altman, a suscité une vague de critiques parmi les utilisateurs d'IA locale. Dans un podcast diffusé le jeudi 29 octobre, il a déclaré que les puces mémoire situées dans les ordinateurs personnels gaspillent l'offre mondiale limitée de DRAM. Selon lui, cette mémoire serait mieux utilisée dans des centres de données fonctionnant 24h/24. Ces remarques interviennent alors que les consommateurs paient des prix plus élevés pour les PC et la mémoire, et de nombreux critiques ont noté que l'entreprise d'Altman est l'un des plus gros acheteurs à l'origine de cette pénurie.

Ce qu'a dit Altman

Altman s'est entretenu avec le cofondateur de Stripe, John Collison, dans le podcast Cheeky Pint. Selon la transcription de l'épisode, il a déclaré que beaucoup pensent que les modèles open source tournant sur leurs propres ordinateurs signifient que "nous n'aurons pas besoin de tout ce matériel dans le centre de données". Il a ensuite nuancé. "D'un point de vue de l'allocation mondiale, c'est en fait assez terrible que tout le monde possède une partie de l'offre mondiale limitée de DRAM dans son propre ordinateur", a-t-il déclaré, ajoutant que la mémoire est utilisée "5% du temps". Il a poursuivi : "Vous voulez une utilisation maximale dans le cloud si vous essayez de gérer cet environnement très contraint en termes d'approvisionnement".cheekypint.substack.com

La phrase qui s'est propagée en ligne, "une allocation terrible de ressources rares", provient d'un résumé viral de l'extrait, et non des mots exacts d'Altman, comme l'a rapporté La Razón.larazon.es

Altman a également déclaré à Collison que la "main invisible échoue en ce moment" concernant l'approvisionnement en mémoire. Il a expliqué que les fabricants de DRAM dépensaient autrefois environ 20 milliards de dollars en dépenses d'investissement pour gagner 19 milliards, et pourraient désormais générer chacun environ 100 milliards de dollars de flux de trésorerie disponible par an. Malgré cela, le souvenir de quasi-faillites passées les rend prudents quant à la construction de nouvelles usines, selon la transcription.cheekypint.substack.com

La réaction

Les critiques ont été virulentes. Dans Tom's Guide, Jason England a écrit que le dirigeant "dont l'entreprise est sans doute responsable du déclenchement de la pénurie mondiale de mémoire" disait maintenant aux consommateurs que leur propre RAM est inefficace. England a fait valoir que les gens veulent une IA locale pour la confidentialité, la liberté vis-à-vis des limites de débit et l'indépendance vis-à-vis des abonnements. Il a ajouté qu'un kit de 32 Go de mémoire DDR5 coûte désormais environ 500 dollars.tomsguide.com

La Razón a suggéré un motif commercial : les utilisateurs capables de faire tourner des modèles performants sur leurs propres machines ont moins de raisons de payer pour ChatGPT chaque mois. Les commentateurs sur r/LocalLLaMA ont soulevé le même point concernant l'incitation d'Altman à vendre des services cloud, a rapporté The A.I. Daily.aidaily.fyi+1

L'argument de l'offre

Le point soulevé par Altman concerne l'utilisation. La mémoire dans un centre de données sert de nombreux utilisateurs tout au long de la journée, tandis que la RAM d'un ordinateur portable reste inactive pendant de longues périodes, comme l'indiquait un résumé de ses remarques. The State of AI a déclaré que le calcul est juste mais omet pourquoi les entreprises choisissent de faire tourner des modèles localement. Au cours de la même conversation, Altman a déclaré qu'OpenAI avait construit sa propre puce et apprenait à construire ses propres centres de données, et il a évoqué l'idée qu'OpenAI pourrait vendre cette puce, selon la transcription.thestateofai.com+2