Altman z OpenAI označil operační paměť v noteboocích za plýtvání vzácnými zdroji

Generální ředitel OpenAI Sam Altman vyvolal vlnu odporu mezi uživateli lokální AI. V podcastu zveřejněném ve čtvrtek 29. října prohlásil, že paměťové čipy v osobních počítačích plýtvají omezenými světovými zásobami DRAM. Podle něj by tato paměť byla lépe využita v datových centrech, která běží nepřetržitě. Tyto poznámky přišly v době, kdy spotřebitelé platí vyšší ceny za počítače a paměti, a mnozí kritici podotkli, že Altmanova vlastní společnost je jedním z největších kupců, kteří tento nedostatek způsobují.

Co Altman řekl

Altman hovořil se spoluzakladatelem Stripe Johnem Collisonem v podcastu Cheeky Pint. Podle přepisu epizody řekl, že mnoho lidí předpokládá, že modely s otevřeným zdrojovým kódem běžící na jejich vlastních počítačích budou znamenat, že „nebudeme potřebovat všechny ty věci v datovém centru“. Poté se proti tomu ohradil. „Z pohledu globální alokace je vlastně docela hrozné, aby každý měl ve svém vlastním počítači hromadu omezených světových zásob DRAM,“ řekl a dodal, že paměť je využívána „5 % času“. Pokračoval: „Pokud se snažíte vypořádat s tímto prostředím s omezenou nabídkou, chcete maximální využití v cloudu.“cheekypint.substack.com

Fráze, která se rozšířila online, „hrozná alokace vzácných zdrojů“, pocházela z virálního shrnutí klipu, nikoli z přesných Altmanových slov, jak uvedl deník La Razón.larazon.es

Altman také Collisonovi řekl, že „neviditelná ruka právě teď selhává“ v oblasti nabídky pamětí. Vysvětlil, že výrobci DRAM kdysi vynaložili asi 20 miliard dolarů na kapitálové výdaje, aby vydělali 19 miliard, a nyní by každý z nich mohl vydělat asi 100 miliard dolarů ve volném peněžním toku za rok. Přesto je podle přepisu vzpomínky na minulé bankroty udržují v opatrnosti při stavbě nových továren.cheekypint.substack.com

Odpor

Kritici reagovali ostře. Jason England, píšící pro Tom's Guide, uvedl, že výkonný ředitel, „jehož společnost je pravděpodobně zodpovědná za vyvolání globálního nedostatku pamětí“, nyní říká spotřebitelům, že jejich vlastní RAM je neefektivní. England argumentoval, že lidé chtějí lokální AI kvůli soukromí, svobodě od rychlostních limitů a nezávislosti na předplatném. Dodal, že 32GB sada paměti DDR5 nyní stojí asi 500 dolarů.tomsguide.com

La Razón naznačil komerční motiv: uživatelé, kteří mohou provozovat schopné modely na svých vlastních strojích, mají menší důvod platit každý měsíc za ChatGPT. Komentátoři na r/LocalLLaMA poukázali na stejný bod ohledně Altmanovy motivace prodávat cloudové služby, uvedl The A.I. Daily.aidaily.fyi+1

Argument o nabídce

Altmanův bod se týká využití. Paměť v datovém centru obslouží mnoho uživatelů během dne, zatímco RAM v notebooku zůstává dlouho nečinná, jak uvedlo jedno shrnutí jeho poznámek. The State of AI uvedl, že matematika sedí, ale opomíjí, proč se společnosti rozhodují provozovat modely lokálně. Během stejného rozhovoru Altman řekl, že OpenAI vyrobila svůj vlastní čip a učí se stavět vlastní datová centra, a nadnesl myšlenku, že by OpenAI mohla tento čip prodávat, uvádí přepis.thestateofai.com+2