Altman hjá OpenAI kallar vinnsluminni í fartölvum sóun á takmörkuðum auðlindum

Sam Altman, forstjóri OpenAI, hefur valdið mikilli óánægju meðal notenda staðbundinnar gervigreindar. Í hlaðvarpi sem kom út fimmtudaginn 29. október sagði hann að minniskubbar í einkatölvum væru sóun á takmörkuðu framboði heimsins af DRAM. Að hans mati væri betra að nýta þetta minni í gagnaverum sem keyra allan sólarhringinn. Ummælin féllu á sama tíma og neytendur greiða hærra verð fyrir tölvur og minni, og margir gagnrýnendur bentu á að fyrirtæki Altmans sjálfs væri einn stærsti kaupandinn sem knýr skortinn áfram.

Hvað Altman sagði

Altman ræddi við John Collison, meðstofnanda Stripe, í hlaðvarpinu Cheeky Pint. Samkvæmt afriti þáttarins sagði hann að margir gerðu ráð fyrir því að opnar gervigreindarlíkön sem keyra á eigin tölvum þýði að „við þurfum ekki allt þetta dót í gagnaverunum.“ Hann andmælti því síðan. „Frá sjónarhóli alþjóðlegrar úthlutunar er það í raun frekar hræðilegt að allir séu með mikið af takmörkuðu framboði heimsins af DRAM sitjandi í eigin tölvu,“ sagði hann og bætti við að minnið sé notað „5% af tímanum.“ Hann hélt áfram: „Þú vilt hámarks nýtingu í skýinu ef þú ert að reyna að takast á við þetta mjög framboðstakmarkaða umhverfi.“cheekypint.substack.com

Setningin sem breiddist út á netinu, „hræðileg úthlutun á takmörkuðum auðlindum,“ kom úr vinsælu samantektarbroti, ekki beint frá orðum Altmans, eins og La Razón greindi frá.larazon.es

Altman sagði einnig við Collison að „ósýnilega höndin sé að bregðast núna“ varðandi minnisframboð. Hann útskýrði að DRAM-framleiðendur hafi áður eytt um 20 milljörðum dollara í fjárfestingar til að græða 19 milljarða, og gætu nú hver um sig grætt um 100 milljarða dollara í frjálsu sjóðstreymi á ári. Samt sem áður halda minningar um fyrri gjaldþrotahættur þeim varkárum við að byggja nýjar verksmiðjur, samkvæmt afritinu.cheekypint.substack.com

Gagnrýnin

Gagnrýnendur brugðust hart við. Jason England, sem skrifar fyrir Tom's Guide, sagði að stjórnandinn „hvers fyrirtæki ber hugsanlega ábyrgð á því að hafa komið af stað alþjóðlegum minnisskorti“ væri nú að segja neytendum að þeirra eigið vinnsluminni væri óhagkvæmt. England hélt því fram að fólk vilji staðbundna gervigreind vegna friðhelgi einkalífs, frelsis frá takmörkunum og sjálfstæðis frá áskriftum. Hann bætti við að 32GB DDR5 minnissett kosti nú um 500 dollara.tomsguide.com

La Razón benti á viðskiptalegan hvati: notendur sem geta keyrt öflug líkön á eigin vélum hafa minni ástæðu til að borga fyrir ChatGPT í hverjum mánuði. Notendur á r/LocalLLaMA bentu á sama punkt varðandi hvatningu Altmans til að selja skýjaþjónustu, eins og The A.I. Daily greindi frá.aidaily.fyi+1

Rök um framboð

Sjónarmið Altmans snýst um nýtingu. Minni í gagnaveri þjónar mörgum notendum yfir daginn, á meðan vinnsluminni í fartölvu stendur ónotað lengi, eins og ein samantekt á ummælum hans orðaði það. The State of AI sagði stærðfræðina standast en hún sleppi því af hverju fyrirtæki velja að keyra líkön staðbundið. Í sama samtali sagði Altman að OpenAI hafi smíðað sinn eigin flís og sé að læra að byggja sín eigin gagnaver, og hann varpaði fram hugmyndinni um að OpenAI gæti selt þann flís, samkvæmt afritinu.thestateofai.com+2