Microsoft setur þak á gervigreindarkostnað og velur ódýrara líkan

Microsoft ↗ 1.06% hefur sagt verkfræðingum sínum að hætta „tokenmaxxing“: þeirri iðju að brenna dýrum gervigreindartókum án tillits til kostnaðar eða árangurs, um leið og fyrirtækið kynnir kostnaðaráætlanir á deildarstigi og skiptir yfir í ódýrara sjálfgefið líkan til innri nota.

Minnisblaðið

Tilskipunin kom fram í innri tölvupósti frá Jay Parikh, framkvæmdastjóra sem stýrir CoreAI-deild Microsoft, en greint var frá honum fyrst af 404 Media þann 4. ágúst. „Tokenmaxxing er ekki það sem við erum að hámarka,“ skrifaði Parikh. „Ég vil að við einbeitum okkur öll að því að hámarka árangur sem skiptir máli fyrir viðskiptavini okkar og starfsemi.“404media

Sem hluti af breytingunni gerir Microsoft GPT-5.6 frá OpenAI, sem er lýst innanhúss sem ódýrara í rekstri, að sjálfgefnu líkani fyrir starfsmenn. Áður hafði innra GitHub Copilot-fyrirkomulag fyrirtækisins beint mörgum fyrirspurnum til Claude-líkana Anthropic, sem hafði í för með sér dýra tókaikreikninga. Uppfærðar innri leiðbeiningar, sem tóku gildi í júlí 2026, setja viðmið um tókaikostnað fyrir hverja deild og gera einstökum verkfræðingum kleift að fylgjast með sinni eigin eyðslu, sem sögð er vera frá nokkrum hundruðum upp í nokkur þúsund dali á mánuði.indianexpress+2

Parikh undirstrikaði að breytingin snúist ekki um að draga úr metnaði í gervigreind. „Við erum ekki að hámarka fyrir færri tóka. Við erum að hámarka fyrir meiri áhrif á hvern tóka,“ skrifaði hann. Nýjasta uppgjör fyrirtækisins sýndi aukningu í tekjum, hagnaði af reglulegri starfsemi og hreinum hagnaði, sem fór fram úr væntingum á Wall Street.404media+1

Endurmat um allan geirann

Microsoft er ekki eitt um þetta. ABC News greindi frá því í lok júlí að almennur áhugi fyrirtækja á tokenmaxxing væri þegar farinn að dvína þar sem fyrirtæki efuðust um að mikil gervigreindarnotkun skilaði hlutfallslegri framleiðniaukningu. Meta ↘ 0.39% kom nýverið á eigin tókaikostnaðaráætlunum og lokaði innri stigalista sem kallaður var „Claudeonomics“, þar sem starfsmenn kepptust um að brenna flestum tókum. Amazon Amazon.com, Inc. ↘ 2.32%, Adobe ↗ 2.45%, Atlassian ↗ 6.36% og Citi Citigroup Inc. ↗ 2.47% hafa samþykkt svipaðar kostnaðarstýringarráðstafanir.gadgetreview+2

Í hlaðvarpinu „Hard Fork“ hjá The New York Times í júní ræddi Satya Nadella forstjóri tokenmaxxing beint og sagði áheyrendum að ekki öll verkefni þyrftu öflugasta gervigreindarlíkanið.businessinsider

Dýpri spenna

Háðið leynir sér ekki: fyrirtækið sem hefur veðjað tugum milljarða dala á innviði gervigreindar og selur fyrirtækjum um allan heim Copilot-áskriftir er nú farið að skamta eigin vöru innanhúss. Eins og ónefndur starfsmaður Microsoft sagði við Fortune er þetta „endanleg viðurkenning á því að við, sem hýsum gervigreindarinnviði, höfum ekki efni á okkar eigin gervigreindarvörum“. Andrew Macdonald, forseti Uber ↗ 0.53%, spurði sömuleiðis hvers vegna aukin tókanotkun meðal verkfræðinga hans hefði ekki skilað hlutfallslegri aukningu á gagnlegum eiginleikum.gadgetreview+1

Breytingin bendir til þess að upphaflegur mælikvarði gervigreindargeirans á árangri: hreint notkunarmagn: sé að víkja fyrir erfiðari spurningu: hvað, nákvæmlega, er öll þessi reiknigeta að framleiða?