Dėl išaugusių skaičiavimo sąnaudų „OpenAI“ į „Dots“ įtraukė pigesnį modelį

„OpenAI“ teigia, kad jų naujieji asmeniniai asistentai „Dots“ naudoja daug skaičiavimo galios. Bendrovė dabar dalį jų darbo perkelia į mažesnį ir pigesnį modelį. Šis prisipažinimas didina abejones, ar pramonė gali sau leisti nuolat veikiančius dirbtinio intelekto agentus. Pirmadienį, lapkričio 2 d., per vakarienę su žurnalistais Niujorke „ChatGPT“ vartotojų verslo vadovas Adamas Fry sakė, kad „Dots“ yra „skaičiavimo požiūriu sunkiasvoriai“. Jis pridūrė, kad kiekvienas asistentas veikia savo debesų kompiuteryje, kad atliktų užduotis vartotojams visose jų prijungtose paskyrose.finance.yahoo.com

Konkurentai susiduria su ta pačia problema. Elonas Muskas šią savaitę sakė, kad „Grok Bot“, asmeninio asistento, kurį „SpaceX“ pristatė rugpjūtį, veikimo sąnaudos yra „tvarios, palyginti su pajamomis“. Jis užsiminė, kad bendrovė mažina jam skirtą skaičiavimo galią, todėl vartotojai greičiau pasiekia savo limitus. Pasak „Fortune“, pramonės perėjimas prie agentų vyksta po „Meta“ ↘ 3.96% „Muse“ asistento sėkmės.fortune.com

Pigesnis modelis asortimente

Antradienį, lapkričio 3 d., „OpenAI“ pranešė, kad plečia modelius, kurie valdo „Dots“, įtraukdami „GPT-6.1 Terra“. „Dot“ dabar gali naudoti skirtingus modelius skirtingoms savo darbo dalims. „Terra“ yra mažesnis ir reikalauja mažiau skaičiavimo galios nei „GPT-6 Astra“, kuris iš pradžių atlikdavo visas „Dots“ užduotis. Naujasis automatinis maršrutizatorius skirtas tam, kad „Dots“ būtų mažiau imlūs skaičiavimams.openai.com+1

Kol kas „Dots“ prieinami tik su 100 JAV dolerių per mėnesį „Pro“ planu. Fry sakė, kad jų prieinamumo didinimas priklauso nuo skaičiavimo efektyvumo proveržio, kurio jis tikisi ir kuris greitai sumažins sąnaudas. Jis taip pat nori, kad „Dots“ taptų nuolat prieinami per tokias funkcijas kaip „foninis režimas“, o tai reikštų dar didesnį skaičiavimo galios naudojimą.finance.yahoo.com

Finansavimas tampa sunkesnis

Pinigai yra kita kliūtis. „OpenAI“ užsitikrino apie 11 mlrd. JAV dolerių įsipareigojimų naujausiam finansavimo etapui, t. y. mažiau nei pusę savo 30 mlrd. JAV dolerių tikslo, esant 1,25 trln. JAV dolerių vertinimui, pranešė „The Wall Street Journal News Corp“ ↘ 13.24%. Bendrovė tikėjosi 1,4 trln. JAV dolerių. „Financial Times“ pranešė, kad „OpenAI“ sumažino savo tikslą iki 20 mlrd. JAV dolerių, o vėlesnis siūlymas turtingiems asmenims turėtų padengti skirtumą. „OpenAI“ viešai šių skaičių nepatvirtino.wsj.com+1

Lustai ir konkurencija

„OpenAI“ daugiausia remiasi „Nvidia“ ↘ 9.26% GPU ir planuoja 2027 m. padidinti savo lustų, vadinamų „Jalapeno“, gamybą, pranešė „Fortune“. „Anthropic“, naudojanti keturių tipų lustus, pasirašė pirkimo sutarčių už 895,4 mlrd. JAV dolerių, „iš kurių beveik visos yra susijusios su skaičiavimais ir infrastruktūra“, teigiama jos pakeistoje S-1 formoje. Nepaisant to, ji nurodo, kad nesugebėjimas užsitikrinti daugiau skaičiavimo galios yra didelė rizika. „Fortune“ problemą apibūdino taip: „kuo galingesni ir nuolat veikiantys tampa asmeniniai DI agentai, tuo daugiau skaičiavimo galios jie sunaudoja. Ar „OpenAI“ kada nors sugebės pasivyti pati save?“finance.yahoo.com