OpenAI legger til billigere modell i Dots mens kostnadene øker

OpenAI sier at deres nye personlige Dots-assistenter bruker mye datakraft. Selskapet sender nå deler av arbeidet deres til en mindre og billigere modell. Innrømmelsen forsterker tvilen om hvorvidt bransjen har råd til AI-agenter som alltid er på. Under en middag med journalister i New York mandag 2. november, sa Adam Fry, leder for ChatGPTs forbrukervirksomhet, at Dots er "på den datakrevende siden". Han la til at hver assistent kjører sin egen nettsky-datamaskin for å utføre oppgaver for brukere på tvers av deres tilknyttede kontoer.finance.yahoo.com

Konkurrenter står overfor det samme problemet. Elon Musk sa denne uken at kostnadene ved å drive Grok Bot, den personlige assistenten SpaceX lanserte i august, er "uholdbart høye i forhold til inntektene". Han antydet at selskapet kuttet i datakraften som er tildelt den, slik at brukere når grensene sine raskere. Bransjens satsing på agenter følger suksessen til Metas ↗ 0.95% Muse-assistent, ifølge Fortune.fortune.com

En billigere modell i miksen

Onsdag 3. november opplyste OpenAI at de utvider modellene som driver Dots til å inkludere GPT-6.1 Terra. En Dot kan nå bruke ulike modeller for ulike deler av arbeidet sitt. Terra er mindre og trenger mindre datakraft enn GPT-6 Astra, som opprinnelig kjørte alle Dots-oppgaver. Den nye automatiske rutingen er ment å gjøre Dots mindre dataintensive.openai.com+1

Foreløpig er Dots kun tilgjengelig for Pro-abonnementet til 100 dollar i måneden. Fry sa at det å gjøre dem tilgjengelige for flere brukere avhenger av et gjennombrudd i effektivitet, noe han forventer vil komme og raskt presse kostnadene ned. Han ønsker også at Dots skal bli en alltid tilgjengelig tilstedeværelse gjennom funksjoner som "bakgrunnsmodus", noe som vil bety bruk av enda mer datakraft.finance.yahoo.com

Finansiering blir vanskeligere

Penger er den andre begrensningen. OpenAI har sikret seg omtrent 11 milliarder dollar i tilsagn for sin siste runde, mindre enn halvparten av målet på 30 milliarder dollar, til en verdivurdering på 1,25 billioner dollar, rapporterte The Wall Street Journal News Corp ↗ 2.84%. Selskapet hadde håpet på 1,4 billioner dollar. Financial Times rapporterte at OpenAI kuttet målet sitt til 20 milliarder dollar, med et senere tilbud for velstående enkeltpersoner ment å tette gapet. OpenAI har ikke offentlig bekreftet tallene.wsj.com+1

Brikker og konkurranse

OpenAI er hovedsakelig avhengig av Nvidias ↘ 1.39% GPU-er og planlegger å oppskalere produksjonen av sin egen brikke, kalt Jalapeno, i 2027, rapporterte Fortune. Anthropic, som bruker fire typer brikker, har signert kjøpsavtaler verdt 895,4 milliarder dollar, "hvorav i det vesentlige alt er relatert til datakraft og infrastruktur", ifølge deres endrede S-1. Likevel oppgir de manglende evne til å sikre mer datakraft som en stor risiko. Fortune oppsummerte problemet slik: "jo kraftigere og mer konstant kjørende personlige AI-agenter blir, desto mer datakraft forbruker de. Vil OpenAI noen gang klare å ta igjen seg selv?"finance.yahoo.com