OpenAI ergänzt Dots um günstigeres Modell wegen steigender Rechenkosten

OpenAI gibt an, dass seine neuen persönlichen Dots-Assistenten viel Rechenleistung verbrauchen. Das Unternehmen leitet nun einen Teil ihrer Arbeit an ein kleineres, günstigeres Modell weiter. Dieses Eingeständnis verstärkt die Zweifel daran, ob die Branche sich ständig aktive KI-Agenten leisten kann. Bei einem Abendessen mit Reportern in New York am Montag, dem 2. November, sagte Adam Fry, Leiter des ChatGPT-Endkundengeschäfts, Dots seien "auf der rechenintensiven Seite". Er fügte hinzu, dass jeder Assistent auf einem eigenen Cloud-Computer läuft, um Aufgaben für Benutzer über deren verknüpfte Konten hinweg auszuführen.finance.yahoo.com

Konkurrenten stehen vor dem gleichen Problem. Elon Musk sagte diese Woche, die Kosten für den Betrieb des Grok Bot, des persönlichen Assistenten, den SpaceX im August startete, seien "im Verhältnis zum Umsatz unhaltbar hoch". Er deutete an, dass das Unternehmen die zugewiesene Rechenleistung drossle, sodass Benutzer ihre Limits schneller erreichen. Der Vorstoß der Branche in Richtung Agenten folgt laut Fortune auf den Erfolg des Muse-Assistenten von Meta ↘ 3.96%.fortune.com

Ein günstigeres Modell im Einsatz

Am Dienstag, dem 3. November, teilte OpenAI mit, dass die Modelle, die Dots antreiben, um GPT-6.1 Terra erweitert werden. Ein Dot kann nun verschiedene Modelle für unterschiedliche Teile seiner Arbeit nutzen. Terra ist kleiner und benötigt weniger Rechenleistung als GPT-6 Astra, das ursprünglich jede Dots-Aufgabe ausführte. Der neue automatische Router soll Dots weniger rechenintensiv machen.openai.com+1

Derzeit sind Dots nur im Pro-Plan für 100 Dollar pro Monat verfügbar. Fry sagte, dass die Bereitstellung für mehr Benutzer von einem Durchbruch bei der Recheneffizienz abhänge, den er erwartet und der die Kosten schnell senken werde. Er möchte auch, dass Dots durch Funktionen wie den "Hintergrundmodus" eine ständig verfügbare Präsenz werden, was noch mehr Rechenleistung erfordern würde.finance.yahoo.com

Finanzierung wird schwieriger

Geld ist die andere Einschränkung. OpenAI hat sich für seine jüngste Runde etwa 11 Milliarden Dollar an Zusagen gesichert, weniger als die Hälfte seines Ziels von 30 Milliarden Dollar, bei einer Bewertung von 1,25 Billionen Dollar, berichtete das Wall Street Journal News Corp ↘ 13.24%. Das Unternehmen hatte auf 1,4 Billionen Dollar gehofft. Die Financial Times berichtete, dass OpenAI sein Ziel auf 20 Milliarden Dollar gesenkt habe, wobei ein späteres Angebot für wohlhabende Privatpersonen die Lücke schließen soll. OpenAI hat die Zahlen nicht öffentlich bestätigt.wsj.com+1

Chips und Wettbewerb

OpenAI verlässt sich hauptsächlich auf Nvidia ↘ 9.26% GPUs und plant, die Produktion seines eigenen Chips namens Jalapeno im Jahr 2027 hochzufahren, berichtete Fortune. Anthropic, das vier Arten von Chips verwendet, hat Kaufverträge im Wert von 895,4 Milliarden Dollar unterzeichnet, "von denen sich im Wesentlichen alles auf Rechenleistung und Infrastruktur bezieht", so ihr geändertes S-1-Formular. Dennoch führt das Unternehmen die Unfähigkeit, mehr Rechenleistung zu sichern, als großes Risiko auf. Fortune beschrieb das Problem so: "Je leistungsfähiger und ständig laufender persönliche KI-Agenten werden, desto mehr Rechenleistung verbrauchen sie. Wird OpenAI jemals in der Lage sein, sich selbst einzuholen?"finance.yahoo.com