OpenAI ajoute un modèle moins coûteux à Dots face à la hausse des coûts

OpenAI indique que ses nouveaux assistants personnels Dots utilisent une puissance de calcul importante. L'entreprise redirige désormais une partie de leur charge de travail vers un modèle plus petit et moins coûteux. Cet aveu renforce les doutes sur la capacité de l'industrie à financer des agents IA actifs en permanence. Lors d'un dîner avec des journalistes à New York le lundi 2 novembre, Adam Fry, responsable de l'activité grand public de ChatGPT, a déclaré que les Dots sont "gourmands en calcul". Il a ajouté que chaque assistant exécute son propre ordinateur cloud pour effectuer des tâches pour les utilisateurs via leurs comptes connectés.finance.yahoo.com

Les concurrents font face au même problème. Elon Musk a déclaré cette semaine que le coût d'exploitation de Grok Bot, l'assistant personnel lancé par SpaceX en août, est "insoutenablement élevé par rapport aux revenus". Il a suggéré que l'entreprise réduisait la puissance de calcul qui lui est allouée, ce qui amène les utilisateurs à atteindre leurs limites plus rapidement. La ruée de l'industrie vers les agents fait suite au succès de l'assistant Muse de Meta ↘ 3.96%, selon Fortune.fortune.com

Un modèle moins cher dans l'équation

Le mardi 3 novembre, OpenAI a annoncé l'élargissement des modèles alimentant les Dots pour inclure GPT-6.1 Terra. Un Dot peut désormais utiliser différents modèles pour différentes parties de son travail. Terra est plus petit et nécessite moins de puissance de calcul que GPT-6 Astra, qui gérait initialement toutes les tâches des Dots. Le nouveau routeur automatique vise à rendre les Dots moins intensifs en calcul.openai.com+1

Pour l'instant, les Dots ne sont disponibles que dans le forfait Pro à 100 dollars par mois. Fry a précisé que leur déploiement auprès d'un public plus large dépend d'une percée dans l'efficacité du calcul, qu'il espère voir arriver rapidement pour réduire les coûts. Il souhaite également que les Dots deviennent une présence toujours disponible grâce à des fonctionnalités comme le "mode arrière-plan", ce qui nécessiterait encore plus de puissance de calcul.finance.yahoo.com

Le financement devient plus difficile

L'argent est l'autre contrainte. OpenAI a obtenu environ 11 milliards de dollars d'engagements pour son dernier tour de table, soit moins de la moitié de son objectif de 30 milliards, pour une valorisation de 1,25 billion de dollars, a rapporté le Wall Street Journal News Corp ↘ 13.24%. L'entreprise espérait atteindre 1,4 billion. Le Financial Times a rapporté qu'OpenAI a réduit son objectif à 20 milliards, avec une offre ultérieure destinée aux particuliers fortunés pour combler l'écart. OpenAI n'a pas confirmé publiquement ces chiffres.wsj.com+1

Puces et concurrence

OpenAI dépend principalement des GPU de Nvidia ↘ 9.26% et prévoit d'augmenter la production de sa propre puce, baptisée Jalapeno, en 2027, selon Fortune. Anthropic, qui utilise quatre types de puces, a signé des accords d'achat d'une valeur de 895,4 milliards de dollars, "essentiellement liés au calcul et à l'infrastructure", selon son formulaire S-1 modifié. Malgré cela, l'entreprise cite l'incapacité à obtenir davantage de puissance de calcul comme un risque majeur. Fortune a résumé le problème ainsi : "plus les agents IA personnels deviennent puissants et actifs en permanence, plus ils consomment de calcul. OpenAI pourra-t-elle un jour se rattraper elle-même ?"finance.yahoo.com