Les petits modèles d’IA de bureau peuvent rivaliser avec les systèmes cloud, selon une étude de Stanford

Une étude de l'Université de Stanford attire l'attention car elle révèle que les petits modèles de langage fonctionnant sur des ordinateurs de bureau peuvent égaler les performances des grands systèmes d'IA basés sur le cloud pour la grande majorité des tâches, tout en consommant beaucoup moins d'énergie. La recherche, qui a introduit une nouvelle mesure appelée « intelligence par watt », a été mise en avant cette semaine dans une chronique de Reuters par le stratège en investissement Joachim Klement, qui a soutenu que ces résultats soulèvent des questions sur la rentabilité à long terme des entreprises construisant des modèles d'IA toujours plus grands.Inkl+1

Ce que l'étude a révélé

Le document de Stanford, rédigé par Jon Saad-Falcon, Avanika Narayan et des collègues de l'Université de Stanford et de Together AI, a testé plus de 20 modèles de langage locaux avec jusqu'à 20 milliards de paramètres actifs sur huit accélérateurs matériels et un million de requêtes réelles de chat et de raisonnement à tour unique. Les chercheurs ont découvert que les modèles locaux peuvent répondre avec précision à 88,7 % des requêtes, avec une précision dépassant 90 % dans les tâches créatives et restant solide dans les applications de vente, de gestion et de divertissement.Let's Data Science+3

Sur les tâches de raisonnement les plus difficiles, les petits modèles suivent le rythme des grands modèles de langage dans environ 50 % des cas, contre seulement 8 % deux ans plus tôt, selon l'analyse des résultats par Klement. L'étude a également révélé que « l'intelligence par watt » a été multipliée par 5,3 entre 2023 et 2025, grâce à un gain de 3,1x provenant des améliorations des modèles et de 1,7x provenant des avancées matérielles.scalingintelligence.stanford+2

Implications énergétiques et financières

Les gains d'efficacité ont des conséquences économiques directes. Une approche de routage « oracle » — dirigeant les requêtes vers des modèles locaux lorsqu'ils en sont capables — pourrait réduire la consommation d'énergie de 80,4 % et les coûts de calcul de 73,8 % par rapport à une inférence uniquement dans le cloud, a découvert l'équipe de Stanford. Même un routeur imparfait fonctionnant avec une précision de 80 % permet toujours des réductions d'énergie supérieures à 60 %.Linkedin

Les résultats de l'étude arrivent alors que Nvidia ↘ 3.17%, qui fournit les GPU alimentant l'IA des centres de données, fait face à des questions sur la croissance prévue de la demande de calcul centralisé. Klement a écrit que si les petits modèles continuent de s'améliorer à leur rythme actuel, des entreprises comme Anthropic, OpenAI et xAI « pourraient avoir des raisons de s'inquiéter » car « l'avenir de l'IA pourrait être plus petit, moins cher et beaucoup moins rentable que ce que les investisseurs attendent ».klementoninvesting.substack

Un paysage en mutation

La recherche reflète une tendance plus large de l'industrie. Les chercheurs d'IBM International Business Machines Corporation ↗ 1.71% ont testé des modèles, notamment gpt-oss d'OpenAI, Qwen3 et Granite 4.0 d'IBM sur du matériel grand public, constatant que les modèles locaux actuels atteignent une intelligence par watt plus élevée que les modèles de génération précédente sur du matériel spécialisé. Nvidia a elle-même publié un article en 2026 arguant que les petits modèles de langage sont « suffisamment puissants, intrinsèquement plus adaptés et nécessairement plus économiques » pour les systèmes d'IA agentiques.IBM+1

Le document de Stanford a été publié pour la première fois en prépublication en novembre 2025, la couverture des requêtes locales — la part des requêtes réelles que les modèles locaux peuvent traiter avec précision — étant passée de 23,2 % en 2023 à 71,3 % en 2025.Let's Data Science+1