Nvidia développe un modèle d’IA open source de mille milliards de paramètres pour rivaliser avec les leaders

Nvidia ↗ 0.14% développe une nouvelle famille de modèles d'IA open source baptisée Nemotron 4, dont la version la plus avancée devrait contenir au moins mille milliards de paramètres, selon un rapport publié mardi par The Information citant plusieurs employés travaillant sur le projet.

Le fabricant de puces n'a pas fixé de date de sortie officielle et n'a pas encore terminé l'entraînement final, bien que des employés estiment que le modèle pourrait être prêt dès la fin de l'automne, rapporte Reuters. Cette initiative positionne Nvidia comme l'une des rares grandes entreprises américaines à publier des modèles de pointe en open source, à une époque où la hausse des coûts de l'IA et la pression concurrentielle des alternatives chinoises à bas prix redéfinissent le paysage industriel.reuters

Un pari stratégique sur les modèles ouverts

"Nvidia investit dans Nemotron car nous pensons que chaque entreprise et chaque pays a besoin de modèles de pointe ouverts et accessibles pour renforcer la sécurité, accélérer l'innovation et fournir une base sur laquelle ils peuvent compter d'une génération à l'autre", a déclaré Kari Briski, vice-présidente de l'IA générative, dans un communiqué par courriel.firstpost+1

Cette décision intervient alors que des modèles chinois moins chers ont réduit l'écart de performance avec les systèmes leaders d'Anthropic et d'OpenAI, et qu'une série de piratages récemment révélés impliquant des agents d'IA autonomes a accru l'intérêt pour les modèles ouverts dépourvus de restrictions en matière de cybersécurité. Le mois dernier, Nvidia a rejoint une coalition axée sur la sécurité de l'IA et a co-signé une lettre ouverte avec Microsoft ↘ 0.51% et d'autres entreprises pour défendre les modèles à poids ouverts afin d'éviter que l'innovation ne parte à l'étranger.reuters+2

La coalition Nemotron, annoncée lors de la GTC en mars, comprend Mistral AI, Black Forest Labs et LangChain en tant que membres fondateurs collaborant sur des modèles ouverts de pointe construits sur l'infrastructure DGX Cloud de Nvidia.cryptobriefing

Nemotron 3.5 Lightning et NeMo Switchyard

Parallèlement au développement de Nemotron 4, Nvidia a lancé mardi deux nouveaux produits. Nemotron 3.5 Lightning est un modèle de mélange d'experts de 30 milliards de paramètres avec 3 milliards de paramètres actifs, conçu pour des tâches d'agents en continu, notamment la révision de code, l'utilisation d'outils, la surveillance des alertes de sécurité et les requêtes de facturation. L'entreprise affirme qu'il offre une génération de jetons jusqu'à 4 fois plus rapide que des modèles de taille similaire, ce qui se traduit par une exécution des tâches d'agents environ 30 % plus rapide.seekingalpha+2

Nvidia a également lancé NeMo Switchyard, une bibliothèque de routage de modèles open source qui dirige automatiquement les tâches d'IA vers le modèle disponible le plus approprié, permettant aux entreprises d'exécuter des configurations multi-modèles sans avoir à reconstruire leurs applications.firstpost+1