Nvidia entwickelt offenes KI-Modell mit 1 Billion Parametern als Konkurrenz zu Top-Systemen

Nvidia ↗ 0.15% entwickelt eine neue Familie offener KI-Modelle namens Nemotron 4, wobei die größte Version voraussichtlich mindestens 1 Billion Parameter enthalten wird, wie The Information am Dienstag unter Berufung auf Mitarbeiter des Projekts berichtete.

Der Chiphersteller hat noch kein offizielles Veröffentlichungsdatum festgelegt und das finale Training noch nicht abgeschlossen, doch laut Reuters gehen Mitarbeiter davon aus, dass das Modell bereits im Spätherbst fertig sein könnte. Mit diesem Vorhaben positioniert sich Nvidia als eines der wenigen großen US-Unternehmen, das offene Spitzenmodelle veröffentlicht, während steigende KI-Kosten und der Wettbewerbsdruck durch kostengünstige chinesische Alternativen die Branche verändern.reuters

Eine strategische Wette auf offene Modelle

"Nvidia investiert in Nemotron, weil wir glauben, dass jedes Unternehmen und jedes Land zugängliche, offene Spitzenmodelle benötigt, um Sicherheit zu stärken, Innovationen zu beschleunigen und eine Grundlage zu schaffen, auf die man sich von einer Generation zur nächsten verlassen kann", erklärte Kari Briski, Vice President für generative KI, in einer Stellungnahme.firstpost+1

Der Schritt erfolgt vor dem Hintergrund, dass günstigere chinesische Modelle den Leistungsabstand zu führenden Systemen von Anthropic und OpenAI verringert haben. Zudem hat eine Reihe kürzlich bekannt gewordener Hackerangriffe auf autonome KI-Agenten das Interesse an offenen Modellen ohne Einschränkungen bei der Cybersicherheit erhöht. Nvidia trat im vergangenen Monat einer Koalition für KI-Sicherheit bei und unterzeichnete gemeinsam mit Microsoft ↘ 0.60% und anderen Firmen einen offenen Brief zur Verteidigung offener Modelle, um zu verhindern, dass Innovationen ins Ausland abwandern.reuters+2

Die Nemotron-Koalition, die im März auf der GTC angekündigt wurde, umfasst Mistral AI, Black Forest Labs und LangChain als Gründungsmitglieder, die gemeinsam an offenen Spitzenmodellen auf Basis der DGX Cloud-Infrastruktur von Nvidia arbeiten.cryptobriefing

Nemotron 3.5 Lightning und NeMo Switchyard

Neben der Entwicklung von Nemotron 4 veröffentlichte Nvidia am Dienstag zwei neue Produkte. Nemotron 3.5 Lightning ist ein "Mixture-of-Experts"-Modell mit 30 Milliarden Parametern, von denen 3 Milliarden aktiv sind. Es wurde für kontinuierliche Agentenaufgaben wie Code-Reviews, Werkzeugnutzung, Überwachung von Sicherheitswarnungen und Abrechnungsanfragen entwickelt. Das Unternehmen gibt an, dass es eine bis zu 4-mal schnellere Token-Generierung als vergleichbare Modelle bietet, was zu einer etwa 30 % schnelleren Erledigung von Agentenaufgaben führt.seekingalpha+2

Zudem startete Nvidia NeMo Switchyard, eine Open-Source-Bibliothek für das Modell-Routing, die KI-Aufgaben automatisch an das am besten geeignete verfügbare Modell weiterleitet. Dies ermöglicht es Unternehmen, Multi-Modell-Setups zu betreiben, ohne ihre Anwendungen neu aufbauen zu müssen.firstpost+1