Nvidia släpper öppna AI-modeller för agenter – från datacenter till lokala datorer

Nvidia har släppt Nemotron 3.5 Super VL, en öppen modell med 120 miljarder parametrar som är inriktad på AI-agenter som kan följa instruktioner, använda verktyg och genomföra arbetsflöden i flera steg. Enligt Nvidia når modellen jämförbar precision med företagets största resonemangsmodell, men med ungefär en femtedel så många parametrar. Nvidia uppger också att den är fem gånger snabbare än den näst bästa öppna modellen i samma klass.

Super VL är multimodal, vilket innebär att den kan arbeta med både text och visuellt innehåll. Modellen kan bland annat läsa text i bilder och dokument, tolka tabeller och diagram samt hämta information från webbsidor och PDF-filer. Nvidia framhåller att agenter därmed kan gå från dokument till analys och beslut utan att skicka uppgifterna mellan separata modeller.

Till lanseringen kommer även två mindre modeller för lokal användning. Nemotron 3.5 Bolt 74B-A9B är kvantiserad till två bitar för att få plats i 24 gigabyte minne och är avsedd för bland annat lokala arbetsflöden, webbresearch och kodning. Den kan köras på Nvidia RTX-system, DGX Spark och arbetsstationer. Bolt E4B kräver 4 gigabyte minne och riktar sig i stället mot snabba samtalsagenter, röstassistenter och inbyggda gränssnitt på GeForce RTX och Jetson.

Super VL och Bolt 74B-A9B finns enligt Nvidia tillgängliga nu, medan Bolt E4B ska släppas den 23 oktober. Super VL kan köras i datacenter, molnmiljöer och på lokal hårdvara.

Modellerna distribueras med öppna vikter, träningsdata och recept för träning. Organisationer kan därför anpassa dem till egna data, verktyg och regler och köra dem på egen infrastruktur. Nvidia uppger att företag inom bland annat finans, cybersäkerhet, sök, programvaruutveckling och medicinsk analys redan eftertränar eller integrerar Super VL i sina system.