Nvidia punta a conquistare il mercato europeo dell’intelligenza artificiale con una serie di nuovi modelli a peso aperto, che spaziano da chatbot a soluzioni nel campo della salute e della robotica. La domanda di AI sovrana in Europa è in crescita, e Nvidia intende sfruttare questa opportunità lanciando i suoi ultimi modelli al GTC di Berlino.
Le imprese, spesso, non dispongono delle risorse per sviluppare modelli complessi da zero e si sono quindi trovate costrette a ottimizzare modelli di peso aperto di fornitori come Mistral e H Company, utilizzando i propri dataset. Durante l’evento, Nvidia ha presentato le novità nella sua libreria di modelli a peso aperto, introducendo il modello Nemotron Retriever per l’embedding e i modelli per veicoli autonomi Alpamayo.
Modelli di embedding: un valore aggiunto per le imprese
I modelli di embedding, pur non essendo i più accattivanti, si rivelano tra i più utili per le applicazioni aziendali. La tecnologia Retrieval Augmented Generation (RAG), approfondita in passato, si basa pesantemente sugli embedding generati da tali modelli per applicazioni come la ricerca potenziata dall’AI. A un livello fondamentale, la RAG funziona suddividendo la documentazione in parti e convertendole in vettori noti come embedding, che vengono poi classificati in base alla loro rilevanza rispetto alla query dell’utente prima di essere utilizzati nel contesto di un modello di linguaggio di grandi dimensioni (LLM).
Le nuove funzionalità di embedding e reranking di Nvidia, basate su Nemotron 3.5, supportano l’embedding di immagini e testi in 34 lingue. I modelli sono disponibili in diverse dimensioni, da uno a otto miliardi di parametri, e comprendono versioni quantizzate NVFP4 per l’utilizzo su nuovi acceleratori basati su Blackwell. Ciò consente di eseguirli su piattaforme come il DGX Spark, lasciando spazio sufficiente per l’esecuzione di altri modelli.
Pur rimanendo scettici sulle affermazioni dei venditori, Nvidia sostiene che i suoi nuovi modelli di embedding e reranking da otto miliardi di parametri sono attualmente i migliori modelli densi secondo i benchmark ViDoRe V3.1, quando testati a precisione BF16.
Da notare, tuttavia, che non tutti i documenti possono essere facilmente convertiti in embedding. I PDF, in particolare, sono notoriamente difficili da interpretare per i modelli di embedding in quanto spesso derivano da materiale stampato e sono formattati per la fruizione, il che implica la necessità di estrarre testo e dati da grafici. Per affrontare questa sfida, Nvidia ha lanciato un nuovo modello Nemotron Parse, addestrato specificamente per estrarre informazioni dai documenti PDF, capace di elaborare circa 10,5 pagine al secondo utilizzando il modello da un miliardo di parametri su un singolo H100.
In aggiunta ai nuovi modelli di embedding, Nvidia offre anche l’accesso all’Alpamayo 2 Edge, una versione compatta del suo modello di guida autonoma, progettata per elaborare in tempo reale video in streaming e dati da sensori sulla piattaforma DRIVE AGX Thor.
I nuovi modelli arrivano a pochi giorni di distanza dal lancio del modello Nemotron 3.5 Super vision language (VL) e dall’anticipazione del modello Nemotron 3.5 Bolt, un modello a miscela di esperti (MoE) da 74 miliardi di parametri progettato per adattarsi a un massimo di 24 GB di memoria video, che sarà disponibile per il download a partire da venerdì.
Se da un lato i modelli aperti offrono a imprese e governi un percorso verso un’AI sovrana, quelli di Nvidia si distinguono per il modo in cui vengono rilasciati. Mentre molti modelli a peso aperto rappresentano una sorta di black box — scaricabili ma con dati e processi di addestramento poco chiari — Nvidia rilascia routine la formazione dei modelli e le ricette utilizzate per svilupparli. Questo consente ai clienti non solo di ispezionare il modello a un livello più profondo, ma anche di costruire modelli completamente personalizzati basati sull’architettura Nemotron di Nvidia, piuttosto che limitarci a modificare i pesi con un fine tuning. È importante sottolineare che anche l’Allen Institute ha adottato una strategia simile con i propri modelli OLMo.
