Nvidia rivela dettagli sui miglioramenti NVFP4 e supporto PCIe 6.0 di Blackwell Ultra
Nvidia's proprietario formato NVFP4 sta facendo onde nell'industria dell'IA, con l'hardware del gigante tecnologico che è l'unica fonte attuale di supporto per questa tecnologia innovativa.
Il formato NVFP4 sta trovando il suo posto in vari modelli IA, inclusi il modello di linguaggio Nemotron, il modello fisico Cosmos e il modello Isaac GR00T per la visione e l'azione linguistica per la robotica. Questo formato è anche integrato in librerie aperte come Cutlass, NCCL e l'ottimizzatore del modello TensorRT, ulteriormente espandendo la sua portata.
L'ultima offerta di Nvidia, la GPU Ultra di Blackwell, guida l'avanguardia in questo senso. Questo chip innovativo è il primo GPU per data center a supportare l'interconnessione PCIe 6.x con una CPU host, offrendo una larghezza di banda bidirezionale di fino a 128 GB/s per slot x16. Questo aumento della larghezza di banda accelera le prestazioni dei server IA e dei cluster IA, rendendolo un'opzione attraente per gli hyperscaler.
L'Ultra di Blackwell offre anche 288 GB di memoria HBM3e e un boost NVFP4 del +50%, rendendolo un chip performante per i carichi di lavoro IA e del data center. Questo vantaggio aggiuntivo potrebbe far pendere l'ago della bilancia a favore di Nvidia rispetto ad altri Independent Hardware Vendors (IHV) per gli hyperscaler.
Quadri a livello superiore come NeMo, PhysicsNeMo e BioNeMo supportano anche NVFP4, estendendo la sua utilità ai modelli di grandi lingue, fisica informata e scienze della vita.
Mentre la soluzione GB10 per le macchine DGX Spark e la GeForce RTX 5090 supportano NVFP4, non è chiaro se tutti i prodotti basati su GB102 lo facciano. Per quanto riguarda i produttori di hardware diversi da Nvidia, attualmente non offrono supporto per NVFP4. È improbabile che questo cambi a breve termine, dati che solo le GPU B300 di Nvidia presentano core Tensor ottimizzati per NVFP4, che migliorano le prestazioni NVFP4 a spese delle prestazioni in altri formati.
In conclusione, il formato NVFP4 di Nvidia sta facendo progressi significativi nel settore IA, con il suo supporto in vari modelli IA, librerie aperte e chip ad alte prestazioni come l'Ultra di Blackwell. Anche se altri produttori di hardware non offrono ancora supporto per NVFP4, le offerte di Nvidia continuano a dimostrare l'impegno dell'azienda nell'innovazione del settore IA.
Leggi anche:
- Treyarch esprime l'ambizione di creare qualcosa di completamente diverso.
- L'aggiornamento di Shark Tank rivela progressi emozionanti
- Impressioni notevoli: il top HR di Toyota è stato motivato da un approccio unico allo sviluppo degli studenti in una sola scuola
- Combinazione di potenza audio: sincronizzazione di due altoparlanti Bluetooth con il televisore
