Il raggiungimento del triliardo di dollari ha rappresentato il coronamento del percorso che ha portato NVIDIA a essere l’azienda leader nel mercato dei chip AI. Un traguardo che viene nuovamente confermato con la presentazione della GPU H200, la nuova iterazione che segue il precedente H100, precedentemente il semiconduttore più potente al mondo in materia di intelligenza artificiale.
NVIDIA H200 è il nuovo microchip AI più avanzato al mondo, ancora una volta
La nuova GPU di NVIDIA utilizza nuovamente l’architettura Hopper per fornire l’accelerazione hardware necessaria per i sistemi AI più avanzati. Vanta 16.896 CUDA Core e 128 Tensor Core, per una frequenza di picco di 1,83 GHz, ma la novità principale è l’aggiunta del supporto alle memorie HBM3e di Micron, il ché significa 141 GB di memoria con una larghezza di banda di ben 4,8 TB/s e bus da 6.144 bit; come metro di paragone, l’H100 con memorie HBM3 arriva a 3,35 TB/s per 80 GB e 5.120 bit.
Questo si traduce in prestazioni superiori in termini di inferenza nell’utilizzo di modelli LLM per l’AI generativa; con Meta Llama 2 da 70 miliardi di parametri l’inferenza viene eseguita 1,9 volte più rapidamente, mentre con GPT-3 da 175 miliardi 1,6 volte più rapidamente; in generale, NVIDIA riporta una maggiore rapidità del 110% nelle attività computazionale ad alte performance.
“Per creare intelligenza con applicazioni AI e HPC generative, grandi quantità di dati devono essere elaborate in modo efficiente ad alta velocità utilizzando una memoria GPU ampia e veloce“, afferma il vicepresidente Ian Buck, aggiungendo che “con Nvidia H200, la piattaforma di supercalcolo AI end-to-end leader del settore è diventata più veloce nel risolvere alcune delle sfide più importanti del mondo“.
NVIDIA H200 sarà disponibile dal Q2 2024 e sarà inserita dentro al sistema HGX H200 (in combo da 8 GPU l’uno) e nel superchip GH200 in sinergia con la CPU Grace. Uno dei primi esempi sarà il supercomputer del Jülich Supercomputing Centre in Germania, dentro cui troveranno spazio 23.762 unità di GH200, ma fra le aziende partner che utilizzeranno NVIDIA H200 troviamo anche Amazon, Google, Microsoft e Oracle.
⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.
