NVIDIA DGX GH200 AI Supercomputer

NVIDIA je najavila novu klasu AI superkompjutera sa velikom memorijom — NVIDIA DGX™superkompjuter koji pokreće NVIDIA® GH200 Grace Hopper Superchips i NVIDIA NVLink® Switch System — kreiran da omogući razvoj gigantskih modela slljedeće generacije za generativne aplikacije AI jezika, sisteme preporuke i radna opterećenja analize podataka.

Ogroman zajednički memorijski prostor NVIDIA DGX GH200 koristi NVLink tehnologiju međusobnog povezivanja sa NVLink SwitchSystemom da kombinuje 256 GH200 superčipova, omogućavajući im da rade kao jedan GPU. Ovo obezbeđuje 1 exaflop performansi i 144 terabajta zajedničke memorije — skoro 500x više memorije od prethodne generacije NVIDIA DGXA100, koja je predstavljena 2020.

„Generativni AI, veliki jezički modeli i sistemi preporuka su digitalni motori moderne ekonomije“, rekao je Jensen Huang, osnivač i izvršni direktor NVIDIA-e. “DGX GH200 AI superračunari integriraju NVIDIA-ine najnaprednije tehnologije ubrzanog računanja i umrežavanja kako bi proširili granice AI.”

NVIDIA NVLink tehnologija proširuje AI na skali
GH200 superčipovi eliminišu potrebu za tradicionalnom PCIe vezom CPU-GPU kombinovanjem NVIDIAGrace™ CPU-a baziranog na Arm sa NVIDIA H100 Tensor Core GPU-om u istom paketu, koristeći interkonekcije NVIDIA NVLink-C2C čipa. Ovo povećava propusnost između GPU-a i CPU za 7x u poređenju sa najnovijom PCIe tehnologijom, smanjuje potrošnju energije interkonekcije za više od 5x, i obezbeđuje 600GB Hopper arhitekturu GPU građevni blok za DGX GH200 superračunare.
DGX GH200 je prvi superkompjuter koji je upario Grace Hopper Superchips sa NVIDIA NVLink Switch sistemom, novim interkonektorom koji omogućava da svi GPU-ovi u sistemu DGX GH200 rade zajedno kao jedan. Sistem prethodne generacije je omogućavao kombinovanje osam GPU-a sa NVLink-om kao jedan GPU bez ugrožavanja performansi.
Arhitektura DGX GH200 pruža 48x veći NVLink propusni opseg od prethodne generacije, isporučujući snagu masivnog AI superkompjutera uz jednostavnost programiranja jednog GPU-a.

Novi istraživački alat za pionire AI
Google Cloud, Meta i Microsoft su među prvima koji će dobiti pristup DGX GH200 kako bi istražili njegove mogućnosti za generativna AI radna opterećenja. NVIDIA takođe namjerava da obezbjedi DGX GH200 dizajn kao nacrt dobavljačima usluga u oblaku i drugim hiper skalerima kako bi ga mogli dalje prilagoditi za svoju infrastrukturu.

Novi NVIDIA Helios Superkompjuter za unapređenje istraživanja i razvoja
NVIDIA gradi sopstveni AI superkompjuter baziran na DGX GH200 kako bi napajao rad svojih istraživača i razvojnih timova.
Nazvan NVIDIA Helios, superkompjuter će imati četiri DGX GH200 sistema. Svaki će biti međusobno povezan sa NVIDIA Quantum-2 InfiniBand mrežom kako bi se povećao protok podataka za obuku velikih AI modela. Helios će uključivati 1,024 Grace Hopper Superčipa i očekuje se da će biti online do kraja godine.

Potpuni integriran i namjenski napravljen za gigantske modele
DGX GH200 superračunari uključuju NVIDIA softver za pružanje kompletnog rješenja po principu ključ u ruke za najveća AI i analitička opterećenja. Softver NVIDIA Base Command™ pruža upravljanje AI tokovima rada, upravljanje klasterima na nivou preduzeća, biblioteke koje ubrzavaju računanje, skladištenje i mrežnu infrastrukturu, i sistemski softver optimizovan za AI radna opterećenja.
Uključen je i NVIDIA AI Enterprise, softverski sloj NVIDIA AI platforme. Pruža preko 100 okvira, unaprijed obučenih modela i razvojnih alata za pojednostavljenje razvoja i primjene proizvodne AI uključujući generativnu AI, kompjutersku viziju, govornu umjetnu inteligenciju i još mnogo toga.

Dostupnost
Očekuje se da će superračunari NVIDIA DGX GH200 biti dostupni do kraja godine.