NVIDIA njoftoi një klasë të re superkompjuterësh me një sasi të madhe memorie - superkompjuterin NVIDIA DGX i bazuar në superçipa NVIDIA GH200 Grace Hopper dhe sisteme komutuese NVIDIA NVLink. Është projektuar për të zhvilluar modele të gjeneratës së ardhshme për aplikacione gjeneruese AI, sistemet e rekomanduesve dhe ngarkesat e punës së analizës së të dhënave.
Hapësirë masive memorie NVIDIA DGX GH200 përdor teknologjinë e lidhjes NVLink me sistemin NVLink Switch për të kombinuar 256 superçipa GH200, duke rezultuar në një GPU të vetme. Kjo siguron 1 ekzaflop të performancës dhe 144 TB memorie të përbashkët, gati 500 herë më shumë se gjenerata e mëparshme NVIDIA DGX A100, i cili u prezantua në vitin 2020.
"Gjenerative AI, modelet e mëdha të gjuhëve dhe sistemet rekomanduese janë motorët dixhitalë të ekonomisë moderne, tha themeluesi dhe CEO NVIDIA Jensen Huang. – Superkompjuterët DGX GH200 AI integrojnë teknologjitë më të avancuara të kompjuterave dhe rrjeteve të përshpejtuara NVIDIApër të zgjeruar kufijtë e AI".
Siç raportohet në një njoftim për shtyp në faqen e internetit të kompanisë, superçipet GH200 eliminojnë nevojën për një lidhje tradicionale CPU-GPU PCIe. Ata kombinojnë procesorin NVIDIA Grace dhe GPU me bazë krahu NVIDIA Bërthama tensore H100 në një rast. Kjo rrit gjerësinë e brezit midis GPU dhe CPU me 7 herë, redukton ndjeshëm konsumin e energjisë dhe siguron 600 GB arkitekturë GPU Hopper për superkompjuterët e rinj. Arkitektura DGX GH200 ofron 48 herë më shumë gjerësi bande NVLink se gjenerata e mëparshme.
Google Cloud pritet të Meta që Microsoft do të jetë ndër të parët që do të ketë akses në DGX GH200 dhe do të eksplorojë aftësitë e tij në gjenerimin e ngarkesave të punës me AI. Prodhuesi synon gjithashtu të sigurojë modelin DGX GH200 si një shembull për ofruesit e shërbimeve cloud, në mënyrë që ata të mund ta përshtatin atë për infrastrukturën e tyre.
"Krijimi i modeleve gjeneruese të avancuara kërkon qasje inovative për infrastrukturën e inteligjencës artificiale," tha nënkryetari i informatikës në Google Cloud Mark Lohmeyer. "Shkalla e re e NVLink dhe memoria e superçipit Grace Hopper adresojnë pengesat kryesore në inteligjencën artificiale në shkallë të gjerë dhe ne mezi presim të eksplorojmë potencialin e saj për Google Cloud dhe iniciativat tona gjeneruese të AI."
Zëvendës President i Korporatës për Infrastrukturën Azure në Microsoft Girish Bablani vuri në dukje potencialin e DGX GH200 për të punuar me grupe të dhënash terabyte, të cilat do t'i lejojnë zhvilluesit të kryejnë kërkime në shkallë më të mëdha dhe me shpejtësi të përshpejtuar.
Kompania gjithashtu krijon një superkompjuter NVIDIA Helios me bazë DGX GH200 për studiuesit dhe ekipet e tij të zhvillimit. Ai do të pajiset me katër sisteme DGX GH200 dhe secili do të jetë i ndërlidhur nga një rrjet Quantum-2 InfiniBand për të rritur qarkullimin e të dhënave për trajnimin e modeleve të mëdha të AI. Helios do të përfshijë 1024 superçipa Grace Hopper dhe pritet të jetë funksional deri në fund të vitit.
Software NVIDIA Base Command ofron menaxhimin e rrjedhës së punës së AI, menaxhimin e grupeve të nivelit të ndërmarrjes, biblioteka që përshpejtojnë llogaritjen, ruajtjen dhe infrastrukturën e rrjetit, dhe softuer të sistemit të optimizuar për ngarkesat e punës së AI. Përfshihet gjithashtu softueri AI Enterprise, i cili ofron mbi 100 korniza, modele të para-trajnuara dhe mjete zhvillimi për të thjeshtuar zhvillimin dhe vendosjen e AI-së së prodhimit, duke përfshirë AI gjeneruese AI, vizion kompjuterik, inteligjencë artificiale e të folurit dhe shumë më tepër.
Superkompjuterët NVIDIA DGX GH200 do të jetë në dispozicion deri në fund të vitit.
Lexoni gjithashtu: