Computex: Nvidia DGX H200: Rechenbeschleuniger für große KI-Modelle GPU KI
, die auf einem Package untergebracht sind. Untereinander kommunizieren sie per NVLINK mit 900 GByte/s, ebenso wie mit den anderen GH200-Chips des Servers. Insgesamt können die 256 Kombibeschleuniger auf 144 TByte gemeinsam genutzten Speicher zugreifen.Deshalb eignen sich DGX GH200 besonders gut dafür, große Modelle für generative KI-Anwendungen zu trainieren. Dazu zählen unterem anderem Sprachmodelle wie ChatGPT oder Bildgeneratoren.
Wenig überraschend heißen die Erstkunden Google, Meta und Microsoft. Aber auch Nvidia selbst will einen KI-Supercomputer namens Helios bauen, der aus vier DGX-GH200-Servern besteht.Für kleinere Server hat Nvidia zudem die offene Serverarchitektur MGX vorgestellt. Auf ein, zwei oder vier Höheneinheiten können dort Serverhersteller das komplette GPU-Portfolio von Nvidia mit Grace-CPUs, GH200 oder x86-Prozessoren kombinieren.
Australia Latest News, Australia Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Nvidia DGX GH200: 256 Grace Hopper Superchips liefern 1 ExaFLOPS FP8 für KINvidias Grace Hopper Superchip mit Arm-CPU und Hopper-GPU geht in die Produktion und wird mit 256 Stück im DGX H200 zum KI-Supercomputer.
Read more »
RTX 4060 Ti und RX 7600 verkaufen sich schlecht: Wenn ich bei Nvidia und AMD etwas zu sagen hätte ... Ein Kommentar von Raffael VötterWas muss getan werden, damit Grafikkarten wieder sexy werden und PC-Gaming somit wieder mehr Spaß macht? PCGH-Grafikkartentester Raff hätte ein paar Ideen. hardware gaming
Read more »
Helene Fischer verplappert sich auf der Bühne: Große TV-Ankündigung?Helene Fischer geht bei ihrer Tour auch immer wieder in den Austausch mit dem Publikum. Bei einem Konzert machte sie nun spannende Andeutungen. Eine ihrer großen Shows könnte zurückkommen.
Read more »
(S+) Dortmund verpasst die Meisterschaft: Euphorie, Lähmung – und eine große GesteBorussia Dortmund hat auf historische Weise den Meistertitel verspielt. Dabei war die ganze Stadt auf eine große Party eingestimmt. Umso bemerkenswerter, was nach dem Abpfiff im Stadion passierte.
Read more »
'Moment der Stille': Fans zeigen Größe und feiern TerzicVideo: Borussia Dortmund in Schockstarre. Die Mannschaft hielt dem Druck am letzten Spieltag nicht stand und verpasste die deutsche Meisterschaft. kicker-Reporter Matthias Dersch über die Gründe für die Niederlage und die positiven Schlüsse.
Read more »