Podle zpráv vstoupila do konec čipu NVIDIA AI GPU H200 na upstream čipu do doby hromadné výroby na konci Q2 a očekává se, že bude dodán ve velkém množství po Q3.Plán spuštění platformy NVIDIA Blackwell je však nejméně o jednu až dvě čtvrtiny před plánem, což ovlivňuje ochotu koncových zákazníků koupit H200.
Dodavatelský řetězec poukazuje na to, že v současné době jsou objednávky klientů čekající na zásilek stále většinou soustředěny v architektuře H100 HGX s omezenou část H200.Ve Q3 je H200, která bude hromadně vyráběna a dodávána, hlavně NVIDIA DGX H200;Pokud jde o B100, již má částečnou viditelnost a očekává se, že bude odeslán v první polovině příštího roku.
Jako iterativní produkt upgradu H100 GPU přijímá H200 poprvé technologii paměti HBM3E s vysokou šířkou pásma na základě pokročilé architektury Hopper, dosažení rychlejší rychlosti přenosu dat a větší kapacitu paměti, zejména vykazující významné výhody pro aplikace jazykového modelu ve velkém měřítku.Podle oficiálních údajů zveřejněných společností NVIDIA má při řešení složitých velkých jazykových modelů, jako je Meta's LLAMA2, H200 má maximální zlepšení o 45% v generativní rychlosti výstupu AI ve srovnání s H100.
H200 je umístěn jako další milník NVIDIA v oblasti výpočetní techniky AI, nejen zdědí výhody H100, ale také dosahuje významných průlomů v paměťovém výkonu.S komerční aplikací H200 se očekává, že poptávka po vysoké šířce pásma bude i nadále růst, což dále povede k rozvoji celého průmyslového řetězce AI Computing Hardware, zejména tržní příležitosti pro dodavatele související s HBM3E.
GPU B100 přijme technologii chlazení kapaliny.Disipace tepla se stala klíčovým faktorem při zlepšování výkonnosti čipů.TDP GPU NVIDIA H200 je 700 W, zatímco se konzervativně odhaduje, že TDP B100 je blízko kilowattů.Tradiční chlazení vzduchu nemusí být schopno splnit požadavky na rozptyl tepla během provozu čipů a technologie rozptylu tepla bude komplexně inovována směrem k chlazení kapaliny.
Generální ředitel NVIDIA Huang Renxun uvedl, že od GPU B100 se v budoucnu přesune technologie chlazení všech produktů z chlazení vzduchu k chlazení kapaliny.Galaxy Securities věří, že B100GPU NVIDIA má alespoň dvojnásobek výkonu H200 a překročí čtyřikrát vyšší než H100.Zlepšení výkonu čipů je částečně způsobeno pokročilými procesy a na druhé straně se rozptyl tepla stal klíčovým faktorem při zlepšování výkonu čipů.TDP GPU H200 GPU NVIDIA je 700 W, což se konzervativně odhaduje, že se blíží kilowattům.Tradiční chlazení vzduchu nemusí být schopno uspokojit potřeby rozptylu tepla během provozu čipů a technologie rozptylu tepla bude plně revolucionizována směrem k chlazení kapaliny.
