快科技3月19日消息，在整個AI算力硬件的搭建中，英偉達毫無疑問站在最頂端，其GPU的動態發展，直接關乎了行業的發展。

在今天開幕的GTC 2024上，黃仁勛帶來了新的B200 GPU，其擁有2080億個晶體管，可提供高達20petaflops的FP4算力。

至于GB200，就是將兩個GPU和一個Grace CPU結合在一起，可為LLM推理工作負載提供30倍的性能，同時還可能大大提高效率。

英偉達也形象給出了提升的高度，比如訓練一個1.8萬億個參數的模型以前需要8000個Hopper GPU和15兆瓦的電力。如今，2000個Blackwell GPU就能完成這項工作，耗電量僅為4兆瓦。

在具有1750億個參數的GPT-3 LLM基準測試中，GB200的性能是H100的7倍，而訓練速度是H100的4倍。這些顯著性能的提升下，新一代 NVLink交換機起到了關鍵效果，可讓576個GPU相互連接，雙向帶寬達到每秒1.8TB。

按照黃仁勛的說法，搭載B200芯片的GB200 Grace Blackwell計劃今年晚些時候發貨，英偉達目前并未公布GB200以及整套方案的售價信息，但目前的現狀是有錢你也不一定能買到，中國廠商也是看看就行了。

黃仁勛表示，Blackwell帶來了“令人難以置信的興奮”：“我們將會把Blackwell推廣給全球的AI公司，全球各地都在簽約啟動Blackwell，這款Blackwell將成為我們歷史上最成功的產品發布。”

Blackwell平臺能夠在萬億參數級的大型語言模型（LLM）上構建和運行實時生成式AI，而成本和能耗比前身低25倍。