NVIDIA新AI晶片高算力低能耗 集邦:明年成主流

(中央社記者張建中新竹2024年3月21日電)輝達
(NVIDIA)在GTC大會推出Blackwell架構的AI晶片
B100、B200及GB200等,不僅效能大幅提升,成本與
能耗同步優化,市調機構集邦科技預期,B200等產品
有望在2024年底陸續上市,並於2025年成為市場主
流。

集邦科技指出,Blackwell AI伺服器架構平台是今年
GTC大會亮點產品,甫以第2代Transformer引擎與第5
代NVLink技術,可支援高達10兆參數模型的AI訓練與
即時大型語言(LLM)推理。

據輝達表示,Blackwell架構繪圖處理器(GPU)配
備2080億個電晶體,採用台積電客製化4奈米製程製
造,透過每秒10TB的晶片到晶片互連連接成單個
GPU,利用4位浮點AI推論能力支援加倍地運算。

輝達指出,最新版本的NVLink提供每個GPU每秒
8TB的雙向吞吐量,確保在複雜的大型語言模型中,
實現576個GPU間無縫高速溝通。

輝達表示,GB200 NVL72系統串聯72個Blackwell
GPU和36個Grace中央處理器(CPU),相較於H100
Tensor Core GPU,GB200 NVL72可提供30倍的大型語
言模型推論工作負載效能,並大幅降低成本和能源消
耗。

集邦科技表示,輝達產品服務涉及面向多元,但發
展核心仍以醫療、製造兩者為重。輝達針對醫療推出
20餘項醫療專用生成式AI微服務,亦更新BioNeMo模
型以強化電腦輔助藥物開發。

在製造方面,輝達則是推出適用於人形機器人的
GR00T專案基礎模型,以及透過Isaac平台將生成式AI
導入製造和物流應用。

集邦科技指出,輝達產品應用聚焦醫療和製造,主
要因為智慧化基礎高、轉型誘因強烈,數據雖然多且
雜,但密閉空間相對好蒐集,加上模擬技術越趨成
熟。預期隨著自駕車、電動車市場逐漸成熟,往智慧
載體演化的汽車產業有望成為輝達下階段發展重點。
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。