【半導體】Computex 黃仁勳演講重點

黃仁勳在 5/19(一)台北舉辦的 Computex 上進行主題演講,以下為 M平方整理的 11 大重點

  1. 重新定位輝達:輝達不再只是科技公司,而是「 AI 基礎建設公司」,因此必須要非常詳細地公佈產品路線圖,不然怎麼讓其他人去打造、建設。而所謂基礎建設在過去第一次工業革命時,最重要就是要「電力」。而現在基礎建設就是「資訊和網路」。每家公司都有網路建設。但到了未來,基礎建設就是「 AI 」,任何產業、任何公司都需要 AI,而 AI 就需要工廠,而 token 就是工廠的產品, 有些公司已經開始在財報中討論上個季度生產了多少 token。

  2. 輝達的真正優勢:市場經常提到加速運算和 AI,但真正讓輝達與眾不同的是演算法和函示庫,也就是「 CUDA-X acceleration libraries 」,而當 Cuda 的效能達到極致後,就會普及到全球,吸引更多的開發者和應用產生,進而繼續讓 Cuda 的技術普及。目前 Cuda 應用更延伸到了量子領域,也就是 cuQuantum 模擬平台。

  3. 量子運算的未來:目前量子運算正處於「 noisy intermediate 」階段,但已經有許多應用場景開始實現,例如現場展示了用 CUDA-Q 模擬化學分子反應,速度比傳統方式快了 100 倍,預期未來所有超級電腦都將具備量子加速功能。

  4. 電信業市場潛力:如同資料中心已不是傳統的「硬體定義」,而走向軟體控制的方向,電信基礎設施(包括基地台、 RAN)也正朝著這一方向發展,這也是為甚麼 Nvidia 花了 6 年時間打造了一套以 GPU 加速為核心的 RAN 解決方案,技術已與最先進的 6G 不相上下。

  5. CoWoS-L 為最新 AI 晶片關鍵 :Blackwell 架構是透過兩個晶片連接在一起來突破單一晶片尺寸的限制,而與台積電合作開發的 CoWoS-L 得以達成這樣的目標,藉此打造出這些巨型晶片。

  6. 台灣生態系對 AI 發展至關重要:Blackwell 是一個工程奇蹟,始於台積電的一個空白矽晶圓,經過數百個晶片處理和紫外線曝光步驟後,在 12 吋晶圓上建構出 2000 億個電晶體,並切成單獨的 Blackwell 裸晶,再由京元電子透過 125 度烘箱對這些晶片進行壓力測試,到了鴻海則交給機器人將 1 萬個元件精準放置到 Grace Blackwell 的印刷電路板上,酷碼、奇鋐等公司則提供定製液冷銅製散熱器,最後將來自世界各地的零組件組裝成機架規模的 AI 超級電腦。同時也將與鴻海、台積電和台灣政府在台灣建立第一座巨型 AI 超級電腦。

  7. AI Agent 將作為勞動力短缺的解方:未來預計到 2030 年全球將會有 3000 ~ 5000 萬的勞工短缺,這將限制全球的成長,但未來 AI Agent 在具備推理、使用工具以及和他人協作的能力後,某種意義上可作為「數位員工」來幫企業執行多種任務,例如 Nvidia 已經讓 100% 的軟體工程師使用數位 Agent 協助工作;又或者 VAST 透過 IQ 藍圖打造一個銷售研究的 AI Agent,過去需要數天的銷售計劃,現在只需一個提示即可完成計劃。

  8. 搜尋行為的改變帶動儲存平台的革新:人們的搜尋方式逐漸由傳統的 Google 搜尋,轉移到 AI 搜尋,而 AI 需要查詢的是更多「非結構化資料」,並在這些資料和原始資料中提取出意義,而傳統的儲存架構(SQL)無法高效處理這類非結構化數據,因此 Nvidia 與許多儲存產業的公司合作開發了一個全新的查詢系統,「 Nvidia AIQ 」,而未來大多數的儲存伺服器也將配備 GPU 運算節點。

  9. AI Agent to Physical AI:思考鏈、逐步分解、思考樹這些技術正在推進 AI 的推理能力,而一但 AI 具備推理能力和多模態感知能力,就會形成 AI Agent,它能夠像人一樣:給定目標後理解目標(understand),並逐步分解問題(think),最後推理出下一步的決策(act)。本質上就是一個數位形式的機器人,並牽動到下一波的 AI 浪潮「物理 AI(Physical AI)」,也就是能夠理解物理世界的 AI,理解慣性、摩擦力、因果關係等。

  10. 人形機器人

    • 黃仁勳繼續表態人形機器人將會是下一個兆元產業,但目前面臨的主要挑戰是缺乏大規模的真實及合成的訓練數據。
    • 機器人要在真實物理世界學習並不高效,因為人類案例受限於一天的時間,因此要創造一個虛擬世界,開發者可透過 Cosmos 來擴大符合物理法則的數據和環境,另外 Nvidia 與 Google DeepMind 和 Disney Research 也為此合作打造了全球最先進的物理引擎 Newton,預計在 7 月開源,並可將 Newton 引擎整合到 Isaac 平台上應用。
    • 下一代人形機器人基礎模型 Isaac GR00T N1.5 正式開源(3 月時為 N1)。
  11. 重點產品

    • NVLink Fusion 平台搶食半客製化市場:首次公佈 NVLink Fusion 技術,可幫助企業將自己的 CPU 和 Nvidia 的 GPU 進行整合,或是將 Nvidia CPU 和其他公司的 AI 晶片進行整合。目前許多企業正建構半客製系統,例如自研 TPU 、 ASIC 或其他專用加速器,但這些系統往往缺乏「 Scale-Up 」的能力(因為要挑戰的是半導體的物理極限)。
    • Jetson Thor:全新機器人處理器已進入量產階段,可適用於自駕車和人形機器人系統。
    • GB300:宣布 Grace Blackwell 的新版本 GB300,預計在今年 Q3 上市,對比上一代 B200 提升了 1.5 倍推理效能,1.5 倍 HBM 容量和 2 倍網路頻寬,且單一計算節點即可提供 40 PFLOPS。
    • DGX Spark 和 DGX Station:上次在 CES 公佈的 Project DIGITS 的個人 AI 電腦 DGX Spark 已經全面投產,配備 GB10 晶片和第五代 Tensor Cores,預計在未來幾周內上市。而 DGX Station 將在今年稍後推出。

加入〈財經M平方〉官方Line,掌握最新行情!​

貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。