政策相關

輝達執行長黃仁勳最新專訪!AI 推理運算需求暴增,Blackwell 晶片成市場焦點

By admin 2025-02-27 06:05
輝達執行長黃仁勳最新專訪!AI 推理運算需求暴增,Blackwell 晶片成市場焦點

輝達 (Nvidia) 執行長黃仁勳 (Jensen Huang) 於今晨 2/27 受訪表示,全球對 AI 算力的需求已達前所未有的程度,連亞馬遜 AWS 執行長Andy Jassy 也直言:「如果現在有更多 AI 算力資源,我們馬上就能賣掉。」顯示短期內市場對 AI 運算能力的需求遠大於供給,特別是來自新創企業的需求正在爆發性成長。

Table of Contents

Toggle

新創企業崛起,推動 AI 基礎建設擴張

黃仁勳指出,隨著推理 AI (Reasoning AI) 與實體 AI (Physical AI) 的發展,許多 AI 新創公司迅速崛起,這些公司專注於突破性技術,並需要大量算力來訓練與運行 AI 模型。這些新創企業不僅加速雲端服務需求飆升,也進一步推動全球 AI 基礎建設擴張。

數據中心投資激增,Blackwell 晶片成市場焦點

而從中期來看,全球數據中心投資規模已遠超去年,而輝達最新的 Blackwell AI 晶片成為關鍵推動力。黃仁勳表示,隨著這些新一代數據中心陸續上線,未來幾年內,AI 算力市場仍將持續高速成長。

廣告 - 內文未完請往下捲動

推理 AI 時代來臨,運算需求是過去的 100 倍

談到未來趨勢,黃仁勳強調:「我們正處於推理 AI 的開端。」與傳統 AI 不同,推理 AI 不再是單純輸出答案,而是會「思考」後再回答。像是 DeepSeek、ChatGPT-4.0、Grok-3 等新模型,能先拆解問題、搜尋內部知識,甚至自我反思後再選出最佳答案。這個過程所需的算力,遠遠超出過去的標準,推理 AI 的運算需求比傳統 AI 高出 100 倍。

AI 學習三階段,推理運算需求最高

黃仁勳進一步解析,AI 發展可分為三大階段:

  1. 預訓練 (Pre-training):類似人類學習基本知識,例如語言、數學等。
  2. 後訓練 (Post-training):AI 透過人類反饋、強化學習、模擬測試等方式來精進自身能力,這個階段的算力需求已遠高於預訓練。
  3. 推理 (Inference):當 AI 正式運行時,為了提升回答品質,會先進行多次思考與計算,這讓推理運算需求暴增,相較於傳統 AI 模型,高出 100 倍之多。

AI 算力競爭激烈,產業進入高速成長期

算力需求的急速飆升,使市場對高效能運算 (HPC) 與雲端服務的依賴大幅提升。隨著輝達、AWS 等科技巨頭加碼布局 AI 基礎建設,全球 AI 產業正進入新一波高速成長期。

(輝達財報超預期,比特幣最低82K,MSTR上漲逾 5%)

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。

Blackwell推理運算晶片輝達黃仁勳

衍伸閱讀

  • NVIDIA 執行長黃仁勳:與 DDN 合作打造極限運算,DeepSeek R1 模型助推 AI 發展
  • AI 黃金時代!黃仁勳透露輝達推動 AI 訓練機器人,Omniverse 搭配 Cosmos 成最強組合

標題:

地址:https://www.pressbased.com/post/11565.html