硬是要學
首頁
›
Akamai與Anthropic擴大合作簽下116億美元大單:CPU運算需求暴增,股價應聲跳漲逾兩成
›
FAQ #4
問題 4 / 5
除了向雲端廠商買算力,生成式 AI 產業現在還正面臨哪些嚴重的「基礎設施瓶頸」?
AI 根據文章內容回答
當前生成式 AI 的軍備競賽已經從「爭奪顯卡」延伸至整體硬體與能源生態,各大廠商主要正面臨三大瓶頸:
電力與能源供應:
AI 資料中心是吃電怪物,傳統電網往往無法承受突增的負荷,迫使科技巨頭直接買斷核電、綠電或礦場電力。
高頻寬記憶體(HBM)產能:
GPU 算力再強,如果資料讀取速度跟不上也是枉然,HBM 與高速儲存元件目前持續處於供不應求狀態。
散熱與空間限制:
高密度運算產生的驚人熱量,使傳統風冷難以承受,帶動水冷與液冷技術成為新建資料中心的標配。
← 上一題
返回文章
下一題 →
其他問題
Q1
大家討論 AI 時總是聚焦在輝達的 GPU 顯卡,為什麼像 Anthropic 這樣的頂級模型廠商,還需要砸下百億美元重金購買「CPU」算力?
Q2
這種全球分散式的「邊緣運算」基礎設施,對我們平常使用 AI 工具時,會帶來哪些最直接的體感差異?
Q3
近來科技界很流行「拿訂單換股票認購權」的簽約模式,這種做法對合作雙方各自有什麼好處與潛在風險?
Q5
想持續關注這波 AI 基礎設施大戰的後續發展,一般讀者可以觀察哪些關鍵指標或產業動態?