問題 4 / 5

除了向雲端廠商買算力,生成式 AI 產業現在還正面臨哪些嚴重的「基礎設施瓶頸」?

AI 根據文章內容回答
當前生成式 AI 的軍備競賽已經從「爭奪顯卡」延伸至整體硬體與能源生態,各大廠商主要正面臨三大瓶頸:
  • 電力與能源供應:AI 資料中心是吃電怪物,傳統電網往往無法承受突增的負荷,迫使科技巨頭直接買斷核電、綠電或礦場電力。
  • 高頻寬記憶體(HBM)產能:GPU 算力再強,如果資料讀取速度跟不上也是枉然,HBM 與高速儲存元件目前持續處於供不應求狀態。
  • 散熱與空間限制:高密度運算產生的驚人熱量,使傳統風冷難以承受,帶動水冷與液冷技術成為新建資料中心的標配。

其他問題

Q1 大家討論 AI 時總是聚焦在輝達的 GPU 顯卡,為什麼像 Anthropic 這樣的頂級模型廠商,還需要砸下百億美元重金購買「CPU」算力? Q2 這種全球分散式的「邊緣運算」基礎設施,對我們平常使用 AI 工具時,會帶來哪些最直接的體感差異? Q3 近來科技界很流行「拿訂單換股票認購權」的簽約模式,這種做法對合作雙方各自有什麼好處與潛在風險? Q5 想持續關注這波 AI 基礎設施大戰的後續發展,一般讀者可以觀察哪些關鍵指標或產業動態?