問題 3 / 5
既然 M6 升級了雙組 Neural Engine 與 GPU 加速器，為什麼統一記憶體容量上限 32GB 仍會是跑本機 AI 的主要瓶頸？
AI 根據文章內容回答
執行本機大型語言模型（LLM）時，限制效能的關鍵往往不是算力不夠，而是記憶體容量與傳輸頻寬上限。AI 模型在運算時，需要將數百億個參數權重完全載入記憶體中。一旦模型體積超出容量，系統就必須使用硬碟作為虛擬記憶體，導致速度急劇下降。
雖然 M6 具備強大的 Dual 16-core Neural Engine 與 GPU 算力：
雖然 M6 具備強大的 Dual 16-core Neural Engine 與 GPU 算力：
- 32GB 容量限制：扣除 macOS 系統與其他軟體佔用後，實際能分配給 AI 模型的空間約在 20GB 到 24GB 左右，限制了能順暢執行的模型規模（通常約 7B 到 14B 參數模型）。
- 記憶體頻寬（170GB/s）：雖然比 M5 提升，但相較於 M5 Pro 的 307GB/s 仍有差距，這會影響 AI 生成文字時的速度。