雖然 Mac 在執行模型推論時表現亮眼,但在實際投入 AI 工作時,仍有幾個常見的坑需要特別留心:
- 生態系相容性問題:深度學習領域的主流框架(如 PyTorch、TensorFlow)過去多針對 NVIDIA 的 CUDA 技術 進行深度優化。雖然 Apple 提供了 Metal Performance Shaders (MPS),但某些冷門或最新發表的演算法函數庫可能尚未完美支援,容易遭遇執行報錯。
- 極端運算效能上限:統一記憶體雖然容量大,但 Apple Silicon 在純粹的浮點運算速度(FLOPS)上,相較於頂級獨立顯卡仍有差距。如果任務是從零開始「訓練」大型模型,Mac 的效率會明顯低於專業伺服器。
- 硬體無法事後升級:Mac 的記憶體與晶片是封裝在一起的,購入後無法自行加裝。若初期為了省錢購買 16GB 版本的機種,後續想跑稍大一點的模型就會面臨記憶體不足(OOM)的窘境。