在 Mac 上開箱即用跑本地 AI 比想像中簡單許多,建議從成熟的工具生態開始上手:
- 推薦入門工具:下載 LM Studio 或 Ollama。這類軟體具備視覺化介面與簡單命令列,支援直接搜尋下載 Hugging Face 上的 GGUF 格式模型,幾分鐘內就能搭出專屬的離線 Copilot。
- 善用 Apple MLX 框架:如果你具備程式開發能力,建議改用 Apple 官方維護的 MLX 框架,它能直接針對 Apple Silicon 架構進行深度最佳化,執行效率比傳統跨平台架構更高。
- 記憶體配置優化小撇步:預設情況下,macOS 會保留部分記憶體給系統。你可以透過終端機指令(如 sysctl 調整
iogpu.wired_mem_limit),提高 GPU 能調用的統一記憶體上限,讓大型模型載入時不易崩潰。
此外,模型下載極度消耗磁碟空間,建議搭配高速度的外接 SSD 存放模型權重,能大幅省下開機載入時間。