想要打造完全不受外網當機影響的個人 AI 助理,入手「本地模型」比想像中更簡單。現今已有許多針對非技術背景使用者設計的圖形化工具,只要具備近幾年主流規格的筆電或桌機(建議配備 16GB 以上記憶體),就能輕鬆搞定。
入門的三個步驟如下:
- 安裝傻瓜化軟體:下載 LM Studio 或 Jan.ai,這類軟體就像 AI 版的應用程式商店,點擊即可完成安裝。
- 選擇合適模型:在軟體內搜尋並下載 7B 至 8B 參數規模的模型(例如 Llama-3-8B),平衡回應速度與回答品質。
- 測試斷網執行:關閉電腦 Wi-Fi 後嘗試對話,確保在完全沒有網路的情境下,依然能獲得順暢的 AI 支援。