問題 4 / 5
在醫療健康、法律或農業等專業領域使用 AI 時，最常遇到哪些陷阱？我們該如何避免被看似合理的錯誤解答誤導？
AI 根據文章內容回答
在專業場景使用 AI 時，最大的風險莫過於「看似極其專業的幻覺（Hallucination）」，也就是模型用極具說服力的權威語氣講出完全錯誤的事實。要避免踩雷，可以建立以下自我防衛機制：
- 要求提供資料來源與推導邏輯：提問時要求 AI「請列出得出此建議的具體依據與具體步驟」，這能幫助你快速核對資訊來源是否可靠。
- 採用反向質疑與交叉驗證：拿到解答後，可以接著問 AI：「這個建議在什麼情況下可能會失敗或產生副作用？」逼迫模型跳出預設思維，揭露潛在風險。
- 堅持「最終決策權在人」：始終將 AI 定位為「初稿提供者」或「腦力激盪夥伴」，涉及醫療用藥、法律條款或高成本處置時，務必經過專業人員的最終覆核。