賣矛也給盾,OpenAI 推出 AI 撰寫文字偵測工具

-

2022 年下旬,如 ChatGPT、Midjourney 這類以 AI 為核心的服務推出後,讓很多人驚覺原來 AI 已經不再只是在背後默默輔助,已經可以站在第一線進行創造性的產出,而這樣的衝擊不只在資訊領域,藝術、文字、影音、電子商務領域都感受得到這次 AI 帶來顛覆式的衝擊。

而一旦 AI 能進行自動化產出,就自然會有人想要透過他來取巧,其中最早被提出討論地就是如學校作業、研究論文、網站內容這類最容易被產出的內容。由於目前 AI 回應的資訊正確率還有很大的改進空間,因此也常被戲稱「一本正經地講幹話」,但如果這些內容被放到錯誤的地方,這些濫竽充數的文字就可能造成負面的影響。

正所謂「賣武器的人也一定要賣盾」,OpenAI 最近推出能夠偵測 AI 撰寫文字偵測工具,幫助偵測不正當的 AI 內容使用。在撰寫本文時能夠偵測的準確度為 26% 且使用上仍有不少限制,不過隨著訓練的樣本 (文字) 更多,偵測工具的準確度也會逐漸上升。

你必須先知道的限制

  • 不建議作為主要的決策依據
  • 在英文內容判斷準確度較高,其他語言表現會差很多
  • 在程式碼的判斷上不可靠
  • 內容少於 1,000 個字元的判斷不準確,甚至會有誤判的可能
  • 有時人類撰寫的內容有可能被判定為 AI 撰寫
  • AI 產生的內容經過編輯後有可能躲過偵測工具的判斷

使用 AI Text Classifier

AI 撰寫文字偵測器:https://platform.openai.com/ai-text-classifier

Step 1. 在「Text」區域貼上你想要讓它判斷的文字內容。並按下【Submit】送出

賣矛也給盾,OpenAI 推出 AI 撰寫文字偵測工具 image-900x603
文字長度不到 1,000 字元準確度過低,系統會擋掉喔!

Step 2. 取得 AI 判斷結果

當 AI 認為你輸入的內容可能是 AI 服務產生的文字時,就會出現「The classifier considers the text to be likely AI-generated.」的訊息提醒,不過正如前面所提到的限制,你可以將判斷結果作為其中一個判斷依據,但不建議看到這個訊息就直接作判定喔!

賣矛也給盾,OpenAI 推出 AI 撰寫文字偵測工具 image-1-900x353

相關文章
手哥 HANDBRO
手哥 HANDBRO
硬是要學共同創辦人兼職打雜編輯,熱愛網路、熱愛 3C!腦袋是個不定時炸彈,隨時會炸出新玩意兒!如有開箱、評測或各種合作需求,請洽:contact@soft4fun.net。 YouTube 頻道:手哥科科

留下一個評論

請輸入你的評論!
請在這裡輸入你的名字

- 廣告 -
網站搜尋
看更多新聞
我們的頻道
- 廣告 -
轉分享文章