title: 明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ --- **摘要** 在這個 AI 爆炸成長的年代，有人用 AI 讓工作更順利，詐騙集團也開始學著使用 AI 來製作假圖片、假影片，並且透過網路廣告系統來散佈。這篇文章手哥就以一個利用 AI 假造生成名人對話的影片，搭配仿冒網站進行多層次詐騙的過程和大家分享。未來這樣的詐騙只會越來越多，大家真的要小心防範！ **Category** - [新聞](https://www.soft4fun.net/category/tech/news) - [科技](https://www.soft4fun.net/category/tech) **Tag** - [Facebook](https://www.soft4fun.net/tag/facebook) - [Facebook 詐騙](https://www.soft4fun.net/tag/facebook-%e8%a9%90%e9%a8%99) - [網路詐騙](https://www.soft4fun.net/tag/%e7%b6%b2%e8%b7%af%e8%a9%90%e9%a8%99) **圖片清單** - ![image-52](https://cf.img.soft4fun.net/2024/05/image-52.png "image-52") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-50](https://cf.img.soft4fun.net/2024/05/image-50.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-50") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-45](https://cf.img.soft4fun.net/2024/05/image-45.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-45") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-46](https://cf.img.soft4fun.net/2024/05/image-46.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-46") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-47](https://cf.img.soft4fun.net/2024/05/image-47.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-47") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-44](https://cf.img.soft4fun.net/2024/05/image-44.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-44") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-49](https://cf.img.soft4fun.net/2024/05/image-49.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-49") - ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-51](https://cf.img.soft4fun.net/2024/05/image-51.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-51") --- 在這個 AI 爆炸成長的年代，有人用 AI 讓工作更順利，詐騙集團也開始學著使用 AI 來製作假圖片、假影片，並且透過網路廣告系統來散佈。這篇文章手哥就以一個利用 AI 假造生成名人對話的影片，搭配仿冒網站進行多層次詐騙的過程和大家分享。未來這樣的詐騙只會越來越多，大家真的要小心防範！ ## 在 Facebook 的假造廣告 因為 Facebook 可以讓廣告主投放圖片、影音廣告，因此詐騙集團通常會首選 Facebook 作為詐騙廣告投放的第一站。 今天我在滑 FB 的時候，就看到一個以中華民國國旗為頭像的粉專正在投放廣告 (粉專名稱下面有「贊助」二字)，不過因為粉專名稱非常特別，就吸引我好奇看了一下。 ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-50](https://cf.img.soft4fun.net/2024/05/image-50.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-50") ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-45](https://cf.img.soft4fun.net/2024/05/image-45.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-45") 經過我的調查，這個集團經營了一系列使用中華民國國旗的粉專並投放詐騙廣告，投放平台包含 Facebook、Instagram、Messenger 以及 Facebook Audience Network，**廣告在 5/27 開始投放**。 ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-46](https://cf.img.soft4fun.net/2024/05/image-46.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-46")▲ 根據 FB 的紀錄，這個粉專的詐騙廣告從 5/27 開始投放 ## 使用 AI 偽造知名人士聲音製作假冒影片 接下來我們看一下這個影片是如何製作的。 首先，影片擷取了一段特斯拉創辦人 Elon Musk 在某個場合演說的影片，詐騙集團將自己設計好的內容，利用 AI 配上嘴型，讓人誤導以為 Elon Musk 真的說了這些話。 不過這一段影片比較失敗，如果你聽過 Musk 的聲音的話就很容易辨識。 ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-47](https://cf.img.soft4fun.net/2024/05/image-47.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-47") 第二段就以我們熟悉的郭台銘進行仿冒，這一段對話影片的 AI 更精準模擬郭台銘的聲線，嘴型也和講話的內容更為相符，如果不仔細看其實看不大出來。 不過想當然爾，這些對話內容一樣是詐騙集團透過 AI 偽造的。 ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-44](https://cf.img.soft4fun.net/2024/05/image-44.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-44") ## Facebook 廣告系統對詐騙廣告的審核機制 我把這個影片下載下來，分享到我的 Facebook 提醒朋友要防範這類 AI 假冒廣告，不到 20 分鐘的時間，Facebook 立刻將我的貼文標記為「不實資訊」，同時也提供了詐騙資訊查核網站的連結。 ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-49](https://cf.img.soft4fun.net/2024/05/image-49.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-49") 另外，Facebook 也發送了通知給我，告知我發表的內容包含不實資訊，在這個通知裡面可以看到 **Facebook **在 5/21**** **就已經接獲查核機構通報這個影片為不實內容**，但廣告系統卻允許詐騙集團從 5/27 開始投放廣告，這也讓人不禁懷疑 Facebook 的廣告系統是否有審查不實內容的廣告？ ![明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-51](https://cf.img.soft4fun.net/2024/05/image-51.png "明知是詐騙廣告還通過審核？臉書系統有在審核詐騙廣告嗎？ image-51") ## 詐騙廣告只會更真實 AI 技術在這兩年突飛猛進，勢必會被詐騙集團爛用在製作造假影片，以目前技術來說，這些都已經是可以模仿的： - **講話聲音**：技術已相當成熟，模仿的程度端看訓練時使用多少的聲音做訓練。以 iPhone 來說大概需要 1 小時左右的語音紀錄。但對於知名人士來說，在網路上可以輕鬆收集到這個長度的聲音素材。 - **發音語氣**：技術仍在進步中，AI 已經可以掌握各種 緒的發音方式，不過目前還不是非常自然。 - **臉部表 **：技術仍在進步中，仔細看還是可以發現一些不自然的動作，但過去一年已經進步很多，目前技術已經可以做到臉部表 不那麼有「肉毒」感。 - **肢體動作**：技術已相當成熟，可以將任何人的肢體動作套用到另一個人身上。 - **影片場景**：技術已相當成熟。 除了 AI 製作的這些假內容外，詐騙集團通常也會製做一些假冒知名媒體的網站取信受害者，大家一定要特別小心防範！