空中作戰!Meta刪除上百個人頭帳號 打擊AI生成假訊息

空中作戰!Meta刪除上百個人頭帳號 打擊AI生成假訊息

商傳媒 2024-05-30 09:06

商傳媒|記者許方達/綜合報導

Meta公布最新季度威脅報告,安全團隊已成功移除數百個來自中國、以色列、伊朗、俄羅斯等國家的臉書(Facebook)帳號,這些帳號涉及隱蔽的影響力行動,有些甚至使用AI工具來生成虛假資訊。

Meta旗下包括Facebook、Instagram和WhatsApp等平台,經檢視後發現這些帳號濫用AI生成虛假影像、影片及文字,以影響其網站用戶。報告也指出,目前生成式AI的使用尚未影響公司干預這些虛構網路帳號的能力。

在這些假帳號活動中,Meta發現一個來自中國的欺騙性網絡,包括分享AI生成的虛假支持錫克運動(又稱「卡利斯坦運動」)的海報圖片;還有一個以色列網路在媒體組織和公眾人物的頁面下,發布讚揚以色列軍隊的AI生成評論。Meta表示,這些訊息在正式被廣發到網路之前就已經被移除。

Meta全球威脅防禦部門主任阿格拉諾維奇(David Agranovich)透過簡報指出,「目前我們並未看到生成式AI被用於非常複雜的方式」。也就是像創建AI生成的個人資料照片,或使用AI生成大量垃圾內容的策略,迄今為止尚未奏效。阿格拉諾維奇也重申,「但我們知道這些在網路資訊的攻防是持續性的,他們會隨著技術的變化,不斷演變他們的策略」。

包括Facebook、TikTok以及X等社群平台,持續在與大量假冒和誤導性的AI生成內容進行對抗。今年關於美國總統拜登的假影音訊息,還有以哈衝突的虛假圖片,就在美國社交媒體上瘋傳,並獲得數百萬次觀看。

Meta全球事務總裁克萊格(Nick Clegg)強調,公司需要檢測並標記AI生成的內容,尤其要為2024年美國大選週期做準備。今年全球將有超過30個國家舉行選舉,包括美國、印度和巴西等,這些都是Meta用戶活絡的地區。

Meta最近更新政策,改採對網站上AI生成的誤導性內容進行標記,而非先行移除。此外,公司要求廣告商在使用AI創建與社會問題、選舉或政治相關的Facebook或Instagram廣告時需進行披露,但Meta不會對政治廣告進行事實核查。

熱門文章
新冠確診暴增!重症醫揭10肺炎「半數都新冠」2症狀小心了
新冠確診暴增!重症醫揭10肺炎「半數都新冠」2症狀小心了

TVBS新聞網

騎車載同事回家車禍害變植物人 慈父為愛女索8千萬賠償
騎車載同事回家車禍害變植物人 慈父為愛女索8千萬賠償

匯流新聞網CNEWS

半年抓近1700條蛇 台中「前五大捕獲蛇種」曝光
半年抓近1700條蛇 台中「前五大捕獲蛇種」曝光

TVBS新聞網

日本LINE Pay快掰了!內行人推「出國2種Pay」:好用超多
日本LINE Pay快掰了!內行人推「出國2種Pay」:好用超多

TVBS新聞網

27歲女在台體大前擦撞公車!「四肢變形」身亡 母崩潰痛哭
27歲女在台體大前擦撞公車!「四肢變形」身亡 母崩潰痛哭

中天新聞

92
0
分享