空中作戰!Meta刪除上百個人頭帳號 打擊AI生成假訊息

空中作戰!Meta刪除上百個人頭帳號 打擊AI生成假訊息

商傳媒 2024-05-30 09:06

商傳媒|記者許方達/綜合報導

Meta公布最新季度威脅報告,安全團隊已成功移除數百個來自中國、以色列、伊朗、俄羅斯等國家的臉書(Facebook)帳號,這些帳號涉及隱蔽的影響力行動,有些甚至使用AI工具來生成虛假資訊。

Meta旗下包括Facebook、Instagram和WhatsApp等平台,經檢視後發現這些帳號濫用AI生成虛假影像、影片及文字,以影響其網站用戶。報告也指出,目前生成式AI的使用尚未影響公司干預這些虛構網路帳號的能力。

在這些假帳號活動中,Meta發現一個來自中國的欺騙性網絡,包括分享AI生成的虛假支持錫克運動(又稱「卡利斯坦運動」)的海報圖片;還有一個以色列網路在媒體組織和公眾人物的頁面下,發布讚揚以色列軍隊的AI生成評論。Meta表示,這些訊息在正式被廣發到網路之前就已經被移除。

Meta全球威脅防禦部門主任阿格拉諾維奇(David Agranovich)透過簡報指出,「目前我們並未看到生成式AI被用於非常複雜的方式」。也就是像創建AI生成的個人資料照片,或使用AI生成大量垃圾內容的策略,迄今為止尚未奏效。阿格拉諾維奇也重申,「但我們知道這些在網路資訊的攻防是持續性的,他們會隨著技術的變化,不斷演變他們的策略」。

包括Facebook、TikTok以及X等社群平台,持續在與大量假冒和誤導性的AI生成內容進行對抗。今年關於美國總統拜登的假影音訊息,還有以哈衝突的虛假圖片,就在美國社交媒體上瘋傳,並獲得數百萬次觀看。

Meta全球事務總裁克萊格(Nick Clegg)強調,公司需要檢測並標記AI生成的內容,尤其要為2024年美國大選週期做準備。今年全球將有超過30個國家舉行選舉,包括美國、印度和巴西等,這些都是Meta用戶活絡的地區。

Meta最近更新政策,改採對網站上AI生成的誤導性內容進行標記,而非先行移除。此外,公司要求廣告商在使用AI創建與社會問題、選舉或政治相關的Facebook或Instagram廣告時需進行披露,但Meta不會對政治廣告進行事實核查。

熱門文章
「火雲邪神」張榮麟印尼賽場猝逝 撞壇一哥心肌梗塞享年40歲
「火雲邪神」張榮麟印尼賽場猝逝 撞壇一哥心肌梗塞享年40歲

記者爆料網

曬太陽是天然的血壓藥?研究曝每天「曬太陽30分鐘」防心血管疾病
曬太陽是天然的血壓藥?研究曝每天「曬太陽30分鐘」防心血管疾病

uho優活健康網

大暑來了!4生肖、7姓氏「一路旺到鬼門開」 偏財驚人
大暑來了!4生肖、7姓氏「一路旺到鬼門開」 偏財驚人

TVBS新聞網

畫面曝光!台中自小客車等紅燈突起火 車上母女急逃生
畫面曝光!台中自小客車等紅燈突起火 車上母女急逃生

記者爆料網

新颱風恐襲台!專家警告:週末恐直撲台灣
新颱風恐襲台!專家警告:週末恐直撲台灣

品觀點傳媒

快訊/小哥哥艾理捲假壯陽藥風波 發聲明切割稱受害者
快訊/小哥哥艾理捲假壯陽藥風波 發聲明切割稱受害者

上報Up Media

台中西屯、北區汰換管線! 11里7/15起「分區停水3天」
台中西屯、北區汰換管線! 11里7/15起「分區停水3天」

中天新聞

記憶力變差是老化還是失智症前兆?醫:「這些狀況」可能是失智症
記憶力變差是老化還是失智症前兆?醫:「這些狀況」可能是失智症

健康醫療網

疲老闆離婚撕家庭醜陋面 答應結紮「妻卻出軌3男」:和別人生孩子
疲老闆離婚撕家庭醜陋面 答應結紮「妻卻出軌3男」:和別人生孩子

CTWANT

76歲男「以為小感冒」竟是新冠! 醫示警:無明顯重症也不能大意
76歲男「以為小感冒」竟是新冠! 醫示警:無明顯重症也不能大意

健康醫療網

「這種先天心臟病」常到中年才發作! 醫警告:未治療恐致命
「這種先天心臟病」常到中年才發作! 醫警告:未治療恐致命

健康醫療網

【懶人包】「2個縣市」今起最長停水6天 停水時間、地區、相關查詢一次看懂
【懶人包】「2個縣市」今起最長停水6天 停水時間、地區、相關查詢一次看懂

上報Up Media

昏厥、暈倒怎麼辦?三大原因一次了解,「沒前兆的」快就醫!
昏厥、暈倒怎麼辦?三大原因一次了解,「沒前兆的」快就醫!

今健康

連鎖賣場撤出台灣!昔年賺60億 2敗筆關門資遣700員工
連鎖賣場撤出台灣!昔年賺60億 2敗筆關門資遣700員工

TVBS新聞網

92
0
分享