三面“神鏡”破AI謠言！這些套路一眼識破

公安部網安局 2025-03-27 17:22:28

AI換臉明星緋聞、合成語音冒充專家、偽造災害現(xiàn)場視頻，這些真假難辨的謠言就藏在你身邊！

今天，我們亮出三面“神鏡”——查源頭、摳細節(jié)、用科技，教你撕開AI謠言的“畫皮”！

AI謠言兩大“毒招”

1“移花接木”演大戲

AI技術能把“老照片”變成“新事故”！西藏地震時，某網民用AI把幾年前的照片P成“廢墟下的戴帽男孩”，騙走網友眼淚。

2“煙霧彈”制造恐慌

不少網民為博眼球，利用AI合成火災、地震等災害信息并發(fā)布到網絡平臺，造成不良社會影響。

破除AI謠言的三面“神鏡”

第一鏡：源頭照妖鏡

——斬斷“謠言根”

看到“網友爆料”“獨家內幕”，先問一句：“官方認證了嗎？”政府網站、權威媒體才是“保真信息庫”，一查便知真假！

第二鏡：細節(jié)顯微鏡

——放大“AI馬腳”

數(shù)數(shù)手指頭，AI常畫出“六指琴魔”；看看影子方向，AI可能把太陽掛反；尋找AI水印，AI軟件常在生成的圖片中標注軟件名稱。

第三鏡：科技透視鏡

——照穿“電子畫皮”

用魔法打敗魔法，用科技打敗科技。AI檢測工具可通過算法判斷圖片、文本等信息是否為AI生成。

提高法律意識，AI造謠必出紅線

隨著AI的普及，作品發(fā)布的門檻大幅度降低，很多網民從“觀眾”轉變?yōu)椤皠?chuàng)作者”。以下是為AI創(chuàng)作者準備的3道法律“防火墻”：

1.《生成式人工智能服務管理暫行辦法》明確禁止發(fā)布利用AI生成虛假信息，違規(guī)者將面臨平臺封禁、罰款等處罰。

2.《治安管理處罰法》規(guī)定：散布謠言擾亂公共秩序者，最高可處10日拘留。

3.《刑法》規(guī)定：編造虛假險情、疫情、災情等信息，嚴重擾亂社會秩序的，最高可判7年有期徒刑。

網警建議

1.不當“謠言傳聲筒” ，看到勁爆消息，先按住轉發(fā)的手：“讓子彈飛一會兒！”

2.爭做“網絡朝陽群眾” ，發(fā)現(xiàn)網絡謠言，積極向官方辟謠網站提供線索！

3.修煉“防騙金鐘罩” ，每周花5分鐘看警方打謠漫畫，AI謠言套路一眼識破！

責編：曹曉林

一審：曹曉林

二審：喻志科

三審：周韜

來源：公安部網安局

我要問