災(zāi)情面前，必須讓“AI造假”走開

半月談評論員 張漫子

“AI造假”之風(fēng)卷土重來!連日來，西藏日喀則市定日縣6.8級地震牽動(dòng)人心，不少網(wǎng)友在社交平臺(tái)為災(zāi)民祈福。然而，一些別有用心之人卻趁“災(zāi)”作亂，利用AI合成的照片在失控的擴(kuò)散中釀成另一種“災(zāi)禍”。

1月8日，詞條“地震被壓廢墟下戴帽小孩是AI生成”沖上熱搜，讓前一天還在為小孩傷心落淚、轉(zhuǎn)發(fā)照片的網(wǎng)民愕然：原來讓自己心疼不已的小孩照片，竟是一場徹頭徹尾的“照騙”!造假者抓住大眾對災(zāi)難的同情心與關(guān)注度，編造吸睛標(biāo)題和文案，使虛假影像得以病毒式傳播，只為流量變現(xiàn)。

圖片為自媒體AI合成視頻的截圖，與本次西藏地震無關(guān)

突發(fā)事件的信息傳播中，影像對網(wǎng)民視覺與情緒的調(diào)動(dòng)作用極為直接，正所謂“一圖勝千言” 。如今，生成式人工智能的普及，使得內(nèi)容制作的門檻與成本大幅降低。普通人只需動(dòng)動(dòng)手指，就能一鍵生成逼真的照片或視頻，視覺內(nèi)容的創(chuàng)作效率大大提升。然而，這一技術(shù)的濫用也導(dǎo)致了AI造謠、AI詐騙、AI魔改等亂象層出不窮。

在流量的驅(qū)動(dòng)下，一些不法分子利用AI編造“偽消息”、制造“假新聞”，騙取網(wǎng)民關(guān)注點(diǎn)贊。在利益的驅(qū)使下，詐騙分子更是利用AI合成受騙者親友的聲音畫面，實(shí)施精準(zhǔn)詐騙。在地震救援工作仍在持續(xù)的當(dāng)下，仍有與地震相關(guān)的AI合成照片在瘋傳，以所謂的“正能量”之名，行蹭流量、騙流量、變現(xiàn)流量之實(shí)。

AI合成內(nèi)容愈發(fā)便捷的另一面，是AI造假正變得易如反掌：成本更低、速度更快、質(zhì)量更高、識(shí)別更難，讓人感慨“有圖有真相”的時(shí)代已日漸遠(yuǎn)去。

當(dāng)AI偽造的信息越積越多，善意的傳遞成本也會(huì)水漲船高，最終沖破真實(shí)世界信任的圍欄。當(dāng)技術(shù)被濫用，成為侵犯他人權(quán)益、誤導(dǎo)公眾視聽的工具，擾亂救援大局、加劇心理創(chuàng)傷、動(dòng)搖社會(huì)信任，技術(shù)與法律的規(guī)制必須站出來，堅(jiān)決遏制AI合成虛假內(nèi)容的這場鬧劇。

應(yīng)對“魔高一尺”，還需“道高一丈”。AI造假與AI打假的對抗，猶如一場你追我趕的“貓鼠游戲”。隨著AI偽造技術(shù)不斷發(fā)展，“對抗技術(shù)”也必須不斷升級，追上生成技術(shù)的迭代速度。

以人的“善治”，促技術(shù)“善智”。法律依舊是打擊AI造假的有力武器。對于編造、傳播虛假災(zāi)情影像造成社會(huì)恐慌、阻礙救援等嚴(yán)重后果的行為，法律必須長出牙齒、形成威懾。平臺(tái)作為信息傳播的主陣地，也應(yīng)當(dāng)好“守門員”，嚴(yán)格準(zhǔn)入和監(jiān)看，對AI生成內(nèi)容做好篩查、標(biāo)記與提示。

對“AI偽造”說不，絕非小題大做。技術(shù)發(fā)展的初衷，是為人類造福，而不是任憑AI創(chuàng)造力的利刃，揮向人們的善意，侵蝕公共信任。在大模型時(shí)代，如果對AI偽造信息不加甄別地濫用，更將會(huì)污染作為模型“燃料”的信息海洋，最終反噬的只能是人類自己。只有把握好技術(shù)與倫理、發(fā)展與安全的關(guān)系，才能讓技術(shù)向善、服務(wù)于民。

編輯：褚孝鵬