新華社濟南9月28日電 題：莫讓謠言搭上AI“快車”
新華社記者邵魯文
近日，網(wǎng)上接連出現(xiàn)多起虛構(gòu)突發(fā)事件、編造公共政策、捏造社會民生領(lǐng)域謠言等案件，引發(fā)社會廣泛關(guān)注。多地公安機關(guān)通報顯示，一些不法分子為博眼球蹭熱度、吸粉引流，使用AI工具編造虛假信息誤導(dǎo)網(wǎng)民甚至引發(fā)公眾恐慌。
只需要簡單輸入和調(diào)整指令，AI工具就能批量生成謠言視頻，視聽兼具、圖文并茂。迅速迭代的AI技術(shù)正被某些不法分子利用，異化成制造傳播虛假信息的工具。部分不法分子還會通過多次優(yōu)化提示詞等手段弱化AI生成痕跡，使得迷惑性和誘導(dǎo)性更強。更為惡劣的是，一些謠言背后，已存在分工明確的灰色產(chǎn)業(yè)鏈。
造謠一張嘴，辟謠跑斷腿。技術(shù)越“好用”，就越需防止“濫用”、確保“善用”。技術(shù)創(chuàng)新的活水如果不能引向規(guī)范發(fā)展的河道，不僅沖擊社會信任的堤壩，還會擾亂正常經(jīng)濟發(fā)展環(huán)境和社會秩序。
防止AI造謠，源頭治理是關(guān)鍵。生成合成服務(wù)提供者要強化技術(shù)的安全性和合規(guī)性，在算法設(shè)計階段就應(yīng)嵌入倫理約束，管理好訓(xùn)練語料，做到清晰標識。互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺也要不斷升級審核體系，提高對深度偽造內(nèi)容的檢測精度，在借助AI治理謠言的同時，完善人工復(fù)核機制彌補算法短板。
謠言止于智者，更止于法治。9月1日起，《人工智能生成合成內(nèi)容標識辦法》施行。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定也已相繼出臺。下一步要繼續(xù)填補法律空白，與時俱進完善細化規(guī)范AI技術(shù)應(yīng)用的法律法規(guī)，加強法規(guī)執(zhí)行，為制作傳播生成合成內(nèi)容的相關(guān)主體劃定法律的紅線。
AI謠言的治理并非一日之功，要以技術(shù)制衡技術(shù)、以責(zé)任鎖住風(fēng)險。在信息生成到傳播的全鏈條中，包括大模型開發(fā)者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺、使用者等都應(yīng)各負其責(zé)。相關(guān)監(jiān)管部門應(yīng)在延續(xù)已有網(wǎng)絡(luò)虛假信息處理機制基礎(chǔ)上進行重點監(jiān)測。源頭嚴防、過程嚴管、違規(guī)嚴懲，才能有效消除AI謠言滋生的土壤。
編輯：譚鵬
