2025年1月7日9時5分，西藏定日縣發(fā)生6.8級地震，災(zāi)情牽動人心，但與此同時，一些疑似虛假信息，比如AI制造的圖片，正造成廣泛誤導(dǎo)。據(jù)媒體報道，一個戴帽子的小孩被重壓在倒塌的建筑物下的圖片，在某短視頻平臺上，有10個以上的賬號發(fā)布，并和西藏日喀則地震關(guān)聯(lián)，有些甚至獲得好幾萬的轉(zhuǎn)評贊。

經(jīng)查證，該圖片為AI工具創(chuàng)作，原作品發(fā)布于數(shù)月前，原始作者在短視頻中聲明了“為AI生成”。但在西藏地震之后，這一圖片被不加標(biāo)注地大肆傳播，引起了普遍誤解和誤讀。

災(zāi)難發(fā)生后，除救災(zāi)外，及時發(fā)布準(zhǔn)確信息并辟謠也是重要一環(huán)，虛假信息的泛濫，可能會直接影響救災(zāi)資源分配。此事件提醒人們，AI技術(shù)及其產(chǎn)品泛濫，已經(jīng)入侵災(zāi)后信息領(lǐng)域，即使原作者已經(jīng)標(biāo)明AI生成，轉(zhuǎn)發(fā)者并無惡意，但其產(chǎn)生的影響客觀存在。對此，應(yīng)當(dāng)嚴(yán)格規(guī)范AI作品標(biāo)識，同時重視AI生成信息在災(zāi)后等場景下可能導(dǎo)致的問題，防范和懲戒利用AI技術(shù)編造謠言等行為。

伴隨著互聯(lián)網(wǎng)科技的飛速發(fā)展，虛擬的AI技術(shù)變得越來越“現(xiàn)實”：只要提供素材和簡單描述，AI技術(shù)就能實現(xiàn)“文生圖”或“圖配文”。前者只需提供文字，就能自動生成相對應(yīng)的圖片；后者則會根據(jù)圖片內(nèi)容，自動匹配相應(yīng)的文字。有了AI技術(shù)的加持，網(wǎng)絡(luò)謠言的隱蔽性更強，破壞性更大。AI不僅能在短期內(nèi)批量生成大量網(wǎng)絡(luò)謠言，而且能結(jié)合深度偽造技術(shù)生成圖片、視頻、錄音，使人很難辨別真?zhèn)巍?/p>

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》指出，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動。《生成式人工智能服務(wù)管理暫行辦法》明確規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德。

2024年12月11日，公安部公布依法打擊“網(wǎng)絡(luò)水軍”違法犯罪10起典型案例，其中多起涉及“利用人工智能工具編造謠言信息并批量發(fā)布”。在嚴(yán)厲打擊AI謠言的同時，網(wǎng)絡(luò)平臺也有必要承擔(dān)起主體責(zé)任，積極構(gòu)建防控網(wǎng)絡(luò)謠言的技術(shù)屏障。

在此事件中，有媒體記者進行了測試，在某AI智能生成軟件中輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞，軟件在未給予任何侵權(quán)、違規(guī)、虛假信息等干預(yù)提示下，自動生成了多張相關(guān)圖片。與此同時，在平臺上，相關(guān)視頻也可順利發(fā)出，約一小時后，平臺才對視頻內(nèi)容進行備注“疑似使用AI生成技術(shù)”。這種粗放式管理，使AI智能生成軟件幾乎對網(wǎng)絡(luò)謠言“不設(shè)防”，而后知后覺的內(nèi)容平臺監(jiān)管，也很容易使AI謠言迅速失控。

要扭轉(zhuǎn)這樣的局面，有必要盡快明確針對AI應(yīng)用的行業(yè)規(guī)范，為維護公共利益構(gòu)筑起強大的防火墻。對于AI生成軟件來說，應(yīng)對內(nèi)容和關(guān)鍵詞進行審核，把好生成式內(nèi)容的第一關(guān)，避免嘩眾取寵的虛假內(nèi)容混淆視聽。對于內(nèi)容平臺來說，不僅應(yīng)對AI生成內(nèi)容進行顯著標(biāo)識，而且應(yīng)健全內(nèi)部管理機制，及時清除涉嫌違法違規(guī)的不良賬號。只有強化各方的主體責(zé)任，才能有效打擊各類AI謠言，防止技術(shù)跑偏和濫用。（趙志疆）