1月7日9時(shí)5分，西藏定日縣發(fā)生6.8級(jí)地震，災(zāi)情牽動(dòng)人心，但與此同時(shí)，一些疑似虛假信息，比如AI制造的圖片，正在造成廣泛誤導(dǎo)。據(jù)媒體報(bào)道，一個(gè)戴帽子的小孩被重壓在倒塌的建筑物下的圖片，在某短視頻平臺(tái)上，有10個(gè)以上的賬號(hào)發(fā)布，并和西藏日喀則地震關(guān)聯(lián)，有些甚至獲得好幾萬(wàn)的轉(zhuǎn)評(píng)贊。

經(jīng)查證，該圖片為AI工具創(chuàng)作，原作品發(fā)布于數(shù)月前，原始作者在短視頻中聲明了“為AI生成”。但在西藏地震之后，這一圖片被不加標(biāo)注地大肆傳播，引起了普遍誤解和誤讀。

災(zāi)難發(fā)生后，除救災(zāi)外，及時(shí)發(fā)布準(zhǔn)確信息并辟謠也是重要一環(huán)，虛假信息的泛濫，可能會(huì)直接影響救災(zāi)資源分配。此事件提醒人們，AI技術(shù)及其產(chǎn)品泛濫，已經(jīng)入侵災(zāi)后信息領(lǐng)域，即使原作者已經(jīng)標(biāo)明AI生成，轉(zhuǎn)發(fā)者并無(wú)惡意，但其產(chǎn)生的影響客觀存在。對(duì)此，應(yīng)當(dāng)嚴(yán)格規(guī)范AI作品標(biāo)識(shí)，同時(shí)重視AI生成信息在災(zāi)后等場(chǎng)景下可能導(dǎo)致的問(wèn)題，防范和懲戒利用AI技術(shù)編造謠言等行為。

伴隨著互聯(lián)網(wǎng)科技的飛速發(fā)展，虛擬的AI技術(shù)變得越來(lái)越“現(xiàn)實(shí)”：只要提供素材和簡(jiǎn)單描述，AI技術(shù)就能實(shí)現(xiàn)“文生圖”或“圖配文”。前者只需提供文字，就能自動(dòng)生成相對(duì)應(yīng)的圖片；后者則會(huì)根據(jù)圖片內(nèi)容，自動(dòng)匹配相應(yīng)的文字。有了AI技術(shù)的加持，網(wǎng)絡(luò)謠言的隱蔽性更強(qiáng)，破壞性更大。AI不僅能在短期內(nèi)批量生成大量網(wǎng)絡(luò)謠言，而且能結(jié)合深度偽造技術(shù)生成圖片、視頻、錄音，使人很難辨別真?zhèn)巍?/p>

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》指出，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》明確規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德。

去年12月11日，公安部公布依法打擊“網(wǎng)絡(luò)水軍”違法犯罪10起典型案例，其中多起涉及“利用人工智能工具編造謠言信息并批量發(fā)布”。在嚴(yán)厲打擊AI謠言的同時(shí)，網(wǎng)絡(luò)平臺(tái)也有必要承擔(dān)起主體責(zé)任，積極構(gòu)建防控網(wǎng)絡(luò)謠言的技術(shù)屏障。

在此事件中，有媒體記者進(jìn)行了測(cè)試，在某AI智能生成軟件中輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞，軟件在未給予任何侵權(quán)、違規(guī)、虛假信息等干預(yù)提示下，自動(dòng)生成了多張相關(guān)圖片。與此同時(shí)，在平臺(tái)上，相關(guān)視頻也可順利發(fā)出，約一小時(shí)后，平臺(tái)才對(duì)視頻內(nèi)容進(jìn)行備注“疑似使用AI生成技術(shù)”。這種粗放式管理，使AI智能生成軟件幾乎對(duì)網(wǎng)絡(luò)謠言“不設(shè)防”，而后知后覺(jué)的內(nèi)容平臺(tái)監(jiān)管，也很容易使AI謠言迅速失控。

要扭轉(zhuǎn)這樣的局面，有必要盡快明確針對(duì)AI應(yīng)用的行業(yè)規(guī)范，為維護(hù)公共利益構(gòu)筑起強(qiáng)大的防火墻。對(duì)于AI生成軟件來(lái)說(shuō)，應(yīng)對(duì)內(nèi)容和關(guān)鍵詞進(jìn)行審核，把好生成式內(nèi)容的第一關(guān)，避免嘩眾取寵的虛假內(nèi)容混淆視聽(tīng)。對(duì)于內(nèi)容平臺(tái)來(lái)說(shuō)，不僅應(yīng)對(duì)AI生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，而且應(yīng)健全內(nèi)部管理機(jī)制，及時(shí)清除涉嫌違法違規(guī)的不良賬號(hào)。只有強(qiáng)化各方的主體責(zé)任，才能有效打擊各類AI謠言，防止技術(shù)跑偏和濫用。（趙志疆）