AI工具是把雙刃劍，技術(shù)不應(yīng)為謠言推波助瀾

1月10日，公安部網(wǎng)安局發(fā)布消息，青海某網(wǎng)民為博取眼球，將“小男孩被埋圖”與日喀則地震相關(guān)的信息進(jìn)行關(guān)聯(lián)拼湊、移花接木，混淆視聽(tīng)、誤導(dǎo)群眾，致使謠言信息傳播擴(kuò)散。目前，涉案人員已被屬地公安機(jī)關(guān)依法行政拘留。近年來(lái)AI創(chuàng)作越來(lái)越多的出現(xiàn)在各網(wǎng)絡(luò)平臺(tái)，但是以此制造災(zāi)害性事件的假新聞，造成惡劣印象，可能尚屬首次。

西藏定日縣發(fā)生6.8級(jí)地震后，牽動(dòng)全國(guó)人民的心，一系列“小男孩被埋圖”廣泛傳播，引發(fā)大量關(guān)注。筆者了解到，由于圖片存在明顯AI生成痕跡，公安機(jī)關(guān)迅速開(kāi)展核查。原來(lái)，圖片原作者發(fā)布時(shí)并未關(guān)聯(lián)地震，而另一位網(wǎng)友為博取眼球，將圖片移花接木，致使謠言信息傳播擴(kuò)散。

根據(jù)《中華人民共和國(guó)刑法》第二百九十一條之一第二款規(guī)定，編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

有人認(rèn)為，目前的AI圖片還不足以亂真，但筆者認(rèn)為，謠言哪怕有一分真，就可能造成百分之九十九的麻煩。首先，在尚未明確調(diào)查結(jié)果的情況下，救援人員可能會(huì)根據(jù)圖片進(jìn)行排查核實(shí)。公安部門(mén)也一定會(huì)對(duì)圖片來(lái)源進(jìn)行調(diào)查，尤其涉及災(zāi)害、險(xiǎn)情等情況，在證實(shí)為謠言之前，相關(guān)部門(mén)都會(huì)不懈工作以排除更多可能性，將浪費(fèi)大量的公共資源。其次，從宏觀角度來(lái)看網(wǎng)友群體的辨別意識(shí)不一，總有人會(huì)相信這些圖片的真實(shí)性，從而引起強(qiáng)烈反響，被誤導(dǎo)并欺騙感情。再次，大量此類圖片傳播，有損網(wǎng)絡(luò)平臺(tái)公信力，讓人對(duì)消息難辨真?zhèn)�，從而常帶戒備之心�?/span>

未來(lái)AI工具肯定會(huì)越來(lái)越智能，總有一天可能產(chǎn)生肉眼無(wú)法辨別真?zhèn)蔚膱D片、視頻，其初衷雖然是幫助我們進(jìn)行內(nèi)容生產(chǎn)，但是如果使用不當(dāng)，也會(huì)帶來(lái)更大負(fù)面效果。這一法律事件很好地為使用這一工具敲響警鐘，刑法中的編造虛假恐怖信息罪既是行為犯，也是結(jié)果犯，有的人可能隨意分享在私域的群或者朋友圈，被截圖轉(zhuǎn)發(fā)，造成嚴(yán)重后果的，一樣要承擔(dān)相應(yīng)責(zé)任。

筆者認(rèn)為，居心叵測(cè)之人難防，但AI生成工具應(yīng)該負(fù)起相關(guān)責(zé)任，在一些涉及災(zāi)害、突發(fā)事件的內(nèi)容素材上，平臺(tái)審核更加嚴(yán)謹(jǐn)，AI生成的說(shuō)明更加醒目，同時(shí)在使用工具的相關(guān)條款上也應(yīng)警示圖片使用的法律風(fēng)險(xiǎn)，從根源上起到把關(guān)作用。