近日，公安部公布近期打擊整治網(wǎng)絡謠言10起典型案例，其中4起涉及使用人工智能工具生成和傳播謠言。這些涉“AI造謠”案件中，“廣州限制外賣配送”謠言案尤為典型。

2023年12月19日，有網(wǎng)民在今日頭條平臺發(fā)布“廣州即將成為全國首個限制外賣配送的城市”，迅速引發(fā)關注形成網(wǎng)絡熱搜。經(jīng)查，四川德陽網(wǎng)民楊某組織招攬廣東江門網(wǎng)民葉某英等多名兼職人員，使用人工智能工具批量生成不實文章引流牟利。最終，涉案6人被采取刑事強制措施。其余3起案件中，涉案人均被處以行政處罰。這些案件顯示，伴隨AI技術(shù)的迅猛發(fā)展，“AI造謠”的情況日益增多，對此進行治理已經(jīng)刻不容緩。

在自媒體時代，一些自媒體從業(yè)人員為了攫取利潤盲目追逐流量，當流量誘惑達到一定程度時，他們不惜冒各種風險甚至違法犯罪，其中最普遍的一種就是網(wǎng)絡造假傳謠。而AI技術(shù)在近兩年發(fā)展很快，大大降低了使用門檻，同時因為其更“善解人意”“以假亂真”，很快被派上了用場。

技術(shù)是中性的，本身并不能分辨善惡。一種新技術(shù)出現(xiàn)既可以為善，也可以助惡。一旦某種技術(shù)可能用于為惡，最終就會有人這么做，這也符合“墨菲定律”。當無底線追逐流量的自媒體盯上新興的AI技術(shù)，結(jié)果便是為追逐流量造假變得更容易，造假效果更強，造成的損失也更大。

“廣州限制外賣配送”就屬于此種情況。當造謠者為吸引眼球編造謠言，幾乎無需成本，使用人工智能工具就可以批量生成不實文章引流牟利，這種幾乎沒有成本的謠言造成的后果，可能對一個巨大體量的行業(yè)造成沖擊，讓這個行業(yè)上下游所涉及的人都會受到直接或間接的影響。

當前，作為一種新型謠言傳播方式與犯罪手段，“AI造謠”擾亂了輿論秩序，也危害經(jīng)濟和社會平穩(wěn)運行。不過，現(xiàn)階段治理“AI造謠”也存在不少司法層面和社會治理層面的難點、堵點，其中較為突出的是“AI造謠”的“定性難”“入罪難”問題。相較于之前的網(wǎng)絡謠言違法行為，“AI造謠”成本低、門檻低、傳播廣、獲利小、破壞大，對正常經(jīng)濟和社會秩序有較強的危害性，但目前“多為行政處罰、刑事處罰較少”的治理力度，客觀上難以形成有力震懾，進而縱容相關“黑灰產(chǎn)”野蠻擴張。

針對這一局面，相關部門已經(jīng)有所回應。2023年9月，最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關于依法懲治網(wǎng)絡暴力違法犯罪的指導意見》指出，對實施網(wǎng)絡暴力違法犯罪者利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息，將依法從重處罰。此次廣東警方對“廣州限制外賣配送”謠言案中涉案人采取刑事強制措施，也體現(xiàn)了對“AI造謠”的堅決整治態(tài)度，或?qū)⒊蔀榇驌糁卫怼癆I造謠”的樣板案例。（經(jīng)濟日報 賈安平）

責任編輯/王學義