“華山醫(yī)院前院長(zhǎng)張明遠(yuǎn)，因闌尾炎未得到及時(shí)救治，客死他鄉(xiāng)醫(yī)院走廊長(zhǎng)椅。”
“悼念！當(dāng)‘醫(yī)療泰斗’倒在異國(guó)急診室，我才讀懂中國(guó)醫(yī)生的‘生死時(shí)速’！”
……
今年3月初，“華山醫(yī)院前院長(zhǎng)”的故事在互聯(lián)網(wǎng)廣泛傳播。然而經(jīng)警方核查，華山醫(yī)院沒(méi)有名為“張明遠(yuǎn)”的前院長(zhǎng)，也沒(méi)有同名員工。上海公安網(wǎng)安部門開(kāi)展調(diào)查，成功偵破這起利用AI造謠案，抓獲犯罪嫌疑人王某某、郭某某、石某某。
自2025年2月起，犯罪嫌疑人王某某等3人成立了工作室，通過(guò)自媒體賬號(hào)發(fā)文吸粉引流牟利。他們控制500余個(gè)自媒體賬號(hào)，設(shè)置社會(huì)熱點(diǎn)、明星緋聞、爆款推薦等關(guān)鍵詞，引導(dǎo)AI軟件自動(dòng)生成并發(fā)布不實(shí)帖文30余萬(wàn)條，造成惡劣社會(huì)影響。截至案發(fā)，非法牟利共計(jì)4萬(wàn)余元。
目前，王某某等3人因涉嫌非法利用信息網(wǎng)絡(luò)罪，被上海警方依法采取刑事強(qiáng)制措施，相關(guān)違法賬號(hào)被依法封禁。
今年以來(lái)，上海公安機(jī)關(guān)全力開(kāi)展打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)，嚴(yán)厲打擊“造熱點(diǎn)”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。
截至目前，破獲網(wǎng)絡(luò)水軍案件15起，抓獲38名違法犯罪嫌疑人。據(jù)新民晚報(bào)報(bào)道，4月22日上午，記者在看守所見(jiàn)到了犯罪嫌疑人王某某。以下是他的口述。
“發(fā)布內(nèi)容前我不知道有華山醫(yī)院”
問(wèn)：“張明遠(yuǎn)”的故事是怎么生成的？
答：“張明遠(yuǎn)”是AI生成的。
今年2月，我們開(kāi)始用AI軟件批量生產(chǎn)虛假信息。我們找到了一個(gè)網(wǎng)絡(luò)平臺(tái)上的App，這是我們的素材庫(kù)，按照不同領(lǐng)域、“閱讀量top”、發(fā)布時(shí)間等，批量采集爆款內(nèi)容。隨后用AI軟件批量改寫，予以發(fā)布。
“張明遠(yuǎn)”的故事就是這樣生成的。在此之前，我們根本不知道上海有一家華山醫(yī)院。我也不知道“張明遠(yuǎn)”這個(gè)人。其實(shí)我已經(jīng)記不清原文了，都是批量采集生成的。
我們要求AI“第一句話要吸引人”
問(wèn)：采集、發(fā)布內(nèi)容一般是怎樣的流程？如何獲利？
答：我們會(huì)采集“閱讀top”內(nèi)容，因?yàn)檫@些內(nèi)容本身就是爆款。用AI批量改寫時(shí)，我們會(huì)給AI一些提示詞，比如“以原文實(shí)際情況為基礎(chǔ)，中心思想不變”，比如“第一句話要吸引人”等，因?yàn)檫@樣才能吸引更多點(diǎn)擊量。AI軟件有聯(lián)網(wǎng)版，我們也會(huì)讓它聯(lián)網(wǎng)搜索相關(guān)信息后，再進(jìn)行整合。
我們采集的都是短資訊，約200-300字，發(fā)布的也是這樣的內(nèi)容。我們?nèi)齻€(gè)人有4個(gè)“大號(hào)”，還有 500多個(gè)“小號(hào)”。“大號(hào)”可以添加“小號(hào)”作為子賬號(hào)，子賬號(hào)獲得的收益可以流轉(zhuǎn)到母賬號(hào)，每個(gè)月可以提現(xiàn)獲益。
問(wèn)：對(duì)你來(lái)說(shuō)“流量就是收入”嗎？
答：是的。我們?nèi)齻€(gè)人，每天發(fā)布1萬(wàn)條帖文，內(nèi)容基本不一樣，閱讀量不等。有的幾萬(wàn)次閱讀量，最高的一條能有十幾萬(wàn)次。一萬(wàn)次閱讀量，大約就有5元收益。
“某女明星去世時(shí)我們因?yàn)樵熘{被平臺(tái)處罰”
問(wèn)：你覺(jué)得有哪些內(nèi)容比較吸睛？
答：八卦類的內(nèi)容，比如明星八卦，社會(huì)八卦。還有涉及職場(chǎng)、科技、養(yǎng)老、國(guó)際、教育、醫(yī)療等內(nèi)容，都比較吸睛。像“醫(yī)院”這條，現(xiàn)在想來(lái)，可能涉及職場(chǎng)、養(yǎng)老等領(lǐng)域的重疊，所以獲得了不小的流量。
問(wèn)：之前用AI生成發(fā)布謠言，你們有被處罰過(guò)嗎？
答：我們被平臺(tái)扣過(guò)分。前陣子，某知名女明星剛?cè)ナ罆r(shí)，關(guān)于孩子撫養(yǎng)權(quán)的問(wèn)題，我們也用AI編造過(guò)內(nèi)容。被平臺(tái)發(fā)現(xiàn)后，出現(xiàn)了提示，并且扣了分。“已過(guò)時(shí)效”“標(biāo)題黨”“謠言”等都會(huì)被平臺(tái)處罰，但我們還是有僥幸心理。其實(shí)，相對(duì)我們生成的大量?jī)?nèi)容來(lái)說(shuō)，我們被平臺(tái)處罰的概率很低。
“很后悔，沒(méi)掙到什么錢，但帶來(lái)很大麻煩”
問(wèn)：你現(xiàn)在覺(jué)得獲得流量應(yīng)該有底線嗎？
答：應(yīng)該有底線，不應(yīng)該胡編亂造或者夸大其詞，不應(yīng)該編造發(fā)布虛假信息。我們現(xiàn)在認(rèn)識(shí)到了做得不足的地方，沒(méi)有把握好尺度，也沒(méi)有好好審核。
問(wèn)：對(duì)你的所作所為，有什么反思嗎？
答：經(jīng)過(guò)警方的教育，我們知道自己錯(cuò)在哪里，也感到非常后悔。其實(shí)做這個(gè)事沒(méi)有掙到什么錢，但卻要被法律嚴(yán)懲，還被警方刑事拘留了。
警方解讀：“毒流量”是對(duì)網(wǎng)絡(luò)環(huán)境的劣化
這一團(tuán)伙造謠的目的是什么？在網(wǎng)安總隊(duì)三隊(duì)隊(duì)長(zhǎng)符斌看來(lái)，這一行為主要是為了“養(yǎng)號(hào)”漲粉，以便后續(xù)直播帶貨等牟利。
“這是常見(jiàn)‘流量經(jīng)濟(jì)’劣化的表現(xiàn)形式。”符斌說(shuō)，正常賬號(hào)吸粉、漲粉，都需要時(shí)間精力的投入，而此案通過(guò)AI編造大量不實(shí)、虛假、有害的劣質(zhì)信息，這是“AI的幻覺(jué)”，是“毒流量”，也是對(duì)網(wǎng)絡(luò)環(huán)境的一種劣化。
據(jù)悉，目前上海公安機(jī)關(guān)和頭部平臺(tái)建立了暢通的工作聯(lián)動(dòng)機(jī)制，通過(guò)案件管理合作，及時(shí)通報(bào)掌握的問(wèn)題。“我們始終認(rèn)為，算法必須向善，不能流量至上。”符斌表示。
今年以來(lái)，上海公安機(jī)關(guān)全力開(kāi)展打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)，按照“以打開(kāi)路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級(jí)懲治涉謠賬號(hào)，嚴(yán)厲打擊“造熱點(diǎn)”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。
上海警方將堅(jiān)決依法嚴(yán)厲打擊，持續(xù)加強(qiáng)網(wǎng)絡(luò)生態(tài)治理，全力營(yíng)造清朗有序的網(wǎng)絡(luò)環(huán)境。
責(zé)任編輯：榮瀟
