如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問(wèn)題。

當(dāng)前，甄別和控制網(wǎng)絡(luò)虛假信息傳播已經(jīng)成為一個(gè)世界性話題。虛假信息不僅令我國(guó)網(wǎng)絡(luò)空間深受其擾，一些西方國(guó)家也日益意識(shí)到它的危害。去年美國(guó)大選中，不同利益集團(tuán)相互指責(zé)和控訴對(duì)方制造和傳播虛假信息，吃相難看，顏面盡失。

虛假信息及低俗內(nèi)容，在互聯(lián)網(wǎng)環(huán)境中跨地域大規(guī)?？焖賯鞑サ默F(xiàn)象，主要出現(xiàn)在擁有海量用戶的互聯(lián)網(wǎng)應(yīng)用平臺(tái)產(chǎn)生以后。每個(gè)用戶都可以在這個(gè)平臺(tái)上發(fā)布信息，并在平臺(tái)內(nèi)部和平臺(tái)之間快速傳播信息。在一定的利益動(dòng)機(jī)和社會(huì)心理機(jī)制作用下，一些平臺(tái)用戶試圖發(fā)布虛假信息及低俗內(nèi)容謀取各種利益。由于這類信息和內(nèi)容往往流傳甚快甚廣，使得社會(huì)原有的甄別及防范機(jī)制難以及時(shí)做出反應(yīng)。

對(duì)于這一新問(wèn)題，有多種解決思路。比較傳統(tǒng)的方法，諸如提高公眾傳播素養(yǎng)，更多發(fā)揮傳統(tǒng)媒體把關(guān)功能，加大對(duì)虛假信息及低俗內(nèi)容發(fā)布者的處罰力度，加重平臺(tái)責(zé)任等。

然而，一些業(yè)界人士擔(dān)心人工智能無(wú)法處理復(fù)雜的價(jià)值判斷問(wèn)題，也有互聯(lián)網(wǎng)人士認(rèn)為算法沒(méi)有價(jià)值觀。其實(shí)，人工智能的算法本身就是根據(jù)特定領(lǐng)域的規(guī)律和規(guī)則制定的，在這些規(guī)律和規(guī)則中，就蘊(yùn)含著價(jià)值選擇與判斷。在確立模型并不斷學(xué)習(xí)之后，執(zhí)行算法的機(jī)器完全能夠具有超越人腦的能力，這在不久前圍棋的人機(jī)大戰(zhàn)中已經(jīng)得以驗(yàn)證?；ヂ?lián)網(wǎng)企業(yè)的反應(yīng)，卻是更多地借助技術(shù)手段。如臉譜推出“事實(shí)核查工具”，邀請(qǐng)用戶通過(guò)下拉菜單將他們看到的可疑新聞報(bào)道在該平臺(tái)上進(jìn)行標(biāo)記。第三方事實(shí)核查人員隨后分析標(biāo)出的報(bào)道，并判定其為真實(shí)報(bào)道還是虛假新聞；谷歌(微博)新聞實(shí)驗(yàn)室發(fā)起成立了一個(gè)名為“FDN”的新聞學(xué)術(shù)和技術(shù)聯(lián)盟，研究方向主要是社交媒體新聞的原創(chuàng)判斷和真實(shí)性認(rèn)證。我國(guó)的互聯(lián)網(wǎng)平臺(tái)也作出了多方努力。例如，北京字節(jié)跳動(dòng)科技公司在“今日頭條”平臺(tái)上，依靠人工智能技術(shù)，模仿人腦機(jī)制，對(duì)低俗圖片的攔截率較之前純?nèi)斯r截提高了73.71%；針對(duì)“標(biāo)題黨”現(xiàn)象，一些網(wǎng)站構(gòu)建了“人工+機(jī)器”的模式構(gòu)建防火墻，對(duì)敏感詞、標(biāo)題黨和虛假信息進(jìn)行技術(shù)性攔截。

如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當(dāng)前業(yè)界和學(xué)界要重點(diǎn)研究的問(wèn)題。

首先，我們需要更全面地梳理和分析產(chǎn)生虛假和低俗內(nèi)容的利益結(jié)構(gòu)和動(dòng)機(jī)，分析各類利益主體制造和傳播虛假及低俗內(nèi)容的行為特點(diǎn)，如謀求政治利益和謀求經(jīng)濟(jì)利益的行為主體，在制造和傳播虛假及低俗內(nèi)容的行為方面有哪些異同。通過(guò)這些分析，為建立模型提供依據(jù)。

其次，可以通過(guò)對(duì)網(wǎng)絡(luò)平臺(tái)上虛假及低俗內(nèi)容傳播者生產(chǎn)的內(nèi)容進(jìn)行文本分析，對(duì)其傳播行為進(jìn)行跟蹤研究，以掌握其心理特征及行為特征，支持識(shí)別模型的構(gòu)建。

此外，還可以通過(guò)對(duì)人們網(wǎng)絡(luò)信息接收和接受的心理特征及行為的分析，建立模型，探索如何通過(guò)算法干預(yù)這一過(guò)程，阻斷虛假及低俗內(nèi)容的傳播，減低其傳播效果。