要分三個步驟

　　“AI謠言粉碎機(jī)”要怎么去判斷是否為謠言呢？李泉志說，分三步——

　　首先，該模型會找到最初的信息源，分析用戶畫像，包括：專業(yè)領(lǐng)域，此前傳播或轉(zhuǎn)發(fā)過什么，是個人還是機(jī)構(gòu)，注冊時間，活躍規(guī)律等，來判斷發(fā)布者是否“可靠”。最后根據(jù)不同態(tài)度的人群比例、各自的信譽(yù)度等信息，計算出此新聞的可信度。

　　第二步，尋找網(wǎng)上所有的信息源，看看鏈接的域名，是否來自可信網(wǎng)站，比如新華社、政府醫(yī)藥管理局等。

　　第三步，將正文里關(guān)鍵的論證提煉為知識點，與知識圖譜里的權(quán)威知識庫做匹配驗證。如果毫無聯(lián)系、自相矛盾，減分。

　　李泉志解釋，“AI謠言粉碎機(jī)”會考慮一部分人類的想法，更多的則是 AI的運(yùn)用。人工智能有很多人類比不了的地方，比如當(dāng)一個流言在社交網(wǎng)站上傳播很快的時候，我們很難去判斷真假，不知道誰接收到了，是出于什么原因轉(zhuǎn)發(fā)，不同的人對此的評價是什么，而這些AI可以做到。“假如來一個流言，人可以通過網(wǎng)站去查證，但是AI可以快速把科學(xué)研究、新聞拉出來，加上后臺知識庫的對比，做一個驗證。人腦中有基本判斷，但是沒有大型的知識庫。”李泉志說。

　　就拿“AI謠言粉碎機(jī)”的訓(xùn)練樣本來說，就要分至少兩個層面：首先拿底層的2億條信息，幾百萬條新聞，訓(xùn)練語言樣本；再將模型進(jìn)行謠言的真實性訓(xùn)練。“是一個復(fù)雜且費(fèi)時的過程。”李泉志表示。

　　誰制造謠言，論文是否抄襲

　　未來粉碎機(jī)還有更多功能

　　其實，要建這樣一個數(shù)據(jù)模型，并不容易。李泉志坦言，他在前一家公司就開始研究，到如今，也還需繼續(xù)完善。他們有一個小團(tuán)隊專門在研究這一技術(shù)，因為，總體來說這不是一個單獨(dú)能列出來的技術(shù)，是自然語言所有技術(shù)的綜合。

　　目前，該模型也并未應(yīng)用于阿里巴巴的任何業(yè)務(wù)中，李泉志坦言，數(shù)據(jù)模型需要不斷被“訓(xùn)練”，也需要得到社會的認(rèn)同，而這些，都不是短時間內(nèi)能解決的。

　　可以想象的是，“AI謠言粉碎機(jī)”未來將被應(yīng)用的多個場合。

　　比如，可以識別論文是否為抄襲，用技術(shù)從個人的寫作風(fēng)格、方法論、主題等多維度去判斷是否為抄襲。過去有人說某年輕作家后期的作品由人代筆，以后用AI就能分析得出結(jié)論。

　　另一方面，可以協(xié)助警方找到真正謠言的制造者。通過AI去追蹤傳播路徑，從傳播路徑中，將傳播分解，可以發(fā)現(xiàn)規(guī)律，比如傳播了哪些用戶，用戶是什么反應(yīng)，是簡單的轉(zhuǎn)發(fā)，還是贊成、反對，還是進(jìn)行了二次加工？

　　“當(dāng)然，該模型也還是需要更多的語言訓(xùn)練。比如有些用戶轉(zhuǎn)發(fā)時，說的是反話、諷刺，有些是隱喻，不知是否是真實的情緒表達(dá)，這些作為機(jī)器很難對此做出判斷，但是通過大量的訓(xùn)練，是可以實現(xiàn)的。”李泉志表示，他和團(tuán)隊會繼續(xù)研究該模型。（朱銀玲）

【糾錯】

責(zé)任編輯： 邱麗芳