在過去的幾年中,與假新聞作斗爭已成為一個日益嚴重的問題,這是乞求一種涉及人工智能的解決方案的問題。幾乎不可能驗證新聞網站,視頻流服務,博客,社交媒體等上正在生成的幾乎無限量的內容
一直在推動使用機器學習來管理在線內容,但是這些努力僅在找到垃圾郵件和刪除成人內容以及在較小程度上檢測到仇恨言論方面取得了一定的成功。打擊假新聞是一個更為復雜的挑戰(zhàn)。事實檢查網站,例如Snopes,F(xiàn)actCheck.org和PolitiFact,在公正地核實政客的謠言,新聞和言論方面做得不錯。但是他們的影響力有限。
期望當前的人工智能技術完全自動化打擊假新聞的行為是不合理的。但是希望深度學習的使用可以幫助使偽造新聞檢測管道的某些步驟自動化,并增強人類事實檢查人員的功能。
在2019年NeurIPS AI會議上發(fā)表的一篇論文中,DarwinAI和加拿大滑鐵盧大學的研究人員介紹了一種AI系統(tǒng),該系統(tǒng)使用先進的語言模型來自動進行姿態(tài)檢測,這是識別虛假信息的重要的第一步。
自動化的假新聞檢測管道
在創(chuàng)建可以抵抗虛假新聞的AI系統(tǒng)之前,我們必須首先了解驗證索賠真實性的要求。AI研究人員在論文中將過程分為以下幾個步驟:
檢索與索賠有關的文件
檢測這些文件相對于索賠的立場或立場
根據(jù)文檔的來源和語言質量計算該文檔的聲譽得分
根據(jù)從相關文件中獲得的信息驗證索賠