大多數人都認為網路上錯誤訊息的傳播是一個嚴重的問題。但對於如何應對這一問題，人們的共識卻少得多。

許多提出的解決方案都集中在如何社群媒體平台可以或應該審核用戶發布的內容，以防止誤傳從傳播。

「但這種方法將關鍵的社會決策交給了營利性公司。它限制了用戶決定他們信任誰的能力。而且讓平台負責並不能對抗用戶從其他在線來源遇到的錯誤信息，」說Farnaz Jahanbakhsh SM '21，博士'23，目前是史丹佛大學的博士後。

她和麻省理工學院教授大衛·卡格提出了另一種策略。他們建立了一個網頁瀏覽器擴充程序，使個人能夠標記錯誤訊息並識別他們信任的其他人來評估線上內容。

他們的去中心化方法被稱為 Trustnet 瀏覽器擴展，將決定什麼構成錯誤訊息的權力交給了個人使用者而不是中央機構。重要的是，通用瀏覽器擴充功能適用於任何網站上的任何內容，包括社群媒體網站上的貼文、新聞聚合器上的文章以及串流平台上的影片。

透過為期兩週的研究，研究人員發現未經訓練的個人可以使用該工具有效評估錯誤訊息。參與者表示，能夠評估內容並查看他們信任的其他人的評估，有助於他們批判性地思考內容。

「在當今世界，不良行為者製造無限量的錯誤訊息是微不足道的，這些資訊看起來準確、來源良好且經過仔細論證。保護我們自己免受這場洪水影響的唯一方法是依賴經過可靠來源驗證的資訊Trustnet 展現了未來的願景。

賈漢巴赫什 (Jahanbakhsh) 在還是一名電機工程麻省理工學院計算機科學 (EECS) 研究生和 EECS 教授兼計算機科學和人工智能實驗室 (CSAIL) 成員 Karger 在本週於 ACM 人為因素會議上發表的一篇論文中詳細介紹了他們的發現計算系統（氣2024）。這研究也可在arXiv預印本伺服器。

打擊錯誤訊息

這篇新論文建立在他們的之前的工作關於打擊網上錯誤訊息。研究人員建立了一個名為 Trustnet 的社交媒體平台，該平台使用戶能夠評估內容的準確性並指定他們想要查看其評估的可信任用戶。

但在現實世界中，很少有人會遷移到新的社群媒體平台，尤其是當他們已經在其他平台上擁有朋友和追蹤者時。另一方面，呼籲社群媒體公司為用戶提供內容評估能力將是一場艱苦的戰鬥，可能需要立法。即使存在法規，它們也無助於阻止網路其他地方的錯誤訊息。

相反，研究人員尋求一種與平台無關的解決方案，這促使他們建立了 Trustnet 瀏覽器擴充功能。

擴充功能使用者點擊一個按鈕來評估內容，這將打開一個側面板，他們可以在其中將其標記為準確、不準確或質疑其準確性。他們可以在隨附的文字框中提供詳細資訊或解釋其理由。

用戶還可以識別他們信任的其他人來提供評估。然後，當使用者造訪包含這些可信任來源的評估的網站時，側面板會自動彈出以顯示它們。

此外，使用者可以選擇關注他們信任的評估者之外的其他人。他們可以選擇根據具體情況查看他們所關注的人的內容評估。他們還可以使用側面板來回答有關內容準確性的問題。

「但是我們在網路上遇到的大多數內容都嵌入在社交媒體源中或顯示為聚合器頁面上的鏈接，例如新聞網站的首頁。此外，我們從之前的工作中了解到，用戶通常不會」他們分享鏈接時甚至不點擊鏈接，」Jahanbakhsh 說。

為了解決這些問題，研究人員設計了 Trustnet 擴充功能來檢查使用者正在閱讀的頁面上的所有連結。如果受信任的來源評估了任何連結頁面上的內容，則擴充功能會在這些連結旁邊放置指示器，並將淡入被認為不準確的內容的連結文字。

研究人員面臨的最大技術挑戰之一是啟用連結檢查功能，因為連結通常會經過多次重定向。他們也面臨做出適合各種使用者的設計決策的挑戰。

不同的評估

為了了解人們如何利用 Trustnet Extension，他們進行了為期兩週的研究，其中 32 個人的任務是每天評估兩段。

研究人員驚訝地發現，這些未經訓練的使用者選擇評估的內容（例如家居裝修技巧或名人八卦）通常與專業人士評估的內容（例如新聞文章）不同。使用者也表示，他們會重視非專業事實查核人員的評估，例如讓醫生評估醫療內容或移民評估與外交事務相關的內容。

「我認為這表明用戶需要什麼以及他們認為需要評估的內容類型與正在向他們提供的內容並不完全一致。去中心化的方法更具可擴展性，因此可以評估更多內容，」Jahanbakhsh 說。

然而，研究人員警告說，讓使用者選擇信任的人可能會導致他們陷入自己的泡沫中，只能看到與他們觀點一致的內容。

這個問題可以透過以更結構化的方式識別信任關係來緩解，也許可以建議使用者遵循某些值得信賴的評估機構，例如 FDA。

未來，賈漢巴赫什希望進一步研究結構化信任關係以及去中心化打擊錯誤訊息的更廣泛影響。她還希望將這個框架擴展到錯誤訊息之外。例如，人們可以使用該工具過濾掉不支持某一受保護群體的內容。

「人們對去中心化方法的關注較少，因為有些人認為個人無法評估內容，」她說。「我們的研究表明事實並非如此。但是使用者不應該只是無助地自己解決問題。我們可以為他們提供事實核查，但方式是讓他們選擇他們想要看到的內容。

這個故事由麻省理工學院新聞轉載（web.mit.edu/新聞辦公室/），一個熱門網站，涵蓋有關麻省理工學院研究、創新和教學的新聞。