隨著網路的使用成為我們日常生活中不可或缺的一部分，許多人依賴各種線上資源來獲取資訊。雖然網路提供了更大的便利性和更廣泛的新聞來源，但虛假資訊的傳播已成為本世紀最大的挑戰之一，而產生人工智慧的興起加劇了這一挑戰。虛假訊息的傳播——無論是以錯誤訊息、虛假訊息和惡意訊息(MDM) 的形式——可能會導致個人和組織做出有害的決定，並已被證明會在關鍵和有爭議的問題上造成社會分歧。

由藝術與社會科學學院、新加坡國立大學商學院、電腦學院、設計與工程學院、法學院和李光耀公共政策學院等多個系所的成員組成的研究小組正在解決這個問題是錯誤的資訊透過一個名為資訊陀螺儀（iGyro）的程式進行正面攻擊。

這是一項為期五年的綜合研究計劃，旨在識別和解決數位資訊管道中的漏洞，制定增強線上用戶數位彈性的策略，並促進鼓勵參與可信賴資訊的行為。由 Chen Tsuhan 教授領導的由 40 名研究人員組成的跨學科團隊致力於理解和塑造不斷發展的數位資訊格局。

「在航空領域，陀螺儀提供穩定性和方向指導，以保持對飛機的精確控制。同樣，iGyro 展示了我們團隊在面對不斷變化和混亂的資訊環境時保持穩定性的努力。它也像徵著團隊的跨學科性質，擁有跨社會科學、電腦科學、工程和法律等學科的專業知識。

iGyro 團隊採用整體三層框架，將理解和塑造人類行為作為其研究的核心。他們框架的下一層是技術領域，旨在了解數位資訊管道的不同階段，從創建到傳播到消費。最後，其框架的最外層研究了緩解策略的潛在影響以及用於部署這些策略的法規和政策的作用。

iGyro 團隊發表一篇期刊文章數位政府：研究與實踐解釋 iGyro 團隊如何應用三層框架來檢查生成式人工智慧創建的內容從創建到消費的生命週期。iGyro 團隊非常重視人類行為，強調了脆弱性，並倡導採取適應性和基於證據的政策，以增強數位生態系統中資訊的完整性和公眾信任。

自 2023 年成立以來，iGyro 團隊在開發打擊假訊息傳播的工具方面也取得了令人鼓舞的進展。

SNIFFER：用於偵測錯誤訊息的多模式大語言模型

斷章取義的錯誤訊息，即真實圖像與不代表圖像的虛假文字配對，是傳播虛假訊息和誤導受眾的最簡單、最有效的方法之一。然而，目前的技術對其判斷缺乏令人信服的解釋，這對於揭穿錯誤訊息至關重要。

為了解決斷章取義的錯誤訊息，由來自新加坡國立大學電腦學院的iGyro 首席研究員Wynne Hsu 教授和Lee Mong Li 教授領導的團隊開發了SNIFFER，這是一種新穎的多模態大語言模型(MLLM)，旨在偵測和識別解釋圖像和標題中斷章取義的錯誤訊息。

SNIFFER 使用專門的人工智慧 (AI) 模型進行雙管齊下的分析。第一步涉及內部檢查圖像和標題之間的一致性。第二步從外部來源獲取信息，以檢查圖像上下文和所提供的標題之間的相關性。根據這兩個步驟的結果，SNIFFER 將確定圖像-標題對的真實性，以得出最終判斷並解釋該對是否具有誤導性。

研究發現，SNIFFER 的性能比以前的 MLLM 模型高出 40%，並且與其他最先進的檢測方法相比，它能夠以更高的準確度執行錯誤訊息檢測任務。研究人員希望透過進一步改進，SNIFFER 可以公開提供，以幫助使用者識別斷章取義的資訊。

QACheck：以問題為導向的事實檢驗工具

提供可靠的事實查核工具是打擊假訊息傳播的一種方法。然而，透過線上資源進行事實查核涉及複雜且多步驟的推理過程。許多現有的事實查核系統在決策過程中也缺乏透明度，使得使用者很難對其結論獲得合理的解釋。

為了解決這個問題，來自新加坡國立大學計算機學院的 iGyro 首席研究員 Kan Min-Yen 副教授及其研究團隊與國際合作者合作開發了問題引導多跳事實檢查 (QACheck) 系統，該系統指導通過提出驗證主張所所需的一系列關鍵問題來進行模型的推理。

QACheck 由五個核心模組組成：聲明驗證器、問題產生器、問答模組、QA 驗證器和推理器。使用者可以將聲明輸入 QACheck，QACheck 會評估其準確性並產生詳細的報告，透過一系列問題和答案概述推理過程。該工具還引用了每個問題的證據來源，促進透明、可解釋且用戶友好的事實檢查體驗。

團隊的下一步是透過整合額外的知識庫並結合多模型介面來支援不同的資料格式（例如圖像、表格和圖表），從而提高QACheck 的廣度和深度，從而擴大系統處理和分析這些格式的能力。

制定打擊假新聞的全球立法

隨著數位資訊來源變得複雜且快速發展，法規和政策必須適應並跟上這種動態格局。

由來自新加坡國立大學法學院的 iGyro 首席研究員 Simon Chesterman 教授領導的團隊創立了全球立法工作格局的互動地圖打擊假新聞和錯誤訊息，以說明從 1995 年到 2023 年全球範圍內旨在解決 MDM 問題的法律是如何演變的。

值得注意的是，該團隊發現這些法律最初是在公民自由較少的國家引入的，特別是在非洲和亞洲。最近，亞洲國家為此類立法的興起做出了重大貢獻，通常賦予政府更大的權力。研究小組也發現，這些法律的擴張速度在西方國家最為迅速，包括美國、加拿大和歐盟。

透過這張互動地圖，iGyro團隊希望能夠更深入分析管理數位資訊的法律類型，以及不同國家為打擊假新聞而採取的不同方法的有效性。從他們的研究中獲得的寶貴見解將有助於制定所有國家的未來政策。

「我們希望透過開發SNIFFER 和QACheck 等創新工具，並分析針對假新聞和錯誤資訊的全球立法格局來製定未來政策，我們可以創建一個可靠的數位資訊生態系統，並使用戶能夠擁有一個值得信賴的互聯網來訪問資訊”，陳教授說。

更多資訊：Kokil Jaidka 等人，錯誤訊息、假訊息和生成人工智慧：對感知和政策的影響，數位政府：研究與實踐（2024）。DOI：10.1145/3689372