滑鐵盧大學的一組研究人員創建了一種新工具（暱稱為「RAGE」），可以揭示 ChatGPT 等大型語言模型 (LLM) 從何處獲取資訊以及這些資訊是否可信。

像 ChatGPT 這樣的法學碩士依賴“無監督的深度學習”，以程式設計師和使用者難以破譯的方式從網路上建立聯繫並吸收資訊。此外，法學碩士很容易產生「幻覺」——也就是說，他們寫的概念和內容令人信服。來源這些資訊要么不正確，要么不存在。

滑鐵盧大學計算機科學博士 Joel Rorseth 表示：“你不一定相信法學碩士能夠解釋自己。”研究的學生和主要作者。“它可能會提供它也編造的解釋或引文。”

Rorseth 團隊的新工具採用了最近開發的策略，稱為「檢索增強生成」(RAG)，來了解法學碩士對給定提示的答案的上下文。

「RAG 允許使用者向法學碩士提供自己的來源以獲取背景資訊。我們的工具說明了使用 RAG 時不同來源如何導致不同的答案，有助於評估該資訊是否值得信賴，」Rorseth 說。

因為他們的工具專注於檢索增強生成的可解釋性，所以他們給它起了個綽號「針對機器的『憤怒』」。

了解 ChatGPT 等法學碩士從何處獲取信息，並確保他們不會重複誤傳——羅塞斯說，隨著醫療和法律部門等高度敏感、以人為本的行業採用這些工具，這些工具只會變得更加重要。

「我們現在正處於創新超過監管的階段，」他說。“人們在不了解其潛在風險的情況下使用這些技術，因此我們需要確保這些產品安全、值得信賴和可靠。”

這項名為「RAGE Against the Machine: Retrieval-Augmented LLM Explanations」的研究將發表在第 40 屆 IEEE 國際資料工程會議論文集上。目前是可用的於arXiv預印本伺服器。