वाटरलू विश्वविद्यालय के शोधकर्ताओं की एक टीम ने एक नया टूल बनाया है - जिसका उपनाम "रेज" है - जो बताता है कि चैटजीपीटी जैसे बड़े भाषा मॉडल (एलएलएम) को उनकी जानकारी कहां से मिल रही है और क्या उस जानकारी पर भरोसा किया जा सकता है।

चैटजीपीटी जैसे एलएलएम "अपर्यवेक्षित गहन शिक्षण" पर भरोसा करते हैं, जो कनेक्शन बनाते हैं और इंटरनेट से जानकारी को ऐसे तरीकों से अवशोषित करते हैं जिन्हें समझना उनके प्रोग्रामर और उपयोगकर्ताओं के लिए मुश्किल हो सकता है।इसके अलावा, एलएलएम "मतिभ्रम" से ग्रस्त हैं - यानी, वे अवधारणाओं के बारे में आश्वस्त रूप से लिखते हैं औरसूत्रों का कहना हैजो या तो ग़लत हैं या अस्तित्वहीन हैं।

वाटरलू कंप्यूटर साइंस पीएच.डी. जोएल रोर्सेथ ने कहा, "आप अपनी बात समझाने के लिए एलएलएम पर जरूरी भरोसा नहीं कर सकते।"अध्ययन पर छात्र और प्रमुख लेखक।"यह स्पष्टीकरण या उद्धरण प्रदान कर सकता है जो उसने भी बनाया है।"

रोर्सेथ की टीम का नया टूल किसी दिए गए संकेत के लिए एलएलएम के उत्तरों के संदर्भ को समझने के लिए हाल ही में विकसित रणनीति, जिसे "पुनर्प्राप्ति-संवर्धित पीढ़ी" (आरएजी) कहा जाता है, का उपयोग करता है।

रोर्सेथ ने कहा, "आरएजी उपयोगकर्ताओं को संदर्भ के लिए एलएलएम को अपने स्वयं के स्रोत प्रदान करने की अनुमति देता है। हमारा टूल दिखाता है कि आरएजी का उपयोग करते समय विभिन्न स्रोत अलग-अलग उत्तर कैसे देते हैं, जिससे यह आकलन करने में मदद मिलती है कि वह जानकारी भरोसेमंद है या नहीं।"

क्योंकि उनका उपकरण पुनर्प्राप्ति-संवर्धित पीढ़ी की व्याख्या पर केंद्रित है, उन्होंने इसे "मशीन के विरुद्ध 'क्रोध' नाम दिया है।"

यह समझना कि चैटजीपीटी जैसे एलएलएम अपनी जानकारी कहां से प्राप्त कर रहे हैं-और यह सुनिश्चित करना कि वे दोहराए नहीं जा रहे हैंझूठी खबररोर्सेथ ने कहा, "यह और अधिक महत्वपूर्ण हो जाएगा क्योंकि चिकित्सा और कानूनी क्षेत्रों जैसे अत्यधिक संवेदनशील, मानव-केंद्रित उद्योग इन उपकरणों को अपनाएंगे।"

उन्होंने कहा, "अभी हम ऐसी जगह पर हैं जहां नवप्रवर्तन विनियमन से आगे निकल गया है।""लोग इन तकनीकों का उपयोग उनके संभावित जोखिमों को समझे बिना कर रहे हैं, इसलिए हमें यह सुनिश्चित करने की ज़रूरत है कि ये उत्पाद सुरक्षित, भरोसेमंद और विश्वसनीय हैं।"

शोध, "रेज अगेंस्ट द मशीन: रिट्रीवल-ऑगमेंटेड एलएलएम स्पष्टीकरण," डेटा इंजीनियरिंग पर 40वें आईईईई अंतर्राष्ट्रीय सम्मेलन की कार्यवाही में प्रकाशित किया जाएगा।यह वर्तमान में हैउपलब्धपरarXivप्रीप्रिंट सर्वर.