चूँकि इंटरनेट का उपयोग हमारे दैनिक जीवन का एक अभिन्न अंग बन गया है, बहुत से लोग जानकारी के लिए विभिन्न ऑनलाइन स्रोतों पर निर्भर हैं।जबकि इंटरनेट अधिक सुविधा और समाचार स्रोतों की एक विस्तृत श्रृंखला प्रदान करता है, झूठी जानकारी का प्रसार इस सदी की सबसे बड़ी चुनौतियों में से एक बन गया है, जो कि जनरेटिव कृत्रिम बुद्धिमत्ता के उदय से और भी गंभीर हो गई है।झूठी सूचना का प्रसार - चाहे गलत, गलत और गलत सूचना (एमडीएम) के रूप में हो - व्यक्तियों और संगठनों को हानिकारक निर्णय लेने के लिए प्रेरित कर सकता है, और महत्वपूर्ण और विवादास्पद मुद्दों पर सामाजिक विभाजन पैदा करता हुआ दिखाया गया है।.

कला और सामाजिक विज्ञान संकाय, एनयूएस बिजनेस स्कूल, कंप्यूटिंग स्कूल, डिजाइन और इंजीनियरिंग कॉलेज, कानून संकाय और ली कुआन यू स्कूल ऑफ पब्लिक पॉलिसी सहित विभिन्न संकायों के सदस्यों सहित एक शोध दल इस मुद्दे को संबोधित कर रहा है।असत्यजानकारीइन्फॉर्मेशन जायरोस्कोप (iGyro) नामक एक कार्यक्रम के माध्यम से आगे बढ़ें।

यह एक व्यापक पांच-वर्षीय शोध पहल है जिसका उद्देश्य डिजिटल सूचना पाइपलाइन में कमजोरियों की पहचान करना और उनका समाधान करना, ऑनलाइन उपयोगकर्ताओं के बीच डिजिटल लचीलापन बढ़ाने के लिए रणनीति विकसित करना और भरोसेमंद जानकारी के साथ जुड़ाव को प्रोत्साहित करने वाले व्यवहार को बढ़ावा देना है।प्रोफेसर चेन त्सुहान के नेतृत्व में, 40 शोधकर्ताओं की अंतःविषय टीम विकसित डिजिटल सूचना परिदृश्य को समझने और आकार देने के लिए प्रतिबद्ध है।

"विमानन में, एक जाइरोस्कोप एक विमान पर सटीक नियंत्रण बनाए रखने के लिए स्थिरता और अभिविन्यास मार्गदर्शन प्रदान करता है। इसी तरह, iGyro एक बदलते और अराजक सूचना परिदृश्य के सामने स्थिरता बनाए रखने के लिए हमारी टीम के प्रयासों को प्रदर्शित करता है। यह टीम की अंतःविषय प्रकृति का भी प्रतीक है।"सामाजिक विज्ञान, कंप्यूटर विज्ञान, इंजीनियरिंग और कानून जैसे विषयों में विशेषज्ञता के साथ," प्रोफेसर चेन ने कहा।

समग्र तीन-स्तरीय ढांचे को अपनाते हुए, iGyro टीम मानव व्यवहार को समझने और उसे आकार देने को अपने शोध के मूल में रखती है।उनके ढांचे की अगली परत प्रौद्योगिकी डोमेन है, जिसका उद्देश्य सृजन से लेकर प्रसार और उपभोग तक डिजिटल सूचना पाइपलाइन के विभिन्न चरणों को समझना है।अंत में, उनके ढांचे की सबसे बाहरी परत शमन रणनीतियों के संभावित प्रभाव के साथ-साथ इन रणनीतियों को लागू करने के लिए उपयोग किए जाने वाले नियमों और नीतियों की भूमिकाओं का अध्ययन करती है।

आईजीइरो टीमप्रकाशितमें एक जर्नल लेखडिजिटल सरकार: अनुसंधान और अभ्यासयह समझाते हुए कि कैसे iGyro टीम ने निर्माण से लेकर उपभोग तक जनरेटिव आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई सामग्री के जीवनचक्र की जांच करने के लिए तीन-स्तरीय ढांचे को लागू किया है।मानव व्यवहार पर जोर देते हुए, iGyro टीम ने कमजोरियों पर प्रकाश डाला और डिजिटल पारिस्थितिकी तंत्र में सूचना अखंडता और सार्वजनिक विश्वास को बढ़ाने के लिए अनुकूली और साक्ष्य-आधारित नीतियों की वकालत की।

2023 में अपनी स्थापना के बाद से, iGyro टीम ने झूठी सूचना के प्रसार से निपटने के लिए उपकरण विकसित करने में भी उत्साहजनक प्रगति की है।

स्निफ़र: गलत सूचना का पता लगाने के लिए एक मल्टीमॉडल बड़ा भाषा मॉडल

संदर्भ से बाहर गलत सूचना, जहां प्रामाणिक छवियों को गलत पाठ के साथ जोड़ा जाता है जो छवि का प्रतिनिधित्व नहीं करता है, झूठी जानकारी फैलाने और दर्शकों को गुमराह करने का सबसे आसान और सबसे प्रभावी तरीकों में से एक है।हालाँकि, वर्तमान प्रौद्योगिकियों में उनके निर्णयों के लिए ठोस स्पष्टीकरण का अभाव है, जो गलत सूचना को खारिज करने के लिए आवश्यक है।

संदर्भ से परे गलत सूचनाओं से निपटने के लिए, iGyro के प्रमुख जांचकर्ता प्रोफेसर विने सू और प्रोफेसर ली मोंग ली के नेतृत्व में एक टीम, जो NUS स्कूल ऑफ कंप्यूटिंग से हैं, ने SNIFFER विकसित किया, जो एक नया मल्टीमॉडल लार्ज लैंग्वेज मॉडल (MLLM) है जिसे पता लगाने के लिए डिज़ाइन किया गया है।छवियों और कैप्शन में संदर्भ से बाहर की गलत जानकारी को समझाएं।

SNIFFER दोतरफा विश्लेषण करने के लिए एक विशेष कृत्रिम बुद्धिमत्ता (AI) मॉडल का उपयोग करता है।पहले चरण में छवि और कैप्शन के बीच एकरूपता की आंतरिक जांच शामिल है।दूसरा चरण छवि के संदर्भ और दिए गए कैप्शन के बीच प्रासंगिकता की जांच करने के लिए बाहरी स्रोतों से जानकारी लेता है।इन दो चरणों के परिणामों के आधार पर, SNIFFER अंतिम निर्णय पर पहुंचने के लिए छवि-कैप्शन जोड़ी की प्रामाणिकता निर्धारित करेगा और यह स्पष्टीकरण देगा कि जोड़ी भ्रामक है या नहीं।

SNIFFER को पिछले एमएलएलएम मॉडल के प्रदर्शन से 40% बेहतर पाया गया है और यह अन्य अत्याधुनिक पहचान विधियों की तुलना में अपने गलत सूचना का पता लगाने के कार्यों को उच्च सटीकता के साथ करता है।शोधकर्ताओं को उम्मीद है कि आगे के सुधारों के साथ, SNIFFER को उपयोगकर्ताओं को संदर्भ से बाहर की जानकारी की पहचान करने में मदद करने के लिए सार्वजनिक रूप से उपलब्ध कराया जा सकता है।

QACheck: प्रश्न-निर्देशित तथ्य-जाँच के लिए एक उपकरण

विश्वसनीय तथ्य-जाँच उपकरणों की उपलब्धता झूठी सूचना के प्रसार से निपटने का एक तरीका है।हालाँकि, ऑनलाइन स्रोतों के माध्यम से तथ्य-जाँच में एक जटिल और बहु-चरणीय तर्क प्रक्रिया शामिल होती है।कई मौजूदा तथ्य-जांच प्रणालियों में निर्णय लेने की प्रक्रिया में पारदर्शिता का अभाव है, जिससे उपयोगकर्ताओं के लिए अपने निष्कर्षों के लिए उचित स्पष्टीकरण प्राप्त करना मुश्किल हो जाता है।

इस मुद्दे को संबोधित करने के लिए, iGyro के प्रमुख अन्वेषक एसोसिएट प्रोफेसर कान मिन-येन, जो NUS स्कूल ऑफ कंप्यूटिंग से हैं, ने अपनी शोध टीम के साथ मिलकर, प्रश्न-निर्देशित मल्टीहॉप फैक्ट-चेकिंग (QACheck) प्रणाली विकसित करने के लिए अंतर्राष्ट्रीय सहयोगियों के साथ काम किया, जो संचालन करता हैकिसी दावे को सत्यापित करने के लिए आवश्यक महत्वपूर्ण प्रश्नों की एक श्रृंखला प्रस्तुत करके मॉडल का तर्क।

QACheck में पांच मुख्य मॉड्यूल होते हैं: एक दावा सत्यापनकर्ता, प्रश्न जनरेटर, प्रश्न उत्तर देने वाला मॉड्यूल, QA सत्यापनकर्ता और तर्ककर्ता।उपयोगकर्ता QACheck में दावा दर्ज कर सकते हैं, जो फिर इसकी सटीकता का मूल्यांकन करता है और प्रश्नों और उत्तरों की एक श्रृंखला के माध्यम से तर्क प्रक्रिया को रेखांकित करते हुए एक विस्तृत रिपोर्ट तैयार करता है।यह टूल प्रत्येक प्रश्न के लिए साक्ष्य के स्रोतों का भी हवाला देता है, एक पारदर्शी, समझाने योग्य और उपयोगकर्ता के अनुकूल तथ्य-जाँच अनुभव को बढ़ावा देता है।

टीम का अगला कदम अतिरिक्त ज्ञान आधारों को एकीकृत करके और छवियों, तालिकाओं और चार्ट जैसे विभिन्न डेटा प्रारूपों का समर्थन करने के लिए एक मल्टी-मॉडल इंटरफ़ेस को शामिल करके QACheck की चौड़ाई और गहराई को बढ़ावा देना है, ताकि इन प्रारूपों को संसाधित करने और विश्लेषण करने की सिस्टम की क्षमता को व्यापक बनाया जा सके।

फर्जी खबरों के खिलाफ लागू वैश्विक कानून का मानचित्रण

जैसे-जैसे डिजिटल सूचना स्रोत परिष्कृत होते जा रहे हैं और तेजी से विकसित हो रहे हैं, नियमों और नीतियों को इस गतिशील परिदृश्य के अनुरूप ढलना और बनाए रखना होगा।

iGyro के प्रमुख अन्वेषक प्रोफेसर साइमन चेस्टरमैन, जो NUS विधि संकाय से हैं, के नेतृत्व में एक टीम ने बनायाविधायी प्रयासों के वैश्विक परिदृश्य का एक इंटरैक्टिव मानचित्रफर्जी खबरों और गलत सूचनाओं के खिलाफ यह बताने के लिए कि एमडीएम को संबोधित करने के उद्देश्य से कानून 1995 से 2023 तक विश्व स्तर पर कैसे विकसित हुए हैं।

विशेष रूप से, टीम ने पाया कि ये कानून शुरू में कम नागरिक स्वतंत्रता वाले देशों में पेश किए गए थे, खासकर अफ्रीका और एशिया में।हाल ही में, एशियाई देशों ने इस तरह के कानून को बढ़ाने में महत्वपूर्ण योगदान दिया है, अक्सर अपनी सरकारों को अधिक शक्तियां प्रदान की हैं।टीम ने यह भी पाया कि संयुक्त राज्य अमेरिका, कनाडा और यूरोपीय संघ सहित पश्चिमी देशों में इन कानूनों का विस्तार सबसे तेजी से हुआ है।

इस इंटरैक्टिव मानचित्र के माध्यम से, iGyro टीम को डिजिटल जानकारी को नियंत्रित करने वाले कानूनों के प्रकार और नकली समाचारों से निपटने के लिए विभिन्न देशों द्वारा अपनाए गए विभिन्न दृष्टिकोणों की प्रभावशीलता का अधिक गहन विश्लेषण करने की उम्मीद है।उनके शोध से प्राप्त मूल्यवान अंतर्दृष्टि सभी देशों के लिए भविष्य की नीतियों को आकार देने में मदद करेगी।

"हमें उम्मीद है कि SNIFFER और QACheck जैसे नवीन उपकरण विकसित करके, और भविष्य की नीतियों को आकार देने के लिए नकली समाचार और गलत सूचना के खिलाफ वैश्विक विधायी परिदृश्य का विश्लेषण करके, हम एक विश्वसनीय डिजिटल सूचना पारिस्थितिकी तंत्र बना सकते हैं और उपयोगकर्ताओं को जानकारी तक पहुंचने के लिए एक भरोसेमंद इंटरनेट के लिए सशक्त बना सकते हैं।, " प्रोफेसर चेन ने कहा।

अधिक जानकारी:कोकिल जैदका एट अल, गलत सूचना, दुष्प्रचार, और जेनरेटिव एआई: धारणा और नीति के लिए निहितार्थ,डिजिटल सरकार: अनुसंधान और अभ्यास(2024)।डीओआई: 10.1145/3689372