जब भ्रामक जानकारी ऑनलाइन फैलती है, तो यह तेजी से फैल सकती है।

फिर भी वायरल तस्वीरों, वीडियो और ऑडियो को तेजी से खारिज करने के लिए कई बेहतरीन उपकरण केवल शोधकर्ताओं के लिए उपलब्ध हैं, जैसे बफ़ेलो विश्वविद्यालयडीपफेकविशेषज्ञ सिवेई ल्यू.

"हर कोईसोशल मीडिया उपयोगकर्ताकोपत्रकारोंकोकानून प्रवर्तनअक्सर यह पता लगाने के लिए मेरे जैसे किसी व्यक्ति से गुजरना पड़ता है कि क्या मीडिया का कोई हिस्सा इसके द्वारा उत्पन्न होने के संकेत दिखाता हैकृत्रिम होशियारी," ल्यू कहते हैं, जो नियमित रूप से ऐसे अनुरोधों को पूरा करते हैं। "जब समय महत्वपूर्ण होता है तो उन्हें तत्काल और निर्णायक विश्लेषण नहीं मिल पाता है।"

यही कारण है कि यूबी मीडिया फोरेंसिक लैब में ल्यू और उनकी टीम ने इसे विकसित कियाडीपफेक-ओ-मीटर, जो कई अत्याधुनिक डीपफेक डिटेक्शन एल्गोरिदम को एक ओपन-सोर्स, वेब-आधारित प्लेटफॉर्म में जोड़ता है।उपयोगकर्ताओं को बस एक निःशुल्क खाते के लिए साइन अप करना होगा और एक मीडिया फ़ाइल अपलोड करनी होगी।परिणाम आमतौर पर एक मिनट से भी कम समय में वापस आ जाते हैं।

नवंबर के बाद से, प्लेटफ़ॉर्म पर 6,300 से अधिक सबमिशन आए हैं।मीडिया आउटलेट्स ने इसका उपयोग विभिन्न एआई-जनित सामग्री का विश्लेषण करने के लिए कियाजो बिडेन रोबोकॉलन्यू हैम्पशायर निवासियों को वोट न देने के लिए कहनायूक्रेन के राष्ट्रपति वलोडिमिर ज़ेलेंस्की का वीडियोरूस के सामने आत्मसमर्पण.

"लक्ष्य जनता और जनता के बीच की दूरी को पाटना हैअनुसंधान समुदाययूबी स्कूल ऑफ इंजीनियरिंग एंड एप्लाइड साइंसेज के कंप्यूटर साइंस एंड इंजीनियरिंग विभाग में एसयूएनवाई एम्पायर इनोवेशन प्रोफेसर लू, पीएच.डी. कहते हैं। "सोशल मीडिया उपयोगकर्ताओं और शोधकर्ताओं को एक साथ लाना कई समस्याओं को हल करने के लिए महत्वपूर्ण है।डीपफेक द्वारा।"

यह काम किस प्रकार करता है

डीपफेक-ओ-मीटर का उपयोग करना सीधा है।

किसी छवि को खींचें और छोड़ें,वीडियोया ऑडियो फ़ाइल अपलोड बॉक्स में।फिर, विभिन्न सूचीबद्ध मेट्रिक्स के आधार पर डिटेक्शन एल्गोरिदम का चयन करें, जिसमें सटीकता, चलने का समय और इसे विकसित करने का वर्ष शामिल है।

प्रत्येक एल्गोरिदम तब संभावना का एक प्रतिशत देगा कि सामग्री एआई द्वारा उत्पन्न की गई थी।

"हम अपलोड की गई सामग्री के बारे में मजबूत दावे नहीं करते हैं। हम बस व्यापक तरीकों से इसका व्यापक विश्लेषण प्रदान करते हैं," ल्यू कहते हैं, जो यूबी सेंटर फॉर इंफॉर्मेशन इंटीग्रिटी के सह-निदेशक भी हैं, जो अविश्वसनीय और भ्रामक का मुकाबला करता है।जानकारी ऑनलाइन."उपयोगकर्ता इस जानकारी का उपयोग इस बारे में स्वयं निर्णय लेने के लिए कर सकते हैं कि क्या उन्हें लगता है कि सामग्री वास्तविक है।"

पारदर्शिता

इस साल की शुरुआत में, पोयंटर ने चार मुफ्त ऑनलाइन डीपफेक डिटेक्शन टूल के साथ नकली बिडेन रोबोकॉल का विश्लेषण किया।डीपफेक-ओ-मीटर सबसे सटीक था, जिससे 69.7% संभावना थी कि ऑडियो एआई द्वारा उत्पन्न किया गया था।

ल्यू का कहना है कि अन्य चीजें जो उनके टूल को अलग करती हैं, वे हैं पारदर्शिता और विविधता।डीपफेक-ओ-मीटर खुला स्रोत है, जिसका अर्थ है कि जनता के पास एल्गोरिदम के स्रोत कोड तक पहुंच है, और दुनिया भर में लियू और अन्य अनुसंधान समूहों द्वारा विकसित एल्गोरिदम की सुविधा है, जो राय और विशेषज्ञता की एक विस्तृत श्रृंखला की अनुमति देता है।

ल्यू कहते हैं, "अन्य उपकरणों का विश्लेषण सटीक हो सकता है, लेकिन वे यह खुलासा नहीं करते हैं कि उस निष्कर्ष पर पहुंचने के लिए उन्होंने किस एल्गोरिदम का उपयोग किया था और उपयोगकर्ता केवल एक प्रतिक्रिया देखता है, जो पक्षपातपूर्ण हो सकता है।""हम अधिकतम स्तर की पारदर्शिता और विविधता प्रदान करने का प्रयास कर रहे हैंखुला स्त्रोतकई अलग-अलग शोध समूहों के कोड।"

शोधकर्ताओं के लिए भी एक लाभ

मीडिया का एक टुकड़ा अपलोड करने से पहले, साइट उपयोगकर्ताओं से पूछेगी कि क्या वे इसे शोधकर्ताओं के साथ साझा करना चाहते हैं।

ल्यू और उनकी टीम ज्यादातर अपने एल्गोरिदम को स्वयं और अन्य शोध टीमों द्वारा संकलित डेटा सेट पर प्रशिक्षित करती है, लेकिन उनका कहना है कि एल्गोरिदम को मीडिया के सामने उजागर करना महत्वपूर्ण है जो वास्तव में ऑनलाइन प्रसारित हो रहा है।अब तक डीपफेक-ओ-मीटर पर अपलोड की गई लगभग 90% सामग्री के नकली होने का संदेह उपयोगकर्ता को था।

ल्यू कहते हैं, "हर समय नए और अधिक परिष्कृत डीपफेक सामने आते रहते हैं। अद्यतित रहने के लिए एल्गोरिदम को लगातार परिष्कृत करने की आवश्यकता होती है।""किसी भी शोध मॉडल के वास्तविक दुनिया पर प्रभाव डालने के लिए, आपको वास्तविक दुनिया के डेटा की आवश्यकता होती है।"

मंच का भविष्य

ल्यू को उम्मीद है कि वह एआई-जनित सामग्री को पहचानने से परे प्लेटफ़ॉर्म की क्षमता को बढ़ाएगा, जैसे कि सबसे पहले इसे बनाने के लिए उपयोग किए जाने वाले एआई टूल की पहचान करना।उनका समूह पहले भी ऐसे उपकरण विकसित कर चुका है।

ल्यू कहते हैं, "इससे यह पता चल सकेगा कि इसके पीछे कौन है।""यह जानना कि मीडिया का एक टुकड़ा कृत्रिम है या चालाकी से बनाया गया है, हमेशा पर्याप्त नहीं होता है। हमें यह जानना होगा कि इसके पीछे कौन है और उनका इरादा क्या है।"

डिटेक्शन एल्गोरिदम के वादे के बावजूद, वह चेतावनी देते हैं कि मनुष्यों को अभी भी एक बड़ी भूमिका निभानी है।जबकि एल्गोरिदम हेरफेर के संकेतों का पता लगा सकते हैं जो मानव आंख या कान कभी नहीं कर पाएंगे, मनुष्यों को इस बात का अर्थ संबंधी ज्ञान है कि वास्तविकता कैसे काम करती है जो एल्गोरिदम अक्सर नहीं करते हैं।

ल्यू कहते हैं, "हम केवल एल्गोरिदम या इंसानों पर भरोसा नहीं कर सकते।""हमें दोनों की जरूरत है।"

इसीलिए उन्हें उम्मीद है कि डीपफेक-ओ-मीटर अंततः अपने स्वयं के ऑनलाइन समुदाय को बढ़ावा देगा, जिसमें उपयोगकर्ता एआई-जनरेटेड सामग्री को समझने में एक-दूसरे के साथ संवाद करेंगे और मदद करेंगे।

वे कहते हैं, ''मैं इसे डीपफेक इनाम शिकारियों के लिए एक बाज़ार के रूप में सोचना पसंद करता हूं।''"क्योंकि डीपफेक समस्या को हल करने के लिए सामूहिक प्रयास की आवश्यकता होगी।"