हाउस इंटेलिजेंस कमेटी ने तथाकथित खतरों के बारे में विशेषज्ञों से बात सुनी।गहरा नकली"वीडियो और अन्य प्रकार के कृत्रिम बुद्धिमत्ता से उत्पन्न सिंथेटिक डेटा अमेरिकी चुनाव प्रणाली और बड़े पैमाने पर राष्ट्रीय सुरक्षा के लिए खतरा पैदा करते हैं। गुरुवार की सुनवाई में गवाहों में मैरीलैंड विश्वविद्यालय, बफ़ेलो विश्वविद्यालय के प्रोफेसर और एआई और डिजिटल नीति के अन्य विशेषज्ञ शामिल थे। 

एक बयान में, समिति का कहना है कि इसका उद्देश्य "एआई-सक्षम नकली सामग्री द्वारा उत्पन्न राष्ट्रीय सुरक्षा खतरों की जांच करना है, इसका पता लगाने और मुकाबला करने के लिए क्या किया जा सकता है, और सार्वजनिक क्षेत्र, निजी क्षेत्र और समग्र रूप से समाज की क्या भूमिका है"संभावित रूप से गंभीर, 'पोस्ट-ट्रुथ' भविष्य का मुकाबला करने के लिए खेलना चाहिए," गुरुवार की सुनवाई के दौरान 

यह सुनवाई इंटरनेट वीडियो के बढ़ते चलन के बीच हुई है, जिसमें हाई-प्रोफाइल शख्सियतें ऐसी बातें कहती नजर आ रही हैं, जो उन्होंने कभी नहीं कही हैं। 

हाल ही में, एहाउस स्पीकर नैन्सी पेलोसी का छेड़छाड़ किया गया वीडियो, जिसमें वह विकलांग दिखाई दे रही है, सोशल मीडिया पर वायरल हो गया।पेलोसी के भाषण पैटर्न और कार्यालय के लिए फिटनेस पर प्रकाश डालने के प्रयास में राष्ट्रपति ट्रम्प द्वारा इसे साझा करने के बाद वीडियो को फेसबुक पर 2.5 मिलियन से अधिक बार देखा गया।रिपब्लिकन और डेमोक्रेट अब चिंतित हैं कि ये हेरफेर किए गए वीडियो संयुक्त राज्य अमेरिका और अन्य पश्चिमी लोकतंत्रों के खिलाफ दुष्प्रचार युद्ध में नवीनतम हथियार बन जाएंगे।

समिति ने एक बयान में कहा, "डीप फेक राष्ट्रीय सुरक्षा और लोकतांत्रिक शासन के बारे में गंभीर सवाल उठाते हैं, व्यक्ति और मतदाता अब अपनी स्क्रीन पर जो देखते हैं उसकी प्रामाणिकता का आकलन करते समय अपनी आंखों या कानों पर भरोसा नहीं कर पाते हैं।" 

अपनी प्रारंभिक टिप्पणी में, समिति के अध्यक्ष प्रतिनिधि एडम शिफ ने कहा कि हेरफेर किए गए वीडियो का प्रसार 2020 के राष्ट्रपति चुनावों के लिए एक "बुरा सपना" परिदृश्य प्रस्तुत करता है - जिससे सांसदों, समाचार मीडिया के सदस्यों और जनता को "यह समझने के लिए संघर्ष करना पड़ रहा है कि क्या वास्तविक है और क्या है"नकली।"

शिफ ने आग्रह किया कि "अब सोशल मीडिया कंपनियों के लिए उपयोगकर्ताओं को गलत सूचनाओं से बचाने के लिए नीतियां बनाने का समय आ गया है, न कि 2021 में, क्योंकि वायरल डीपफेक ने 2020 के चुनावों को प्रदूषित कर दिया है। तब तक बहुत देर हो चुकी होगी।"

सुनवाई की मुख्य बातें:

विशेषज्ञ: डीपफेक को हराने के लिए कोई "सिल्वर बुलेट" नहीं

मैरीलैंड यूनिवर्सिटी के फ्रांसिस किंग कैरी स्कूल ऑफ लॉ में कानून के प्रोफेसर डेनिएल सिट्रोन ने गवाही दी कि डीपफेक को फैलने से रोकने का कोई सीमित तरीका नहीं है, लेकिन कहा कि समाधान पाने के लिए "कानून, बाजार और सामाजिक लचीलेपन" का संयोजन आवश्यक है। 

"लेकिन कानून की एक मामूली भूमिका है," सिट्रोन ने स्वीकार किया।उन्होंने बताया कि नागरिक दावों में पीड़ित मानहानि या वीडियो से भावनात्मक संकट के लिए मुकदमा कर सकते हैं, लेकिन उन्होंने कहा कि "मुकदमा करना अविश्वसनीय रूप से महंगा है और आपराधिक कानून हमें आगे बढ़ाने के लिए बहुत कम लाभ प्रदान करता है।"

विशेषज्ञ "खतरनाक" काल्पनिक बातें पेश करते हैं 

सिट्रोन ने गवाही दी, "हम उस पर विश्वास करते हैं जो हमारी आंखें और कान हमें बता रहे हैं... वीडियो गूढ़ है... यह जितना अधिक कामुक है, हम इसे आगे बढ़ाने के लिए अधिक इच्छुक हैं। पूरा उद्यम क्लिक करना और साझा करना है।"उन्होंने कई काल्पनिक स्थितियों की पेशकश की जहां डीपफेक का उपयोग हानिकारक तरीकों से किया जा सकता है, जिसमें अश्लील सामग्री और प्रारंभिक सार्वजनिक पेशकशें शामिल हैं। 

उन्होंने सुझाव दिया, "सार्वजनिक पेशकश से एक रात पहले... कंपनी के सीईओ को दिखाने वाला एक डीपफेक... आईपीओ को प्रभावित कर सकता है, बाजार प्रतिक्रिया देगा और जितनी तेजी से हम इसे खारिज कर सकते हैं, उससे कहीं अधिक तेजी से गिरेगा।" 

विशेषज्ञ का कहना है कि सांसदों को सोशल मीडिया कंपनियों के साथ काम करना चाहिए

फॉरेन पॉलिसी रिसर्च इंस्टीट्यूट के क्लिंट वॉट्स ने कहा कि राजनेताओं को ऑनलाइन साझा किए गए किसी भी डीपफेक वीडियो में प्रस्तुत किए गए "धब्बों का तेजी से खंडन" करने के लिए काम करने की जरूरत है।उन्होंने कहा कि सोशल मीडिया कंपनियों के साथ "साझेदारी" में ऐसा किया जा सकता है।वाट्स ने यह भी सुझाव दिया कि सरकार 2016 के रूसी हस्तक्षेप अभियान के मद्देनजर इसी तरह ट्रोल फार्मों के आसपास सख्त प्रतिबंध लगाने के अपने प्रयास जारी रखेगी। 

वाट्स ने कहा, "अगर हम जीआरयू अभियोग को देखें तो हमने देखा कि उन्हें अनिवार्य रूप से मंजूरी दी जा रही है और बाहर किया जा रहा है।"उन्होंने सुझाव दिया कि ट्रॉल फ़ार्म में शामिल हैकर्स और कंपनियां अमेरिकी सरकार द्वारा दोषी ठहराए जाने के बाद उन लक्षित फर्मों में काम पर नहीं रखना चाहते हैं।वास्तव में, प्रतिबंधों ने उन संबंधित फर्मों में रोजगार को कम करने में मदद की है 

विशेषज्ञ ने डीपफेक की "तात्कालिक" प्रकृति के खतरों के प्रति आगाह किया है

बफ़ेलो विश्वविद्यालय में SUNY एम्पायर इनोवेशन के प्रोफेसर और आर्टिफिशियल इंटेलिजेंस इंस्टीट्यूट के निदेशक डेविड डोएरमैन ने गवाही दी, "सच्चाई को अपने जूते पहनने से पहले एक झूठ आधी दुनिया में घूम सकता है, और यह सच है।" 

उन्होंने सुझाव दिया, "व्यक्तिगत रूप से मुझे इसका कोई कारण नहीं दिखता, समाचार लाइव प्रकार की देरी के साथ ऐसा करता है, ऐसा कोई कारण नहीं है कि चीजें तत्काल हों, सोशल मीडिया को देरी करने के लिए इस प्रकार की चीजें पैदा करनी चाहिए।"यह कहते हुए कि ऐसे उपकरण हैं जिनका उपयोग सोशल मीडिया कंपनियां सत्यापन योग्य ऑडियो और वीडियो को एक साथ जोड़ने के लिए कर सकती हैं और इसे अपनी संबंधित साइटों से हटाने के संबंध में निर्णय ले सकती हैं "उसी तरह जैसे हम मैलवेयर या साइबर मुद्दों के साथ करते हैं।"

उन्होंने कहा, "हम अपने सामने वाले दरवाजे की सुरक्षा कर रहे हैं।" 

2020 के अभियान डीपफेक के बारे में क्या कर सकते हैं?

विशेषज्ञों ने गवाही दी कि राष्ट्रपति पद के उम्मीदवारों और उनके संबंधित अभियानों को गलत सूचना पर "एकीकृत मानक" बनाने के लिए सोशल एमडिया कंपनियों के साथ मिलकर काम करने की जरूरत है। 

"उद्योग पर उग्रवाद, दुष्प्रचार पर एक साथ काम करने का दबाव...इस चीज से निपटने के लिए त्वरित प्रतिक्रिया। प्रतिक्रिया के संदर्भ में किसी भी प्रकार की देरी उस साजिश को बढ़ने देती है, जितनी जल्दी आप इससे बाहर निकलेंगे उतना ही बेहतर और मुख्यधारा के आउटलेट और अन्य अधिकारी होंगे।"मदद कर सकते हैं," वाट्स ने कहा 

सिट्रॉन ने सहमति व्यक्त करते हुए कहा कि अभियानों को अभियान के दौरान डीपफेक को फैलाने या साझा नहीं करने और ऑनलाइन किसी भी गलत सूचना का सीधे खंडन करने के लिए सोशल मीडिया कंपनियों के साथ बेहतर संबंध बनाने की "प्रतिबद्धता" बनाने की आवश्यकता है। 

उन्होंने कहा कि उपभोक्ताओं और मतदाताओं को "शून्यवादी हुए बिना संदेह करना" सीखना होगा।

डीपफेक, दुष्प्रचार के दीर्घकालिक "संक्षारक" प्रभाव 

सभी विशेषज्ञ इस बात पर सहमत थे कि डीपफेक के उपयोग का राजनीति ही नहीं, पत्रकारिता पर भी गंभीर प्रभाव पड़ता है।ओपनएआई के नीति निदेशक जैक क्लार्क ने इसे समाचार मीडिया के लिए एक "गुप्त खतरा" कहा क्योंकि हेरफेर से जनता को यह विश्वास दिलाया जाता है कि रिपोर्टिंग तथ्यात्मक रूप से गलत है। 

सिट्रोन ने सहमति व्यक्त करते हुए कहा कि जिन डीपफेक को खारिज करना कठिन है, वे संभावित रूप से पत्रकारों को इस डर से सबूत पर बैठने या रिपोर्ट करने के लिए प्रेरित कर सकते हैं कि यह नकली है।उन्होंने इसे "ऑनलाइन ट्रॉल्स के विनाशकारी प्रयास को "सच्चाई का क्षय" बताया, जो पत्रकारिता और मीडिया सहित हर चीज को प्रभावित करता है।" 

इस बीच, वॉट्स ने चेतावनी दी कि समय के साथ, दुष्प्रचार और डीपफेक का उपयोग "दीर्घकालिक उदासीनता" का कारण बन सकता है।

वॉट्स ने कहा, "यदि ओवरटाइम के दौरान वे कल्पना से तथ्य नहीं बता सकते, तो वे हर बात या किसी भी बात पर विश्वास नहीं करेंगे।"उन्होंने रूसी सरकार और उसके लोगों के बीच संबंधों की ओर इशारा करते हुए कहा कि क्रेमलिन जनता की राय को नियंत्रित करने के लिए "झूठ की आग का गोला" का उपयोग करता है। 

एमिली टिलेट और ओलिविया गाज़िस द्वारा रिपोर्टिंग