पिछले वर्ष में, डीपफेक की व्यापकता और संभावित खतरों ने व्यक्तिगत गोपनीयता, व्यावसायिक नैतिकता और यहां तक ​​कि चुनाव हस्तक्षेप से संबंधित चिंताओं को बढ़ा दिया है।

परिणामस्वरूप, डीपफेक को पहचानने के बारे में सलाह प्रसारित की जा रही हैसोशल मीडियाऔर खबरों में है, लेकिन इंजीनियरिंग प्रोफेसर अलेक्जेंडर एसेक्स का कहना है कि हमें डीपफेक का पता लगाने से परे सोचना शुरू करना चाहिए और खुद से अधिक महत्वपूर्ण सवाल पूछना शुरू करना चाहिए।

एसेक्स, व्हिस्पर लैब, पश्चिमी सूचना सुरक्षा और गोपनीयता अनुसंधान प्रयोगशाला चलाता है, और उसने वेस्टर्न न्यूज़ के साथ डीपफेक के बारे में बात की और हमारे भविष्य के समाज के लिए उनका क्या मतलब है।

डीपफेक क्या है?

मुझे नहीं लगता कि हमने अभी तक एक भी परिभाषा तय की है, लेकिन हम काल्पनिक कल्पना, ऑडियो या वीडियो पर वास्तविक लोगों की समानता लागू करने के लिए गहन शिक्षण तकनीकों (एआई का एक प्रकार) के उपयोग के बारे में बात कर रहे हैं।

क्या डीपफेक समस्याग्रस्त हैं?

निश्चित रूप से।हमारे पास वास्तविक दुनिया के बहुत सारे उदाहरण हैं, जैसे कि एक वित्तीय कर्मचारी$25 मिलियन का भुगतान किया गया(यूएसडी) एक फर्जी मुख्य वित्तीय अधिकारी के साथ कॉल के बाद।के लिए इस्तेमाल की जाने वाली एक वेबसाइट के बारे में खबर आई थीफर्जी फोटो पहचान पत्र बनाना, और इस साल की शुरुआत में, ट्विटर ने डीपफेक न्यूड के बाद टेलर स्विफ्ट की खोज को निलंबित कर दिया थामंच पर कल्पनाओं की बाढ़ आ गई.

चुनाव सुरक्षा से संबंधित आपके काम में, क्या डीपफेक एक मुद्दा बन रहा है?

सौभाग्य से, यह अभी तक कनाडा में पूरी ताकत से नहीं आया है।लेकिन हम उम्मीद कर सकते हैं कि यह अंततः होगा, क्योंकि यह पहले से ही यू.एस. में हो रहा है। हमने कई हाई-प्रोफाइल उदाहरण देखे हैं, जैसेएक डीपफेक जो बिडेन न्यू हैम्पशायर के मतदाताओं को रोबोकॉल कर रहा है.सौभाग्य से,संघीय सरकारहाल ही में पेश किया गयानया विधानवह लक्ष्यझूठे बयानचुनाव प्रथाओं के इर्द-गिर्द, जो डीपफेक को कवर करता है।

डीपफेक को पहचानने के कुछ तरीके क्या हैं?

निकट अवधि में, आप अभी भी डीपफेक के बारे में अपनी प्रवृत्ति पर भरोसा कर सकते हैं।मुंह का शरीर के साथ तालमेल बिगड़ जाता है, या प्रतिबिंब एक अलग फ्रेम दर पर होते हैं, आदि।

मध्यम अवधि में, हम डीपफेक डिटेक्शन सॉफ़्टवेयर का उपयोग कर सकते हैं, लेकिन यह एक हैहथियारों की होड़, और डीपफेक एल्गोरिदम में सुधार होने पर समय के साथ सटीकता में गिरावट आने की संभावना है।

लंबी अवधि में, डीपफेक अंततः वास्तविक इमेजरी से अप्रभेद्य हो सकते हैं।जब वह दिन आएगा, तो हम एक रणनीति के रूप में पता लगाने पर भरोसा नहीं कर सकते।तो, हमारे पास क्या बचा है जिसे AI डीपफेक नहीं कर सकता?यहां दो चीजें हैं: भौतिक वास्तविकता और मजबूत क्रिप्टोग्राफी, जो डेटा को डिजिटल पहचान से मजबूती से और सत्यापित रूप से जोड़ने के बारे में है।

क्रिप्टोग्राफी वह है जिसका उपयोग हम ब्राउज़िंग इतिहास को निजी, पासवर्ड को गुप्त रखने के लिए करते हैं, और यह आपको यह साबित करने देता है कि आप आप हैं।इसके बिना आधुनिक इंटरनेट का अस्तित्व नहीं हो सकता।गणना की दुनिया में, AI अन्य सभी एल्गोरिदम की तरह ही एक एल्गोरिदम है और क्रिप्टोग्राफी को किसी भी एल्गोरिदम को तोड़ने के लिए कठिन बनाया गया है।

हम अभी भी एक भौतिक इकाई (एक व्यक्ति) को डिजिटल पहचान की मजबूत धारणा से जोड़ने में सक्षम हैं।इससे पता चलता है कि 'क्या यह एडीपफेक?'हो सकता है कि यह वह सही प्रश्न न हो जो हमें पूछना चाहिए।

यदि 'क्या यह डीपफेक है' गलत प्रश्न है, तो सही प्रश्न क्या है?

पूछने के लिए सही प्रश्न हैं: यह छवि कहाँ से आ रही है?स्रोत कौन है?मेरे लिए कहना मुश्कित है?

डीपफेक का परिष्कार अंततः उस बिंदु तक विकसित हो सकता है जहां हम वास्तविक तस्वीर और एल्गोरिथम द्वारा उत्पन्न फंतासी के बीच अंतर नहीं कर सकते।

इस दुनिया में, बातचीत का ध्यान छवि की सामग्री पर कम होना चाहिए, बल्कि इस पर होना चाहिए कि यह कहाँ से आया है, यानी, स्रोत, संचार चैनल, माध्यम।उस अर्थ में, मार्शल मैक्लुहान की पुरानी बुद्धि कि "माध्यम ही संदेश है" अभी भी लागू होता है - शायद अब पहले से कहीं अधिक।

एआई और डीपफेक के संभावित खतरों के बारे में चिंतित लोगों को आप क्या कहेंगे?

जब नई प्रौद्योगिकियों की बात आती है तो मैं जादुई सोच के खतरों के बारे में अपने छात्रों से बात करने में बहुत समय बिताता हूं।एआई, कम से कम उस प्रकार का जो सामान्य कंप्यूटर पर चलता है, जीवित या सचेतन नहीं है।हाँ, यह उपयोगी हो सकता है.शायद हानिकारक भी.लेकिन यह सिर्फ एक विस्तृत कोयल घड़ी में घूमने वाले गियर हैं और समाज को खुद से भागने की जरूरत नहीं है।

अंत में, प्रकाश की गति की तरह, गणना की भी मूलभूत सीमाएँ हैं।AI सब कुछ नहीं कर सकता.न ही क्वांटम कंप्यूटिंग या ब्लॉकचेन कर सकते हैं।बस याद रखें: AI सिर्फ एक उपकरण है।हमारा ध्यान उन हाथों पर होना चाहिए जो इसे चलाते हैं।