कृत्रिम बुद्धिमत्ता से जुड़ा सबसे हालिया आपराधिक मामला पिछले हफ्ते मैरीलैंड हाई स्कूल से सामने आया, जहां पुलिस का कहना है कि एक प्रिंसिपल को उसकी आवाज की फर्जी रिकॉर्डिंग के जरिए नस्लवादी करार दिया गया था।

विशेषज्ञों का कहना है कि यह मामला एक और कारण है कि हर किसी को - सिर्फ राजनेताओं और मशहूर हस्तियों को ही नहीं - इस तेजी से शक्तिशाली डीप-फेक तकनीक के बारे में चिंतित होना चाहिए।

डिजिटल फोरेंसिक और गलत सूचना पर ध्यान केंद्रित करने वाले कैलिफोर्निया विश्वविद्यालय, बर्कले के प्रोफेसर हनी फरीद ने कहा, "हर कोई हमला करने के लिए असुरक्षित है, और कोई भी हमला कर सकता है।"

यहां नुकसान पहुंचाने वाले एआई के कुछ नवीनतम उपयोगों के बारे में जानने योग्य बातें दी गई हैं:

AI बहुत सुलभ हो गया है

रिकॉर्ड की गई ध्वनियों और छवियों में हेरफेर करना कोई नई बात नहीं है।लेकिन जिस आसानी से कोई व्यक्ति जानकारी में बदलाव कर सकता है वह हाल की घटना है।तो क्या इसके तेजी से फैलने की क्षमता भी हैसोशल मीडिया.

प्रिंसिपल का प्रतिरूपण करने वाली फर्जी ऑडियो क्लिप किस उपसमूह का एक उदाहरण हैकृत्रिम होशियारीजेनरेटिव एआई के रूप में जाना जाता है।यह अति-यथार्थवादी नई छवियां, वीडियो और ऑडियो क्लिप बना सकता है।हाल के वर्षों में इसका उपयोग करना सस्ता और आसान हो गया है, जिससे इंटरनेट कनेक्शन वाले किसी भी व्यक्ति के लिए बाधा कम हो गई है।

बर्कले के प्रोफेसर फरीद ने कहा, "विशेष रूप से पिछले वर्ष में, कोई भी-और मेरा वास्तव में मतलब है कि कोई भी-ऑनलाइन सेवा पर जा सकता है।""और या तो मुफ़्त में या कुछ रुपये प्रति माह के लिए, वे किसी की आवाज़ के 30 सेकंड अपलोड कर सकते हैं।"

फ़रीद ने कहा, वे सेकंड ध्वनि मेल, सोशल मीडिया पोस्ट या गुप्त रिकॉर्डिंग से आ सकते हैं।मशीन लर्निंग एल्गोरिदम यह पता लगाता है कि किसी व्यक्ति की आवाज़ कैसी है।और फिर क्लोन किया गया भाषण कीबोर्ड पर टाइप किए गए शब्दों से उत्पन्न होता है।

उन्होंने कहा कि प्रौद्योगिकी और अधिक शक्तिशाली और उपयोग में आसान हो जाएगी, जिसमें वीडियो हेरफेर भी शामिल है।

मैरीलैंड में क्या हुआ?

बाल्टीमोर काउंटी के अधिकारियों ने कहा कि पाइक्सविले हाई के एथलेटिक निदेशक डैज़ोन डेरियन ने प्रिंसिपल एरिक आइस्वर्ट की आवाज़ की क्लोनिंग की है।

पुलिस ने कहा कि फर्जी रिकॉर्डिंग में नस्लवादी और यहूदी विरोधी टिप्पणियाँ थीं।ध्वनि फ़ाइल सोशल मीडिया पर फैलने से पहले कुछ शिक्षकों के इनबॉक्स में एक ईमेल में दिखाई दी थी।

पुलिस ने कहा कि रिकॉर्डिंग तब सामने आई जब आइस्वर्ट ने डेरियन के कार्य प्रदर्शन और स्कूल फंड के कथित दुरुपयोग के बारे में चिंता जताई।

अधिकारियों ने कहा कि फर्जी ऑडियो ने ईस्वर्ट को छुट्टी पर जाने के लिए मजबूर कर दिया, जबकि पुलिस ने उनके घर पर पहरा दे दिया।स्कूल में गुस्से वाले फोन कॉल्स की बाढ़ आ गई, जबकि सोशल मीडिया पर नफरत भरे संदेश जमा हो गए।

जासूसों ने बाहरी विशेषज्ञों से रिकॉर्डिंग का विश्लेषण करने के लिए कहा।एक ने कहा, "इसमें तथ्य के बाद मानव संपादन के साथ एआई-जनित सामग्री के निशान शामिल हैं।"अदालती रिकार्डकहा गया.

रिकॉर्ड्स के अनुसार, बर्कले के प्रोफेसर फरीद की दूसरी राय में पाया गया कि "कई रिकॉर्डिंग्स को एक साथ जोड़ा गया था"।

फरीद ने एसोसिएटेड प्रेस को बताया कि यह सवाल अभी भी बना हुआ है कि वह रिकॉर्डिंग कैसे बनाई गई थी, और उन्होंने इसकी पुष्टि नहीं की है कि यह पूरी तरह से एआई-जनरेटेड थी।

लेकिन एआई की बढ़ती क्षमताओं को देखते हुए, इस तकनीक को बेहतर ढंग से विनियमित करने की आवश्यकता के बारे में फरीद ने कहा कि मैरीलैंड मामला अभी भी "कोयला खदान में कैनरी" के रूप में कार्य करता है।

ऑडियो इतना चिंताजनक क्यों है?

एआई-जनित दुष्प्रचार के कई मामले ऑडियो में सामने आए हैं।

ऐसा आंशिक रूप से इसलिए है क्योंकि प्रौद्योगिकी में इतनी तेजी से सुधार हुआ है।मानव कान भी हमेशा हेरफेर के स्पष्ट संकेतों की पहचान नहीं कर सकते हैं, जबकि वीडियो और छवियों में विसंगतियों को पहचानना आसान होता है।

कुछ लोगों ने आवाज की क्लोनिंग कर ली हैकथित तौर पर बच्चों का अपहरण कर लिया गयाविशेषज्ञों का कहना है कि माता-पिता से फिरौती की रकम पाने के लिए फोन पर।दूसरे ने एक ऐसी कंपनी का मुख्य कार्यकारी होने का दिखावा किया जिसे तत्काल धन की आवश्यकता थी।

इस वर्ष के न्यू हैम्पशायर प्राथमिक के दौरान, एआई-जनित रोबोकॉल ने राष्ट्रपति जो बिडेन की आवाज़ का अनुकरण किया और डेमोक्रेटिक मतदाताओं को मतदान से रोकने की कोशिश की।विशेषज्ञों ने इस वर्ष चुनावों को लक्षित करने वाली एआई-जनित दुष्प्रचार में वृद्धि की चेतावनी दी है।

लेकिन परेशान करने वाली प्रवृत्तियाँ ऑडियो से परे भी हैं, जैसे कि ऐसे कार्यक्रम जो नाबालिगों सहित उनकी सहमति के बिना कपड़े पहने लोगों की नकली नग्न छवियां बनाते हैं, विशेषज्ञों ने चेतावनी दी है।हाल ही में गायिका टेलर स्विफ्ट को निशाना बनाया गया।

क्या किया जा सकता है?

एआई वॉयस-जनरेटिंग तकनीक के अधिकांश प्रदाताओं का कहना है कि वे अपने उपकरणों के हानिकारक उपयोग पर रोक लगाते हैं।लेकिन आत्म-प्रवर्तन भिन्न होता है।

कुछ विक्रेताओं को एक प्रकार के ध्वनि हस्ताक्षर की आवश्यकता होती है, या वे किसी आवाज को क्लोन करने से पहले उपयोगकर्ताओं को वाक्यों का एक अनूठा सेट सुनाने के लिए कहते हैं।

बड़ी तकनीकी कंपनियां, जैसे कि फेसबुक की मूल कंपनी मेटा और चैटजीपीटी-निर्माता ओपनएआई, दुरुपयोग के जोखिमों के कारण विश्वसनीय उपयोगकर्ताओं के एक छोटे समूह को ही तकनीक के साथ प्रयोग करने की अनुमति देती हैं।

फरीद ने कहा कि और भी बहुत कुछ करने की जरूरत है।उदाहरण के लिए, सभी कंपनियों को उपयोगकर्ताओं से फ़ोन नंबर और क्रेडिट कार्ड जमा करने की आवश्यकता होनी चाहिए ताकि वे प्रौद्योगिकी का दुरुपयोग करने वालों की फ़ाइलों का पता लगा सकें।

एक अन्य विचार यह है कि डिजिटल वॉटरमार्क रखने के लिए रिकॉर्डिंग और छवियों की आवश्यकता होती है।

फरीद ने कहा, "आप ऑडियो को ऐसे तरीकों से संशोधित करते हैं जो मानव श्रवण प्रणाली के लिए अदृश्य हैं, लेकिन इस तरह से कि सॉफ्टवेयर के एक टुकड़े द्वारा पहचाना जा सके।"

सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के सीईओ एलेक्जेंड्रा रीव गिवेंस ने कहा कि सबसे प्रभावी हस्तक्षेप एआई के आपराधिक उपयोग के खिलाफ कानून प्रवर्तन कार्रवाई है।अधिक उपभोक्ता शिक्षा की भी आवश्यकता है।

एक अन्य फोकस एआई कंपनियों और सोशल मीडिया प्लेटफार्मों के बीच जिम्मेदार आचरण पर जोर देना चाहिए।लेकिन यह जेनरेटिव एआई पर प्रतिबंध लगाने जितना आसान नहीं है।

"इसे जोड़ना जटिल हो सकता हैकानूनी देयताक्योंकि, कई मामलों में, प्रौद्योगिकी का सकारात्मक या पुष्टिकारक उपयोग हो सकता है," गिवेंस ने अनुवाद और पुस्तक-पठन कार्यक्रमों का हवाला देते हुए कहा।

दक्षिणी कैलिफोर्निया विश्वविद्यालय में सूचना पुनर्प्राप्ति और डेटा विज्ञान समूह के निदेशक क्रिश्चियन मैटमैन ने कहा, एक और चुनौती नैतिकता और दिशानिर्देशों पर अंतरराष्ट्रीय सहमति प्राप्त करना है।

मैटमैन ने कहा, "लोग एआई का उपयोग अलग-अलग तरीके से करते हैं, यह इस बात पर निर्भर करता है कि वे किस देश में हैं।""और यह सिर्फ सरकारें नहीं हैं, यह लोग हैं। इसलिए संस्कृति मायने रखती है।"

© 2024 एसोसिएटेड प्रेस।सर्वाधिकार सुरक्षित।इस सामग्री को बिना अनुमति के प्रकाशित, प्रसारित, पुनः लिखा या पुनर्वितरित नहीं किया जा सकता है।