दुनिया भर के नीति निर्माता कृत्रिम बुद्धिमत्ता प्रौद्योगिकी में प्रगति के व्यापक निहितार्थों से जूझ रहे हैं, जिसमें यह भी शामिल है कि अंतरराष्ट्रीय संगठनों द्वारा इन उपकरणों का उपयोग कैसे किया जाएगा।

वर्जीनिया विश्वविद्यालय के स्कूल ऑफ डेटा साइंस के सहायक प्रोफेसर आरोन मार्टिन को हाल ही में एक कार्यक्रम के दौरान इस महत्वपूर्ण विषय पर अपनी अंतर्दृष्टि साझा करने के लिए आमंत्रित किया गया था।पैनल चर्चाडेटा संरक्षण पर अंतर्राष्ट्रीय संगठन कार्यशाला में, जो वाशिंगटन में विश्व बैंक में आयोजित की गई थी और यूरोपीय डेटा संरक्षण पर्यवेक्षक द्वारा सह-मेजबानी की गई थी।इस वर्ष की सभा में पहली बार सम्मेलन यूरोप के बाहर हुआ।

मार्टिन, जो 2023 में यूवीए के मीडिया अध्ययन विभाग में संयुक्त नियुक्ति के साथ स्कूल ऑफ डेटा साइंस संकाय में शामिल हुए, डेटा गवर्नेंस में माहिर हैं और कैसे अंतरराष्ट्रीय निकाय अंतरराष्ट्रीय नीति स्थापित करते हैं, खासकर जब यह प्रौद्योगिकी से संबंधित है।

पैनल चर्चा में, मार्टिन ने डेटा सुरक्षा के साथ वैश्विक संस्थानों के सामने आने वाली चुनौतियों पर अपने विचार साझा किए और यह क्यों महत्वपूर्ण है कि वे उन्हें संबोधित करने के लिए काम करें।

उन्होंने हाल ही में सम्मेलन में अपने अनुभव और इस तेजी से विकसित हो रहे वैश्विक मुद्दे के कई पहलुओं पर अपने विचारों के बारे में बात की।

आपका पैनल अंतरराष्ट्रीय संगठनों द्वारा एआई के उपयोग पर केंद्रित है।मोटे तौर पर, इन एजेंसियों द्वारा एआई सिस्टम का कितना व्यापक रूप से उपयोग किया जाता है, इस बारे में आपकी क्या राय है?

कहना काफी होगा,अंतरराष्ट्रीय संगठनâजिनमें डी.सी. की कार्यशाला में प्रतिनिधित्व किया गया था, वे भी अपने मिशन और अधिदेशों के संदर्भ में बहुत विविध हैं।

इनमें विकास या मानवीय मिशन वाली संयुक्त राष्ट्र एजेंसियों से लेकर नाटो या इंटरपोल जैसे संगठन शामिल हैं, जो अंतरराष्ट्रीय स्तर पर सुरक्षा और कानून प्रवर्तन सहयोग की सुविधा प्रदान करते हैं।उनमें से प्रत्येक अलग-अलग तरीकों से एआई के उपयोग की खोज कर रहा है, और मेरी धारणा है कि वर्तमान में, उनका दृष्टिकोण सतर्क है, जो उत्साहजनक है।

आईओ की एक प्रमुख विशेषता यह है कि वे कानूनी उन्मुक्तियों और विशेषाधिकारों का आनंद लेते हैं - ये उनकी स्वतंत्रता और प्रभावी कामकाज सुनिश्चित करने में मदद करते हैं।व्यवहार में इसका मतलब यह है कि डेटा सुरक्षा (जैसे सामान्य डेटा संरक्षण विनियमन) और एआई (ईयू एआई अधिनियम की तरह) के लिए राष्ट्रीय कानून और नियम आईओ पर लागू नहीं होंगे, जैसे वे सरकारी निकायों या वाणिज्यिक फर्मों पर लागू होते हैं।

यह एक वास्तविक शासन मुद्दा बन जाता है - हम यह कैसे सुनिश्चित करें कि आईओ डेटा संसाधित कर रहे हैं और नई प्रौद्योगिकियों का जिम्मेदारी से उपयोग कर रहे हैं?इनमें से अधिकांश संगठनों ने गोपनीयता के लिए नीतियां स्थापित की हैंडेटा सुरक्षा, लेकिन AI चुनौतियों का एक नया सेट पेश करता है जिनसे उन्हें जूझना होगा।इस कार्यशाला का उद्देश्य संगठनों के लिए डेटा और तेजी से एआई के लिए अच्छे मार्गदर्शन और अभ्यास विकसित करने के लिए मिलकर काम करना है।

चर्चा आंशिक रूप से इन प्रणालियों के जोखिमों पर केंद्रित थी।जब अंतरराष्ट्रीय संगठनों को अपने काम से प्रभावित कई निर्वाचन क्षेत्रों में एआई के जोखिमों को कम करने की बात आती है तो उन्हें क्या प्राथमिकता देनी चाहिए?

हाल ही में, मैं गुणवत्ता डेटा के नए स्रोतों तक पहुंच के मामले में एआई कंपनियों के सामने आने वाली चुनौतियों के बारे में समाचार रिपोर्टों से प्रभावित हुआ हूं।इस बात की चिंता बढ़ रही है कि यदि एआई मॉडल को अधिक से अधिक डेटा नहीं दिया गया तो वे कम उपयोगी और कम विश्वसनीय हो जाएंगे - ये मॉडल "भूखे" हैं, जैसा कि मेरे एक सह-पैनलिस्ट ने इसका वर्णन किया है।ऐसी आशंका है कि यदि एआई मॉडल को बहुत अधिक सिंथेटिक (यानी, नकली) या एआई-जनरेटेड डेटा पर प्रशिक्षित किया गया तो वे ध्वस्त होने लगेंगे, इसलिए एआई कंपनियां नए डेटा भागीदारों के लिए संघर्ष कर रही हैं।

कार्यशाला में, मैंने अपना ध्यान एआई कंपनियों के साथ आईओ के अत्यधिक डेटा साझा करने के विभिन्न जोखिमों के बारे में जागरूकता बढ़ाने पर केंद्रित किया।आईओ के पास अविश्वसनीय रूप से समृद्ध और विविध डेटा है, उदाहरण के लिए, विकास संकेतक, वैश्विक संघर्ष और मानवीय मामलों के बारे में।

उनके पास दुनिया के कुछ हिस्सों से भी डेटा है जो ऑनलाइन बहुत कम प्रस्तुत किया जाता है, जहां एआई कंपनियां आमतौर पर डेटा को स्क्रैप करने के लिए जाती हैं।आईओ को इस बारे में सावधानी से सोचने की ज़रूरत है कि इस डेटा की गोपनीयता कैसे सुनिश्चित की जाए और इसे दुरुपयोग और विषाक्त एआई-बिजनेस मॉडल से बचाने के लिए कदम उठाए जाएं।

जैसा कि आपने उल्लेख किया है, अंतर्राष्ट्रीय संगठन एकाकी नहीं हैं, और आपके पैनल के दर्शक विविध समूहों के प्रतिनिधियों से बने थे।विभिन्न प्रकार के अंतर्राष्ट्रीय संगठनों को अपने मिशन के आधार पर इन मुद्दों पर किस हद तक अलग-अलग सोचना चाहिए?

कुछ सामान्य चुनौतियाँ होंगी - उदाहरण के लिए, प्रत्येक IO में एक मानव संसाधन विभाग होता है, इसलिए IOs में एंटरप्राइज़ एप्लिकेशन वैसे ही मौजूद होते हैं जैसे वे किसी अन्य संगठन में होते हैं।और कई--यदि अधिकांश नहीं--आईओ के पास महत्वपूर्ण बजटीय विचार हैं जो जेनेरिक एआई सहित एआई उपकरणों के उनके उपयोग को आकार देंगे और संभवतः सीमित करेंगे।

मेरी शोध में विशेष रुचि इस बात में है कि मानवतावादी आईओ द्वारा एआई का उपयोग सहायता प्राप्तकर्ताओं-तथाकथित लाभार्थियों को कैसे प्रभावित कर सकता है।उदाहरण के लिए, खाद्य सहायता किसे मिलेगी, इसके बारे में निर्णय लेने के लिए क्या आईओ को विशेष रूप से एआई पर निर्भर रहना चाहिए?ऐसा करने के जोखिम क्या हैं?ये कठिन प्रश्न हैं जिनके लिए कई हितधारकों के साथ जुड़ाव की आवश्यकता होती है, जिनमें इन निर्णयों से सीधे प्रभावित होने वाले लोग भी शामिल हैं।

आपने ऐतिहासिक रूप से हाशिए पर रहने वाले समुदायों, विशेषकर शरणार्थियों पर प्रौद्योगिकी के प्रभाव को देखते हुए बहुत काम किया है।जब विशेष रूप से मानवीय संगठनों और एआई की बात आती है, तो आपकी सबसे बड़ी चिंताएं क्या हैं?

मानवीय संगठन आमतौर पर एआई के प्रति अपने दृष्टिकोण के बारे में काफी विचारशील हैं।"डिजिटल नुकसान न करें" उनका मंत्र है, जिसका अर्थ है कि वे उन संभावित और वास्तविक नुकसानों के प्रति बहुत संवेदनशील हैं जो एआई शरणार्थियों और संघर्ष और संकट से प्रभावित अन्य लोगों को पहुंचा सकता है।

मुझे इस बात की चिंता है कि सहायता क्षेत्र में जिसे "एआई स्नेक ऑयल" कहा जाता है, और संगठनों को ऐसी तकनीक बेची जा रही है जो प्रचार के अनुरूप काम नहीं कर सकती।यह महत्वपूर्ण है कि हम इन संगठनों के साथ जुड़ना जारी रखें ताकि उन्हें संभावनाओं और जोखिमों को समझने में मदद मिल सके।

आपके पैनल के अन्य वक्ताओं और सम्मेलन में आपके द्वारा सुने गए अन्य वक्ताओं से आपकी कुछ मुख्य बातें क्या थीं?

खैर, यह चैथम हाउस नियम था, इसलिए मुझे यहां सावधान रहना चाहिए, लेकिन मैं उस रणनीतिक सोच से काफी प्रभावित हुआ जो आईओ अपने संगठनों में एआई को शामिल करने के लिए कर रहे हैं।मैंने अन्य सम्मेलनों में भाग लिया है जहां ऐसा महसूस होता है कि लोग बिना सोचे-समझे एआई उपयोग के मामलों की तलाश में हैं, और यह आमतौर पर गलत दृष्टिकोण है।

एक अन्य पैनलिस्ट ने बताया कि कैसे उनका संगठन दस्तावेज़ बनाने के लिए एआई का उपयोग कर रहा हैमानव अधिकारदुनिया भर में दुर्व्यवहार, जो एक आकर्षक अनुप्रयोग है और एआई के दुनिया में सकारात्मक प्रभाव डालने की क्षमता के बारे में बताता है।