गुरुवार को एएफपी द्वारा देखे गए एक खुले पत्र के मसौदे के अनुसार, दो दर्जन से अधिक अंतरराष्ट्रीय नागरिक समाज संगठन सोशल मीडिया प्लेटफार्मों को परेशान करने वाली "लिंगवादी और स्त्रीद्वेषी" गलत सूचना से निपटने के लिए अपनी एआई नीतियों को मजबूत करने के लिए प्रमुख तकनीकी फर्मों को बुलाएंगे।

को पत्रमुख्य कार्यकारी अधिकारीमेटा, एक्स, यूट्यूब, टिकटॉक, स्नैपचैट और रेडिट जैसे छह दिग्गज गैर-सहमति वाले डीपफेक पोर्न में ऑनलाइन उछाल के साथ-साथ सस्ते, व्यापक रूप से उपलब्ध कृत्रिम बुद्धिमत्ता टूल द्वारा सक्षम उत्पीड़न और घोटालों का अनुसरण कर रहे हैं।

अल्ट्रावायलेट, जीएलएएडी, नेशनल ऑर्गनाइजेशन फॉर वुमेन और मायओन इमेज सहित 27 डिजिटल और मानवाधिकार संगठनों द्वारा हस्ताक्षरित पत्र में कहा गया है, "यह स्पष्ट है कि ये नुकसान समान रूप से महसूस नहीं किए जाते हैं।"

"विशेष रूप से, महिलाएं,ट्रांस लोग, और गैर-बाइनरी लोगों को सोशल मीडिया पर एआई-आधारित सामग्री के प्रतिकूल प्रभावों का अनुभव करने का विशिष्ट जोखिम है।"

पत्र, जिसे समूहों ने शुक्रवार को सार्वजनिक किया जाएगा, में एआई नीतियों को मजबूत करने के लिए एक दर्जन सिफारिशें कीं।

इनमें गैर-सहमति वाली स्पष्ट सामग्री पोस्ट करने के परिणामों को स्पष्ट रूप से परिभाषित करना शामिल है - जिसमें बार-बार उल्लंघन करने वालों का निलंबन शामिल होना चाहिए - एआई-जनित दृश्यों का पता लगाने के लिए तीसरे पक्ष के टूल को लागू करना और ऐसी सामग्री की स्पष्ट लेबलिंग शामिल होनी चाहिए।

समूहों ने उपयोगकर्ताओं के लिए हानिकारक सामग्री को चिह्नित करने और रिपोर्ट करने के लिए एक सुसंगत प्रक्रिया की भी मांग की और कहा कि प्लेटफ़ॉर्म अपनी एआई नीतियों का व्यापक वार्षिक ऑडिट करें।

स्त्रीद्वेषी, लैंगिकवादी हमले

यह पत्र उस चुनाव से बमुश्किल एक महीने पहले आया है, जिसे व्यापक रूप से 5 नवंबर को अमेरिका के पहले एआई चुनाव के रूप में प्रचारित किया जा रहा है। व्हाइट हाउस की कड़ी दौड़ में दुष्प्रचार की आग देखी गई है।

लैंगिक दुष्प्रचार का एक विशेष लक्ष्य डेमोक्रेटिक पार्टी की उम्मीदवार कमला हैरिस हैं, जिसमें अमेरिकी इतिहास में पहली अश्वेत, दक्षिण एशियाई और महिला उपराष्ट्रपति पर हमला करने वाले स्त्री-द्वेषी और लिंगवादी आख्यानों की बाढ़ शामिल है।

अल्ट्रावायलेट के अभियान निदेशक जेना शर्मन ने कहा, "ये नुकसान हमें ऑनलाइन चुप कराते हैं, हमारी अपनी छवि को नियंत्रित करने के हमारे अधिकार का उल्लंघन करते हैं और हमारे चुनावों को विकृत करते हैं।"

"लेकिन इससे भी बदतर, वे सामान्यीकरण करते हैं और यहां तक ​​कि एल्गोरिदमिक रूप से संहिताबद्ध भी करते हैंयौन शोषणऔर लिंग, कामुकता और सहमति के बारे में हानिकारक रूढ़िवादिता को सुदृढ़ करते हैं।"

विशेषज्ञों का कहना है कि गैर-सहमति वाले डीपफेक का प्रसार विश्व स्तर पर प्रौद्योगिकी को विनियमित करने के प्रयासों को पीछे छोड़ रहा है, कई फोटो ऐप डिजिटल रूप से महिलाओं के कपड़े उतार रहे हैं और छवियों में हेरफेर कर "सेक्सटॉर्शन" रैकेट को बढ़ावा दे रहे हैं।

जबकि गायिका टेलर स्विफ्ट और अभिनेत्री एम्मा वॉटसन जैसी हस्तियां डीपफेक पोर्न की शिकार रही हैं, विशेषज्ञों का कहना है कि जो महिलाएं सार्वजनिक नजरों में नहीं हैं, वे भी समान रूप से असुरक्षित हैं।

इंस्टीट्यूट फॉर स्ट्रैटेजिक डायलॉग के वरिष्ठ अमेरिकी डिजिटल नीति प्रबंधक एलेन जैकब्स, जो पत्र पर हस्ताक्षर करने वाले संगठनों में से थे, ने कहा, "एआई प्रौद्योगिकियों ने ऑनलाइन लिंग-आधारित उत्पीड़न और दुर्व्यवहार के निर्माण और प्रसार को और अधिक सुविधाजनक बना दिया है।"

"हमें प्रभावी नीतियों की आवश्यकता है जो विशेष रूप से महिलाओं, लड़कियों और एलजीबीटीक्यू+ लोगों के लिए बढ़ते जोखिमों को संबोधित करें।"

प्लेटफ़ॉर्म ने रिलीज़ से पहले टिप्पणी के अनुरोध का तुरंत जवाब नहीं दियापत्र.

सोशल मीडिया सुरक्षा लीना गारफील्ड ने कहा, "दुनिया के सबसे बड़े प्लेटफार्मों ने दिखाया है कि वे डीपफेक और बॉट्स सहित एआई-सुविधा वाले नफरत, उत्पीड़न और दुष्प्रचार अभियानों के उदय को संभालने के लिए सुसज्जित नहीं हैं, जो बड़े पैमाने पर नफरत-आधारित कल्पना को फैला सकते हैं।"GLAAD में प्रोग्राम मैनेजर।

प्लेटफ़ॉर्म को "अब ठोस कार्रवाई करने की ज़रूरत है, ताकि हर कोई ऑनलाइन सुरक्षित महसूस कर सके।"

© 2024 एएफपी