मेटा के निरीक्षण बोर्ड ने मंगलवार को कहा कि वह दो मामलों के नजरिए से सोशल मीडिया टाइटन की डीपफेक पोर्न नीतियों की जांच कर रहा है।

इस कदम को मेटा कहा जाता है"सुप्रीम कोर्ट"सामग्री मॉडरेशन के लिए विवाद एक्स, पूर्व में ट्विटर पर मेगास्टार टेलर स्विफ्ट की अश्लील एआई-जनरेटेड छवियों के व्यापक रूप से साझा होने के कुछ ही महीनों बाद आया है।

विज्ञप्ति में कहा गया है कि मेटा बोर्ड ने इंस्टाग्राम और फेसबुक पर साझा की गई छवियों के संबंध में अपने दो मामलों को चुना, "यह आकलन करने के लिए कि मेटा की नीतियां और इसकी प्रवर्तन प्रथाएं स्पष्ट एआई-जनरेटेड इमेजरी को संबोधित करने में प्रभावी हैं या नहीं।"

बोर्ड इसके संबंध में सिफारिशें कर सकता हैसोशल मीडियाजायंट की डीपफेक पोर्न नीतियां लेकिन वास्तव में कोई बदलाव करना टेक फर्म पर निर्भर है।

मेटा ओवरसाइट बोर्ड द्वारा उठाए गए पहले मामले में इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की एआई-जनरेटेड छवि शामिल है।

चित्रित महिला भारत में एक सार्वजनिक व्यक्ति जैसी दिखती है, जिससे उस देश में उपयोगकर्ताओं की शिकायतें बढ़ रही हैं।

बोर्ड ने कहा, मेटा ने छवि को ऊपर छोड़ दिया, बाद में कहा कि उसने गलती से ऐसा किया।

दूसरे मामले में एआई क्रिएशन को समर्पित एक फेसबुक समूह पर पोस्ट की गई तस्वीर शामिल है।

बोर्ड ने एक विज्ञप्ति में कहा कि उस छवि में एक नग्न महिला को दर्शाया गया है जो "एक अमेरिकी सार्वजनिक हस्ती" से मिलती जुलती है और एक आदमी उसके एक स्तन को छू रहा है।

बोर्ड ने उस महिला का नाम नहीं बताया, जिसके बारे में उसने कहा कि उसकी पहचान मुद्दे पर सिंथेटिक छवि पर एक कैप्शन में की गई थी।

बोर्ड के अनुसार, मेटा ने अपनी उत्पीड़न नीति का उल्लंघन करने के लिए छवि को हटा दिया, और सामग्री पोस्ट करने वाले उपयोगकर्ता ने निर्णय के खिलाफ अपील की।

लोगों को टिप्पणी प्रस्तुत करने के लिए आमंत्रित किया गया था, विशेष रूप से डीपफेक पोर्नोग्राफ़ी से होने वाले नुकसान की गंभीरता और इससे उन महिलाओं को होने वाले नुकसान पर जो सार्वजनिक हस्तियां हैं।

मशहूर हस्तियों की डीपफेक अश्लील तस्वीरें नई नहीं हैं, लेकिन कार्यकर्ताओं और नियामकों को चिंता है कि जेनेरिक एआई का उपयोग करने वाले उपयोग में आसान उपकरण विषाक्त या हानिकारक सामग्री की एक बेकाबू बाढ़ पैदा कर देंगे।

दुनिया के शीर्ष-कलाकारों में से एक, स्विफ्ट को निशाना बनाना, जिनके नवीनतम संगीत कार्यक्रम ने उन्हें अमेरिकी प्रसिद्धि के शीर्ष पर पहुंचा दिया, ने इस घटना पर प्रकाश डाला, उनके कई प्रशंसकों ने इस घटनाक्रम पर नाराजगी जताई।

उस समय की छवियों के बारे में पूछे जाने पर व्हाइट हाउस की प्रेस सचिव कैरिन जीन-पियरे ने कहा, "यह चिंताजनक है।"

जीन-पियरे ने कहा, "अफसोस की बात है कि हम जानते हैं कि प्रवर्तन की कमी (तकनीकी प्लेटफार्मों द्वारा) महिलाओं पर असंगत रूप से प्रभाव डालती है और वे उन लड़कियों पर भी प्रभाव डालती हैं जो ऑनलाइन उत्पीड़न का भारी लक्ष्य हैं।"

© 2024 एएफपी