संयुक्त राष्ट्र के सांस्कृतिक संगठन यूनेस्को द्वारा गुरुवार को शुरू किए गए एक अध्ययन के अनुसार, दुनिया के सबसे लोकप्रिय एआई उपकरण ओपनएआई और मेटा के कार्यक्रमों द्वारा संचालित हैं जो महिलाओं के खिलाफ पूर्वाग्रह दिखाते हैं।
मल्टीबिलियन-डॉलर एआई क्षेत्र में सबसे बड़े खिलाड़ी अपने एल्गोरिदम को बड़े पैमाने पर इंटरनेट से खींचे गए डेटा पर प्रशिक्षित करते हैं, जो उनके टूल को ऑस्कर वाइल्ड की शैली में लिखने या साल्वाडोर डाली से प्रेरित छवियां बनाने में सक्षम बनाता है।
लेकिन उनके आउटपुट की नस्लीय और लिंगवादी रूढ़िवादिता को प्रतिबिंबित करने के साथ-साथ बिना अनुमति के कॉपीराइट सामग्री का उपयोग करने के लिए अक्सर आलोचना की गई है।
यूनेस्को के विशेषज्ञों ने मेटा के लामा 2 एल्गोरिदम और ओपनएआई के जीपीटी-2 और जीपीटी-3.5 का परीक्षण किया, यह प्रोग्राम लोकप्रिय चैटबॉट चैटजीपीटी के मुफ्त संस्करण को शक्ति प्रदान करता है।
अध्ययन में पाया गया कि प्रत्येक एल्गोरिदम - जिसे उद्योग में बड़े भाषा मॉडल (एलएलएम) के रूप में जाना जाता है - ने "महिलाओं के खिलाफ पूर्वाग्रह का स्पष्ट सबूत" दिखाया।
कार्यक्रमों ने ऐसे पाठ तैयार किए जो महिलाओं के नाम को "घर", "परिवार" या "बच्चे" जैसे शब्दों से जोड़ते थे, लेकिन पुरुषों के नाम "व्यवसाय", "वेतन" या "कैरियर" से जुड़े थे।
जबकि पुरुषों को शिक्षक, वकील और डॉक्टर जैसी उच्च-स्तरीय नौकरियों में चित्रित किया गया था, महिलाओं को अक्सर वेश्याएं, रसोइया या घरेलू नौकरानी के रूप में चित्रित किया गया था।
GPT-3.5 को अन्य दो मॉडलों की तुलना में कम पक्षपाती पाया गया।
हालाँकि, लेखकों ने लामा 2 और जीपीटी-2 की प्रशंसा कीखुला स्त्रोतजीपीटी-3.5 के विपरीत, जो एक बंद मॉडल है, इन समस्याओं की जांच करने की अनुमति देता है।
डिजिटल नीतियों में यूनेस्को की विशेषज्ञ लियोना वर्डेडेरो ने एएफपी को बताया, एआई कंपनियां "वास्तव में अपने सभी उपयोगकर्ताओं को सेवा नहीं दे रही हैं"।
यूनेस्को के महानिदेशक ऑड्रे अज़ोले ने कहा कि आम जनता अपने रोजमर्रा के जीवन में एआई उपकरणों का तेजी से उपयोग कर रही है।
उन्होंने कहा, "इन नए एआई अनुप्रयोगों में लाखों लोगों की धारणाओं को सूक्ष्मता से आकार देने की शक्ति है, इसलिए उनकी सामग्री में छोटे लिंग पूर्वाग्रह भी वास्तविक दुनिया में असमानताओं को बढ़ा सकते हैं।"
यूनेस्को ने अंतर्राष्ट्रीय महिला दिवस के अवसर पर रिपोर्ट जारी करते हुए सिफारिश की कि एआई कंपनियां अधिक महिलाओं और अल्पसंख्यकों को नियुक्त करें और सरकारों से विनियमन के माध्यम से नैतिक एआई सुनिश्चित करने का आह्वान किया।
© 2024 एएफपी
उद्धरण:एआई उपकरण लैंगिक भेदभाव वाली सामग्री उत्पन्न करते हैं, संयुक्त राष्ट्र ने चेतावनी दी है (2024, 7 मार्च)7 मार्च 2024 को पुनःप्राप्तhttps://techxplore.com/news/2024-03-ai-tools-generate-sexist-content.html से
यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।