पिछले साल अनुसंधान इंटर्नशिप की तलाश करते समय, वाशिंगटन विश्वविद्यालय के स्नातक छात्र केट ग्लेज़को ने भर्तीकर्ताओं को ऑनलाइन पोस्ट करते हुए देखा कि उन्होंने बायोडाटा को सारांशित करने और उम्मीदवारों को रैंक करने के लिए ओपनएआई के चैटजीपीटी और अन्य कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग किया था।स्वचालित स्क्रीनिंग हैदशकों से नियुक्ति में यह आम बात रही है.अभी तकGlazkoयूडब्ल्यू के पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग में डॉक्टरेट छात्र पढ़ता हैकैसे जेनरेटिव एआई वास्तविक दुनिया के पूर्वाग्रहों को दोहरा सकता है और बढ़ा सकता हैâजैसे किविकलांग लोगों के खिलाफ.उसने सोचा, ऐसी प्रणाली कैसे रैंक रिज्यूमे बन सकती है, जिसमें यह दर्शाया जाए कि कोई व्यक्ति विकलांग है?
एक नए अध्ययन में, यूडब्ल्यू शोधकर्ताओं ने पाया कि चैटजीपीटी ने लगातार विकलांगता-संबंधी सम्मान और प्रमाण-पत्रों जैसे "टॉम विल्सन डिसेबिलिटी लीडरशिप अवार्ड" वाले बायोडाटा को उन सम्मानों और प्रमाण-पत्रों के बिना समान बायोडाटा से कम रैंक दिया है।जब रैंकिंग की व्याख्या करने के लिए कहा गया, तो सिस्टम ने विकलांग लोगों के बारे में पक्षपातपूर्ण धारणाएं उगल दीं।उदाहरण के लिए, यह दावा किया गया कि ऑटिज्म नेतृत्व पुरस्कार के साथ बायोडाटा में "नेतृत्व भूमिकाओं पर कम जोर" दिया गया था - जिसका अर्थ यह रूढ़िवादिता है कि ऑटिज्म से पीड़ित लोग अच्छे नेता नहीं होते हैं।
लेकिन जब शोधकर्ताओं ने उपकरण को लिखित निर्देशों के साथ अनुकूलित किया और निर्देश दिया कि वह सक्षम न हो, तो उपकरण ने इसे कम कर दियापक्षपातपरीक्षण की गई एक को छोड़कर सभी विकलांगताओं के लिए।छह अंतर्निहित विकलांगताओं में से पांच - बहरापन, अंधापन,मस्तिष्क पक्षाघात, ऑटिज़्म और सामान्य शब्द "विकलांगता" में सुधार हुआ, लेकिन उन बायोडाटा की तुलना में केवल तीन स्थान ऊपर हैं जिनमें विकलांगता का उल्लेख नहीं था।
टीम ने प्रस्तुति दीइसके निष्कर्ष5 जून को रियो डी जनेरियो में निष्पक्षता, जवाबदेही और पारदर्शिता पर 2024 एसीएम सम्मेलन में।
अध्ययन के मुख्य लेखक ग्लेज़को ने कहा, "एआई के साथ रैंकिंग रिज्यूमे का प्रसार शुरू हो रहा है, फिर भी यह सुरक्षित और प्रभावी है या नहीं, इसके पीछे ज्यादा शोध नहीं हुआ है।""एक विकलांग नौकरी चाहने वाले के लिए, जब आप बायोडाटा जमा करते हैं तो हमेशा यह सवाल होता है कि क्या आपको विकलांगता प्रमाण-पत्र शामिल करना चाहिए। मुझे लगता हैविकलांगउस पर तब भी विचार करें जब मनुष्य ही समीक्षक हों।"
शोधकर्ताओं ने अध्ययन के लेखकों में से एक के सार्वजनिक रूप से उपलब्ध पाठ्यक्रम बायोडाटा (सीवी) का उपयोग किया, जो लगभग 10 पृष्ठों का था।इसके बाद टीम ने छह उन्नत सीवी बनाए, जिनमें से प्रत्येक में चार विकलांगता-संबंधित क्रेडेंशियल्स को शामिल करके एक अलग विकलांगता का संकेत दिया गया: एक छात्रवृत्ति;एक पुरस्कार;विविधता, समानता और समावेशन (डीईआई) पैनल सीट;और एक छात्र संगठन में सदस्यता।
इसके बाद शोधकर्ताओं ने एक बड़ी, यू.एस.-आधारित सॉफ़्टवेयर कंपनी में वास्तविक "छात्र शोधकर्ता" नौकरी सूची के लिए मूल संस्करण के मुकाबले इन उन्नत सीवी को रैंक करने के लिए चैटजीपीटी के जीपीटी -4 मॉडल का उपयोग किया।उन्होंने प्रत्येक तुलना को 10 बार चलाया;60 परीक्षणों में, सिस्टम ने उन्नत सीवी को रैंक किया, जो निहित विकलांगता को छोड़कर समान थे, पहले केवल एक चौथाई समय में।
एलन स्कूल में यूडब्ल्यू प्रोफेसर और वरिष्ठ लेखिका जेनिफर मैनकॉफ ने कहा, "निष्पक्ष दुनिया में, उन्नत बायोडाटा को हर बार पहले स्थान पर रखा जाना चाहिए।""मैं ऐसी नौकरी के बारे में नहीं सोच सकता जहां उदाहरण के लिए, अपने नेतृत्व कौशल के लिए पहचाने जाने वाले किसी व्यक्ति को उसी पृष्ठभूमि वाले किसी ऐसे व्यक्ति से आगे नहीं रखा जाना चाहिए जिसने ऐसा नहीं किया है।"
जब शोधकर्ताओं ने GPT-4 से रैंकिंग समझाने के लिए कहा, तो उसकी प्रतिक्रियाएँ स्पष्ट और अंतर्निहित दिखाई दींसमर्थवाद.उदाहरण के लिए, यह नोट किया गया कि अवसाद से पीड़ित एक उम्मीदवार का "डीईआई और व्यक्तिगत चुनौतियों पर अतिरिक्त ध्यान केंद्रित था," जो "भूमिका के मुख्य तकनीकी और अनुसंधान-उन्मुख पहलुओं से अलग हो गया।"
ग्लेज़को ने कहा, "जीपीटी के कुछ विवरण किसी व्यक्ति के पूरे बायोडाटा को उनकी विकलांगता के आधार पर रंग देंगे और दावा किया जाएगा कि डीईआई या विकलांगता के साथ जुड़ाव संभावित रूप से बायोडाटा के अन्य हिस्सों को छीन रहा है।""उदाहरण के लिए, इसने डिप्रेशन रिज्यूम तुलना में 'चुनौतियों' की अवधारणा को भ्रमित कर दिया, भले ही 'चुनौतियों' का बिल्कुल भी उल्लेख नहीं किया गया था। इसलिए आप कुछ रूढ़िवादिता को उभरते हुए देख सकते हैं।"
अधिक जानकारी:केट ग्लेज़्को एट अल, जीपीटी-आधारित रेज़्यूमे स्क्रीनिंग में विकलांगता पूर्वाग्रह की पहचान करना और सुधार करना,निष्पक्षता, जवाबदेही और पारदर्शिता पर 2024 एसीएम सम्मेलन(2024)।डीओआई: 10.1145/3630106.3658933
उद्धरण:ChatGPT उन क्रेडेंशियल्स वाले बायोडाटा के प्रति पक्षपाती है जो विकलांगता का संकेत देते हैं - लेकिन इसमें सुधार हो सकता है (2024, 22 जून)22 जून 2024 को पुनःप्राप्तhttps://techxplore.com/news/2024-06-chatgpt-biased-resumes-credentials-imply.html से
यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।