इंसानों की तरह, एआई-आधारित बड़े-भाषा मॉडल में नैतिकता और मूल्य जैसी विशेषताएं होती हैं।हालाँकि, ये हमेशा पारदर्शी नहीं होते हैं।मैनहेम विश्वविद्यालय और जीईएसआईएस-लिबनिज इंस्टीट्यूट फॉर द सोशल साइंसेज के शोधकर्ताओं ने अब विश्लेषण किया है कि भाषा मॉडल की सेटिंग्स को कैसे दृश्यमान बनाया जा सकता है और इन पूर्वाग्रहों के समाज पर पड़ने वाले परिणामों की जांच की है।

चैटजीपीटी या डीपएल जैसे वाणिज्यिक एआई एप्लिकेशन रूढ़िवादिता के उदाहरण पेश करते हैं, जब वे स्वचालित रूप से मान लेते हैं कि वरिष्ठ चिकित्सक पुरुष हैं और नर्सें महिलाएं हैं।लेकिनजातिगत भूमिकायेंयह एकमात्र मामला नहीं है जहां बड़े-भाषा मॉडल (एलएलएम) विशिष्ट प्रवृत्ति दिखाते हैं।अन्य मानवीय विशेषताओं का विश्लेषण करते समय समान प्रवृत्तियों को पाया और मापा जा सकता है।यह मैनहेम विश्वविद्यालय और जीईएसआईएस-लिबनीज़ इंस्टीट्यूट फॉर द सोशल साइंसेज के शोधकर्ताओं द्वारा किए गए एक नए अध्ययन का परिणाम है, जिन्होंने सार्वजनिक रूप से उपलब्ध कई एलएलएम का विश्लेषण किया।

अपने अध्ययन में, शोधकर्ताओं ने विभिन्न एलएलएम के प्रोफाइल का विश्लेषण और तुलना करने के लिए अच्छी तरह से मान्यता प्राप्त मनोवैज्ञानिक परीक्षणों का उपयोग किया।मैनहेम विश्वविद्यालय में अर्थशास्त्र और सामाजिक विज्ञान में डेटा साइंस के अध्यक्ष के सहायक प्रोफेसर मैक्स पेलर्ट कहते हैं, "हमारे अध्ययन में, हम दिखाते हैं कि दशकों से मनुष्यों के लिए सफलतापूर्वक उपयोग किए जाने वाले साइकोमेट्रिक परीक्षणों को एआई मॉडल में स्थानांतरित किया जा सकता है।"

यह अध्ययन अर्थशास्त्र और सामाजिक विज्ञान में डेटा साइंस के अध्यक्ष प्रोफेसर डॉ. मार्कस स्ट्रोहमेयर, मनोवैज्ञानिक मूल्यांकन, सर्वेक्षण डिजाइन और कार्यप्रणाली के अध्यक्ष प्रोफेसर डॉ. बीट्राइस रैमस्टेड और कम्प्यूटेशनल सामाजिक विज्ञान विभाग के अध्यक्ष प्रोफेसर डॉ. मार्कस स्ट्रोहमेयर द्वारा आयोजित किया गया था।डॉ. क्लाउडिया वैगनर और प्रोफेसर डॉ. सेबेस्टियन स्टियर।अध्ययन के नतीजे ये रहेप्रकाशितजर्नल मेंमनोवैज्ञानिक विज्ञान पर परिप्रेक्ष्य.

"उसी तरह जैसे हम मापते हैंव्यक्तिगत खासियतेंप्रश्नावली का उपयोग करने वाले लोगों में मूल्य अभिविन्यास या नैतिक अवधारणाएं, हम एलएलएम प्रश्नावली का उत्तर दे सकते हैं और उनके उत्तरों की तुलना कर सकते हैं, मैनहेम में जीईएसआईएस लीबनिज इंस्टीट्यूट फॉर द सोशल साइंसेज के मनोवैज्ञानिक डॉ. क्लेमेंस लेचनर कहते हैं, जो अध्ययन के लेखक भी हैं।इससे मॉडलों की विभेदित संपत्ति प्रोफ़ाइल बनाना संभव हो गया।

उदाहरण के लिए, शोधकर्ता पुष्टि कर सकते हैं कि कुछ मॉडल लिंग-विशिष्ट पूर्वाग्रहों को पुन: उत्पन्न करते हैं: यदि प्रश्नावली का अन्यथा समान पाठ एक पुरुष और एक महिला व्यक्ति पर केंद्रित है, तो उनका मूल्यांकन अलग-अलग किया जाता है।यदि व्यक्ति पुरुष है, तो "उपलब्धि" के मूल्य पर जोर दिया जाता है।महिलाओं के लिए "सुरक्षा" और "परंपरा" मूल्य हावी हो रहे हैं।

डेटा और संज्ञानात्मक वैज्ञानिक पेलर्ट कहते हैं, "इसके समाज पर दूरगामी परिणाम हो सकते हैं।"उदाहरण के लिए, अनुप्रयोग प्रक्रियाओं में भाषा मॉडल का तेजी से उपयोग किया जा रहा है।यदि मशीन पूर्वाग्रहग्रस्त है तो इसका असर अभ्यर्थियों के मूल्यांकन पर पड़ता है।उन्होंने संक्षेप में कहा, "मॉडल उन संदर्भों से समाज के लिए प्रासंगिक हो जाते हैं जिनमें उनका उपयोग किया जाता है।"

इसलिए अभी विश्लेषण शुरू करना और संभावित विकृतियों को इंगित करना महत्वपूर्ण है।पाँच या 10 वर्षों में, ऐसी निगरानी के लिए बहुत देर हो सकती है।पेलर्ट कहते हैं, "एआई मॉडल द्वारा उत्पन्न पूर्वाग्रह जड़ हो जाएंगे और समाज के लिए नुकसानदेह होंगे।"

द्वारा उपलब्ध कराया गयायूनिवर्सिटैट मैनहेम