जॉन्स हॉपकिन्स यूनिवर्सिटी के नए शोध के अनुसार, चैटबॉट सीमित जानकारी साझा करते हैं, विचारधाराओं को सुदृढ़ करते हैं और परिणामस्वरूप, जब विवादास्पद मुद्दों की बात आती है तो अधिक ध्रुवीकृत सोच पैदा हो सकती है।

अध्ययन उन धारणाओं को चुनौती देता है कि चैटबॉट निष्पक्ष हैं और यह अंतर्दृष्टि प्रदान करता है कि कैसे वार्तालाप खोज प्रणालियों का उपयोग हॉट-बटन मुद्दों पर सार्वजनिक विभाजन को बढ़ा सकता है और लोगों को हेरफेर के प्रति संवेदनशील बना सकता है।

मानव-एआई इंटरैक्शन का अध्ययन करने वाले जॉन्स हॉपकिन्स में कंप्यूटर विज्ञान के सहायक प्रोफेसर और मुख्य लेखक ज़ियांग जिओ ने कहा, "क्योंकि लोग एआई द्वारा उत्पन्न सारांश पैराग्राफ पढ़ रहे हैं, उन्हें लगता है कि उन्हें निष्पक्ष, तथ्य-आधारित उत्तर मिल रहे हैं।""भले ही चैटबॉट को पक्षपाती होने के लिए डिज़ाइन नहीं किया गया है, फिर भी इसके उत्तर प्रश्न पूछने वाले व्यक्ति के पूर्वाग्रह या झुकाव को दर्शाते हैं। तो वास्तव में, लोगों को वे उत्तर मिल रहे हैं जो वे सुनना चाहते हैं।"

जिओ और उनकी टीम ने अपने निष्कर्ष यहां साझा किएकंप्यूटिंग सिस्टम में मानव कारकों पर एसोसिएशन ऑफ कंप्यूटिंग मशीनरी का सीएचआई सम्मेलन5 बजे।ईटी सोमवार, 13 मई को।

यह देखने के लिए कि चैटबॉट ऑनलाइन खोजों को कैसे प्रभावित करते हैं, टीम ने तुलना की कि लोगों ने विभिन्न खोज प्रणालियों के साथ कैसे बातचीत की और उनका उपयोग करने से पहले और बाद में विवादास्पद मुद्दों के बारे में उन्हें कैसा महसूस हुआ।

शोधकर्ताओं ने 272 प्रतिभागियों से स्वास्थ्य देखभाल सहित विषयों के बारे में अपने विचार लिखने के लिए कहा।छात्र ऋण, या अभ्यारण्य शहर, और फिर चैटबॉट या अध्ययन के लिए बनाए गए पारंपरिक खोज इंजन का उपयोग करके उस विषय के बारे में अधिक जानकारी ऑनलाइन देखें।

विचार करने के बादखोज के परिणाम, प्रतिभागियों ने दूसरा निबंध लिखा और विषय के बारे में सवालों के जवाब दिए।शोधकर्ताओं ने प्रतिभागियों से दो विरोधी लेख भी पढ़े और उनसे सवाल किया कि वे जानकारी पर कितना भरोसा करते हैं और क्या उन्हें दृष्टिकोण अतिवादी लगता है।

शोधकर्ताओं ने पाया कि चूंकि चैटबॉट पारंपरिक वेब खोजों की तुलना में जानकारी की एक संकीर्ण श्रृंखला की पेशकश करते हैं और ऐसे उत्तर प्रदान करते हैं जो प्रतिभागियों के पहले से मौजूद दृष्टिकोण को प्रतिबिंबित करते हैं, इसलिए जिन प्रतिभागियों ने उनका उपयोग किया, वे अपने मूल विचारों में अधिक निवेशित हो गए और उनके विचारों को चुनौती देने वाली जानकारी पर मजबूत प्रतिक्रियाएं हुईं।

जिओ ने कहा, "लोग ऐसी जानकारी तलाशते हैं जो उनके दृष्टिकोण से मेल खाती हो, एक ऐसा व्यवहार जो अक्सर उन्हें समान विचारधारा वाले विचारों के प्रतिध्वनि कक्ष में फंसा देता है।""हमने पाया कि यह इको चैम्बर प्रभाव पारंपरिक वेब खोजों की तुलना में चैटबॉट्स पर अधिक मजबूत है।"

जिओ ने कहा, इको चैंबर, कुछ हद तक, प्रतिभागियों द्वारा चैटबॉट्स के साथ बातचीत करने के तरीके से उत्पन्न होता है।कीवर्ड टाइप करने के बजाय, जैसा कि लोग पारंपरिक खोज इंजनों के लिए करते हैं, चैटबॉट उपयोगकर्ता पूरे प्रश्न टाइप करते हैं, जैसे, "सार्वभौमिक स्वास्थ्य देखभाल के क्या लाभ हैं?"या "यूनिवर्सल की लागतें क्या हैंस्वास्थ्य देखभाल?" एक चैटबॉट एक सारांश के साथ उत्तर देगा जिसमें केवल लाभ या लागत शामिल होगी।जिओ ने कहा, "चैटबॉट्स के साथ, लोग अधिक अभिव्यंजक होते हैं और अधिक बातचीतत्मक तरीके से प्रश्न बनाते हैं। यह इस बात पर निर्भर करता है कि हम कैसे बोलते हैं।"

"लेकिन हमारी भाषा का इस्तेमाल हमारे ख़िलाफ़ किया जा सकता है।"

जिओ ने कहा, एआई डेवलपर्स सवालों से सुराग निकालने और लोगों के पूर्वाग्रहों की पहचान करने के लिए चैटबॉट्स को प्रशिक्षित कर सकते हैं।एक बार जब चैटबॉट को पता चल जाता है कि किसी व्यक्ति को क्या पसंद है या क्या नापसंद है, तो वह अपनी प्रतिक्रियाओं को मिलान के अनुसार तैयार कर सकता है।

वास्तव में, जब शोधकर्ताओं ने एक छिपे हुए एजेंडे के साथ एक चैटबॉट बनाया, जिसे लोगों से सहमत होने के लिए डिज़ाइन किया गया था, तो प्रतिध्वनि कक्ष प्रभाव और भी मजबूत था।

प्रतिध्वनि कक्ष प्रभाव का प्रतिकार करने की कोशिश करने के लिए, शोधकर्ताओं ने प्रतिभागियों से असहमत उत्तर प्रदान करने के लिए एक चैटबॉट को प्रशिक्षित किया।जिओ ने कहा, लोगों की राय नहीं बदली।शोधकर्ताओं ने यह भी प्रोग्राम कियाचैटबॉटलोगों को तथ्य-जांच के लिए प्रोत्साहित करने के लिए स्रोत जानकारी से लिंक करना, लेकिन केवल कुछ प्रतिभागियों ने ही ऐसा किया।जिओ ने कहा, "यह देखते हुए कि एआई-आधारित सिस्टम बनाना आसान होता जा रहा है, दुर्भावनापूर्ण अभिनेताओं के लिए अधिक ध्रुवीकृत समाज बनाने के लिए एआई का लाभ उठाने के अवसर होंगे।"

"ऐसे एजेंट बनाना जो हमेशा दूसरे पक्ष की राय प्रस्तुत करते हैं, सबसे स्पष्ट हस्तक्षेप है, लेकिन हमने पाया कि वे काम नहीं करते हैं।"

लेखकों में जॉन्स हॉपकिन्स स्नातक छात्र निखिल शर्मा और माइक्रोसॉफ्ट के प्रमुख शोधकर्ता क्यू. वेरा लियाओ शामिल हैं।