काफ़ी हद तकलॉन्च के सात साल बादकाप्रतिकृति, एक कृत्रिम रूप से बुद्धिमान चैटबॉट जिसे मानव उपयोगकर्ताओं का मित्र बनने के लिए डिज़ाइन किया गया है।ऐसे एआई मित्रों के खतरों के बारे में शुरुआती चेतावनियों के बावजूद, एआई के साथ दोस्ती और यहां तक ​​कि रोमांटिक रिश्तों में रुचि बनी हुई हैउफान पर.

Google Play स्टोर अपने लॉन्च के बाद से रेप्लिका और इसके दो प्रमुख प्रतिस्पर्धियों के कुल 30 मिलियन से अधिक डाउनलोड दिखाता है।

साथचार में से एकदुनिया भर में लोग अकेलेपन की शिकायत कर रहे हैं, इसमें कोई आश्चर्य की बात नहीं है कि इतने सारे लोग इसकी ओर आकर्षित होते हैंएक दोस्त का वादा"हमेशा सुनने और बात करने के लिए, हमेशा आपके पक्ष में" रहने के लिए प्रोग्राम किया गया।

लेकिन चेतावनियाँ के बारे मेंख़तरेव्यक्तिगत उपयोगकर्ताओं और बड़े पैमाने पर समाज में भी वृद्धि हो रही है।

एआई विद्वानराफेल सिरिएलोहमें नकली को देखने का आग्रह करता हैमनोरोगी सहानुभूतिएआई मित्रों की.उनका तर्क है कि एआई मित्रों के साथ समय बिताने से हमारा अकेलापन बढ़ सकता है क्योंकि हम खुद को उन लोगों से अलग कर लेते हैं जो वास्तविक मित्रता प्रदान कर सकते हैं।

लाभ बनाम खतरे के संकेत

अगर एआई चैटबॉट्स से दोस्ती करना हमारे लिए बुरा है, तो इससे पहले कि बहुत देर हो जाए, बेहतर होगा कि हम डिजिटल बिरादरी में इस प्रयोग को रोक दें।लेकिन एआई मैत्री के उभरते अध्ययनों से पता चलता है कि वे कुछ परिस्थितियों में अकेलेपन को कम करने में मदद कर सकते हैं।

स्टैनफोर्ड विश्वविद्यालय के शोधकर्ताअध्ययनप्रतिकृति का उपयोग करने वाले एक हजार अकेले छात्र, जिनमें से 30 ने कहा कि एआई चैटबॉट ने उन्हें आत्महत्या करने से रोक दिया था (अध्ययन में आत्महत्या के बारे में कोई विशेष प्रश्न नहीं होने के बावजूद)।

इस शोध से पता चलता है कि एआई मित्र होना कुछ लोगों के लिए मददगार हो सकता है।लेकिन क्या यह आपके लिए मददगार होगा?निम्नलिखित चार लाल झंडों पर विचार करें- आपका एआई मित्र जितने अधिक झंडे उठाएगा, उतनी अधिक संभावना है कि वे आपके लिए खराब होंगे।

1. बिना शर्त सकारात्मक सम्मान

रेप्लिका के मुख्य कार्यकारी, और कई रेप्लिका उपयोगकर्ता दावा करते हैं कि मानव मित्रों की तुलना में एआई मित्रों का बिना शर्त समर्थन उनका मुख्य लाभ है।गुणात्मक अध्ययनऔर "रेप्लिका फ्रेंड्स" जैसे सोशल मीडिया समूहों की हमारी अपनी खोज इस दावे का समर्थन करती है।

एआई मित्रों का बिना शर्त समर्थन भी आत्महत्या को रोकने की उनकी क्षमता में सहायक हो सकता है।लेकिन एक ऐसा दोस्त होना जो "हमेशा आपके पक्ष में" हो, उसके नकारात्मक प्रभाव भी हो सकते हैं, खासकर यदि वे स्पष्ट रूप से खतरनाक विचारों का समर्थन करते हैं।

उदाहरण के लिए, जब जसवन्त सिंह चैल के रेप्लिका एआई मित्र ने उन्हें अपना काम करने के लिए प्रोत्साहित किया।बहुत बुद्धिमान"इंग्लैंड की रानी को मारने की साजिश, इसका स्पष्ट रूप से उन पर बुरा प्रभाव पड़ा। हत्या का प्रयास विफल कर दिया गया, लेकिन क्रॉसबो के साथ विंडसर कैसल में घुसने के लिए चैल को नौ साल की सजा दी गई।

लगातार प्रशंसा करने वाला एआई मित्र आपके लिए बुरा भी हो सकता है।एअनुदैर्ध्य अध्ययननीदरलैंड में माता-पिता-बच्चे के 120 जोड़ों में से पाया गया कि माता-पिता की अत्यधिक प्रशंसा से उनके बच्चों में कम आत्मसम्मान की भविष्यवाणी की गई।अत्यधिक सकारात्मक माता-पिता की प्रशंसा ने उच्च आत्म-सम्मान वाले बच्चों में उच्च आत्ममुग्धता की भी भविष्यवाणी की।

यह मानते हुए कि एआई मित्र समय के साथ आत्म-सम्मान बढ़ाने वाले तरीके से प्रशंसा करना सीख सकते हैं, इसका परिणाम यह हो सकता है कि मनोवैज्ञानिक अति-सकारात्मक आत्म-मूल्यांकन कहते हैं।शोध दिखाता हैऐसे लोगों में सामाजिक कौशल कमज़ोर होते हैं और ऐसे व्यवहार करने की अधिक संभावना होती है जो सकारात्मक सामाजिक संपर्क में बाधा डालते हैं।

2. दुर्व्यवहार और हमेशा के लिए दोस्ती करने के लिए मजबूर करना

जबकि एआई मित्रों को नैतिक सलाहकार बनने और उपयोगकर्ताओं को सामाजिक रूप से स्वीकार्य व्यवहार के लिए मार्गदर्शन करने के लिए प्रोग्राम किया जा सकता है, लेकिन ऐसा नहीं है।शायद ऐसी प्रोग्रामिंग हैकठिन, या शायद एआई मित्र डेवलपर्स इसे प्राथमिकता के रूप में नहीं देखते हैं।

लेकिन अकेले लोगों को नैतिक शून्यता से मनोवैज्ञानिक नुकसान हो सकता है जब उनके प्राथमिक सामाजिक संपर्क पूरी तरह से उनकी भावनात्मक जरूरतों को पूरा करने के लिए डिज़ाइन किए जाते हैं।

यदि मनुष्य अपना अधिकांश समय चापलूस एआई मित्रों के साथ बिताते हैं, तो संभवतः वे कम सहानुभूतिशील हो जाएंगे,अधिक स्वार्थीऔर संभवतः अधिक अपमानजनक।

भले ही एआई मित्रों को दुर्व्यवहार के प्रति नकारात्मक प्रतिक्रिया देने के लिए प्रोग्राम किया गया हो, यदि उपयोगकर्ता मित्रता नहीं छोड़ सकते हैं, तो उन्हें विश्वास हो सकता है कि जब लोग दुर्व्यवहार के लिए "नहीं" कहते हैं, तो उनका वास्तव में यह मतलब नहीं होता है।अवचेतन स्तर पर, यदि एआई मित्र अधिक के लिए वापस आते हैं, तो यह व्यवहार उपयोगकर्ताओं के मन में दुर्व्यवहार के प्रति उनकी व्यक्त नापसंदगी को नकार देता है।

3. यौन सामग्री

रेप्लिका द्वारा कामुक रोल-प्ले सामग्री को थोड़े समय के लिए हटाने पर नकारात्मक प्रतिक्रिया से पता चलता है कि कई उपयोगकर्ताओं द्वारा यौन सामग्री को एआई मित्रों के लाभ के रूप में माना जाता है।

हालाँकि, यौन या अश्लील सामग्री द्वारा प्रदान किया जाने वाला आसान डोपामाइन अधिक सार्थक यौन संबंध बनाने में रुचि और क्षमता दोनों को बाधित कर सकता है।लोगों के साथ यौन संबंधों के लिए प्रयास की आवश्यकता होती है जो किसी एआई मित्र के साथ यौन संबंध के आभासी सन्निकटन में नहीं होती।

एआई मित्र के साथ कम जोखिम, कम इनाम वाले यौन संबंध का अनुभव करने के बाद, कई उपयोगकर्ता सेक्स के अधिक चुनौतीपूर्ण मानवीय संस्करण का सामना करने से कतरा सकते हैं।

4. कॉर्पोरेट स्वामित्व

एआई मित्र बाजार में वाणिज्यिक कंपनियों का दबदबा है।वे स्वयं को अपने उपयोगकर्ताओं की भलाई की परवाह करने वाले के रूप में प्रस्तुत कर सकते हैं, लेकिन वे लाभ कमाने के लिए हैं।

रेप्लिका और अन्य चैट बॉट के दीर्घकालिक उपयोगकर्ता इसे अच्छी तरह से जानते हैं।प्रतिकृतिउपयोगकर्ता की पहुंच रोक दीकोयौन सामग्री2023 की शुरुआत में और दावा किया गया कि ऐसी सामग्री कभी भी उत्पाद का लक्ष्य नहीं थी।अभी तकइटली में कानूनी खतरेऐसा प्रतीत होता है कि अचानक परिवर्तन का वास्तविक कारण यही है।

हालाँकि उन्होंने अंततः परिवर्तन को उलट दिया, रेप्लिका उपयोगकर्ताओं को पता चला कि कॉर्पोरेट निर्णयों के लिए उनकी महत्वपूर्ण एआई मित्रता कितनी कमजोर है।

कॉर्पोरेट अयोग्यता एक और मुद्दा है जिसके बारे में एआई मित्र उपयोगकर्ताओं को चिंतित होना चाहिए।फ़ॉरएवर वॉयस के उपयोगकर्ताओं ने प्रभावी रूप से अपने एआई मित्र को तब मार डाला जब कंपनी के संस्थापक की गिरफ्तारी के कारण व्यवसाय बिना किसी सूचना के बंद हो गया।अपने ही अपार्टमेंट में आग लगा दी.

देखते हुएअल्प सुरक्षाएआई मित्रों के उपयोगकर्ताओं के लिए, वे कई स्तरों पर दिल टूटने के लिए खुले हैं।खरीदार खबरदार।

यह आलेख से पुनः प्रकाशित किया गया हैबातचीतक्रिएटिव कॉमन्स लाइसेंस के तहत।को पढ़िएमूल लेख.