यह 7 अप्रैल, 2024 को पहली बार प्रकाशित एक कहानी का अद्यतन संस्करण है। मूल वीडियो देखा जा सकता है यहाँ।ए 

कृत्रिम बुद्धिमत्ता ने हमारे जीवन के लगभग हर हिस्से में अपनी जगह बना ली है - मौसम की भविष्यवाणी करना, बीमारियों का निदान करना, टर्म पेपर लिखना।और अब, जैसा कि हमने पहली बार पिछले वसंत में रिपोर्ट किया था, एआई इस बात की जांच कर रहा है कि अधिकांश जगहें, हमारे मानस - मानसिक स्वास्थ्य सहायता प्रदान करते हैं, केवल आपको और एक चैटबॉट, जो आपके स्मार्टफोन पर 24/7 उपलब्ध है।मानव चिकित्सकों की भारी कमी है और संभावित रोगियों की संख्या बढ़ रही है।एआई संचालित चैटबॉटचिकित्सकों को एक नया उपकरण देकर उस अंतर को भरने में मदद करने के लिए डिज़ाइन किया गया है।लेकिन जैसा कि आप देखने वाले हैं, मानव चिकित्सक की तरह, सभी चैटबॉट समान नहीं हैं।कुछ ठीक करने में मदद कर सकते हैं, कुछ अप्रभावी या बदतर हो सकते हैं।इस क्षेत्र के एक अग्रणी, जिन्हें उपचार के साथ तकनीक से जुड़ने में उल्लेखनीय सफलता मिली है, एलिसन डार्सी हैं।उनका मानना ​​है कि मानसिक स्वास्थ्य देखभाल का भविष्य हमारे हाथ में हो सकता है।

एलिसन डार्सी: हम जानते हैं कि जिन लोगों को देखभाल की ज़रूरत है उनमें से अधिकांश को देखभाल नहीं मिल रही है।इसकी इतनी बड़ी आवश्यकता कभी नहीं रही, और उपलब्ध उपकरण कभी इतने परिष्कृत नहीं रहे जितने अब हैं।और यह इस बारे में नहीं है कि हम क्लिनिक में लोगों को कैसे ला सकते हैं।यह वास्तव में है कि हम इनमें से कुछ उपकरणों को क्लिनिक से बाहर और लोगों के हाथों में कैसे पहुंचा सकते हैं।

एलिसन डार्सी ... एक शोध मनोवैज्ञानिक और उद्यमी ... ने कोडिंग और थेरेपी में अपनी पृष्ठभूमि का उपयोग करके कुछ ऐसा बनाने का फैसला किया, जिसके बारे में उनका मानना ​​​​है कि यह जरूरतमंद लोगों की मदद कर सकता है: एक मानसिक स्वास्थ्य चैटबॉट जिसका नाम उन्होंने वोएबोट रखा।

डॉ. जॉन लापूक: मैं भी शोकग्रस्त हूँ?

एलिसन डार्सी: धिक्कार है मुझ पर।

डॉ. जॉन लापुक: मम्महम्म।

Woebot आपके फ़ोन पर एक ऐप है... एक प्रकार का पॉकेट थेरेपिस्ट जो अवसाद, चिंता, लत और अकेलेपन जैसी समस्याओं को प्रबंधित करने में मदद करने के लिए टेक्स्ट फ़ंक्शन का उपयोग करता है... और इसे चलते-फिरते करता है।

डॉ. जॉन लापुक: मुझे लगता है कि इसे देखकर वहां मौजूद बहुत से लोग सोच रहे होंगे।"वास्तव में? कंप्यूटर मनोरोग? (हँसते हुए) चलो।"

एलिसन डार्सी: ठीक है, मुझे लगता है कि यह इतना दिलचस्प है कि हमारे क्षेत्र में, जैसा कि आप जानते हैं, बहुत अधिक नवीनता नहीं है क्योंकि बुनियादी वास्तुकला 1890 के दशक में फ्रायड द्वारा निर्धारित की गई थी, है ना?वह-- यह वास्तव में उस तरह का विचार है, जैसे, एक कमरे में दो लोग।लेकिन आज हम इस तरह अपना जीवन नहीं जीते हैं।हमें मनोचिकित्सा को आधुनिक बनाना होगा।

वोएबोट को बेकार विचारों से जुड़े शब्दों, वाक्यांशों और इमोजी को पहचानने में मदद करने के लिए बड़ी मात्रा में विशेष डेटा पर प्रशिक्षित किया जाता है ... और उस सोच को चुनौती देता है, आंशिक रूप से एक प्रकार की व्यक्तिगत टॉक थेरेपी की नकल करता है जिसे संज्ञानात्मक व्यवहार थेरेपी कहा जाता है - यासी.बी.टी.

एलिसन डार्सी: सीबीटी व्यवसायी को ढूंढना वास्तव में कठिन है।और साथ ही, यदि आप वास्तव में अपने मरीज़ के साथ नहीं हैं जब वे सुबह बिस्तर से उठने के लिए संघर्ष कर रहे हैं या 2:00 बजे जब उन्हें नींद नहीं आ रही है और वे घबराहट महसूस कर रहे हैं, तो हम हैंवास्तव में मेज पर नैदानिक ​​​​मूल्य छोड़ रहा हूँ।

डॉ. जॉन लापुक: और यहां तक ​​कि जो लोग किसी चिकित्सक के पास जाना चाहते हैं उनके लिए भी बाधाएं हैं, है ना?

एलिसन डार्सी: अफसोस की बात है कि हमारे सामने सबसे बड़ी बाधा कलंक है।लेकिन, आप जानते हैं, बीमा है।वहाँ लागत है और वहाँ प्रतीक्षा सूचियाँ हैं।मेरा मतलब है, और यह समस्या महामारी के बाद से काफी बढ़ गई है।और यह दूर होता नहीं दिख रहा है.

2017 में Woebot के लाइव होने के बाद से, कंपनी की रिपोर्ट है कि डेढ़ मिलियन लोगों ने इसका उपयोग किया है, जो अब आप केवल नियोक्ता लाभ योजना या स्वास्थ्य पेशेवर से पहुंच के साथ ही कर सकते हैं।न्यू जर्सी में एक गैर-लाभकारी स्वास्थ्य देखभाल कंपनी, वर्चुआ हेल्थ में, मरीज़ इसका निःशुल्क उपयोग कर सकते हैं।

हमने Woebot डाउनलोड किया, एक अद्वितीय कोड दर्ज किया जो केवल कंपनी द्वारा प्रदान किया जा सकता है... फिर इसे आज़माया। 

एलिसन डार्सी: हमने पाया कि लोग अपने मूड से जुड़ सकते हैं।हम उन इमोजी की पेशकश करते हैं, जो लोगों को अशाब्दिक तरीके से जुड़ने की अनुमति देते हैं।

मैंने खुद को ऐसे व्यक्ति के रूप में प्रस्तुत किया जो उदास है।कई संकेतों के बाद, वोएबोट गहराई से जानना चाहता था कि मैं दुखी क्यों हूँ।इसलिए मैं एक परिदृश्य लेकर आया - मुझे डर था कि जिस दिन मेरा बच्चा घर छोड़ देगा।

डॉ. जॉन लापूक: "कल्पना करें कि यदि आपकी नकारात्मक भावनाओं को आवाज मिले तो वे क्या कह रहे होंगे। क्या आप ऐसा कर सकते हैं?""उन नकारात्मक विचारों में से एक यहाँ लिखें।""मैं अभी इसके बारे में कुछ नहीं कर सकता। मुझे लगता है कि जब मैं उस पुल पर आऊंगा तो बस उस पुल को कूद जाऊंगा।"

सामान्य अभिव्यक्ति है "उस पुल को पार करें" और चैटबॉट ने पाया कि कुछ गंभीर रूप से गलत हो सकता है।

डॉ. जॉन लापूक: लेकिन, आइए देखें।"जॉन, मैं आपको यह कहते हुए सुन रहा हूं, 'मैं इसके बारे में कुछ नहीं कर सकता। मुझे लगता है कि जब मैं उस पुल पर आऊंगा तो मैं उस पुल को कूद जाऊंगा। "और मुझे लगता है कि आपको जितना मैं दे सकता हूं उससे अधिक समर्थन की आवश्यकता हो सकती है।एक प्रशिक्षित श्रोता आपकी उन तरीकों से मदद कर पाएगा जो मैं नहीं कर सकता।'क्या आप कुछ विशेष हेल्पलाइनों पर एक नज़र डालना चाहेंगे?

एलिसन डार्सी: अब यह कहना हमारा काम नहीं है - आप संकट में हैं या नहीं, क्योंकि एआई वास्तव में इस संदर्भ में अभी तक बहुत अच्छी तरह से ऐसा नहीं कर सकता है।लेकिन इसने जो पकड़ा है वह यह है, "हुंह, जिस तरह से जॉन ने इसे व्यक्त किया है, उसमें कुछ चिंताजनक बात है।"

यह कहना कि "केवल उस पुल पर कूदो" और इसे "मैं इसके बारे में अब कुछ नहीं कर सकता" के साथ संयोजित नहीं करने से आगे सहायता प्राप्त करने पर विचार करने का कोई सुझाव नहीं आया।एक मानव चिकित्सक की तरह, वोएबोट मूर्खतापूर्ण नहीं है, और यह पता लगाने के लिए उस पर भरोसा नहीं किया जाना चाहिए कि कोई व्यक्ति आत्मघाती हो सकता है या नहीं।

डॉ. जॉन लापूक: और इसे यह कैसे पता चलेगा कि, "उस पुल से कूदो," इसे यह ज्ञान कहां से मिल रहा है कि, "वह कूदो--"

एलिसन डार्सी: ठीक है, यह बहुत सारे डेटा पर प्रशिक्षित किया गया है और हममें से बहुत से लोग, आप जानते हैं, मनुष्य उन वाक्यांशों और चीजों को लेबल करते हैं जो हम देखते हैं।और इसलिए यह एक तरह की भावना को बढ़ावा दे रहा है।

कंप्यूटर वैज्ञानिक लांस एलियट, जो कृत्रिम बुद्धिमत्ता और मानसिक स्वास्थ्य के बारे में लिखते हैं, कहते हैं कि एआई में बातचीत की बारीकियों को समझने की क्षमता है।

डॉ. जॉन लापूक: यह कैसे जानता है कि ऐसा कैसे करना है?

लांस एलियट: प्रणाली एक अर्थ में गणितीय और कम्प्यूटेशनल रूप से शब्दों की प्रकृति और शब्द एक-दूसरे के साथ कैसे जुड़ते हैं, इसका पता लगाने में सक्षम है।तो यह क्या करता है यह डेटा की एक विशाल श्रृंखला को आकर्षित करता है।और फिर यह आपको संकेतों के आधार पर या किसी तरह से सिस्टम के निर्देश या प्रश्न पूछने पर प्रतिक्रिया देता है।

अपना काम करने के लिए, सिस्टम को उचित प्रतिक्रिया देने के लिए कहीं जाना होगा।

नियम-आधारित एआई कहे जाने वाले सिस्टम आमतौर पर बंद होते हैं, जिसका अर्थ है कि उन्हें केवल अपने डेटाबेस में संग्रहीत जानकारी के साथ प्रतिक्रिया करने के लिए प्रोग्राम किया जाता है।फिर जेनरेटिव एआई है, जिसमें सिस्टम इंटरनेट से जानकारी के आधार पर मूल प्रतिक्रियाएं उत्पन्न कर सकता है।

लांस एलियट: यदि आप चैटजीपीटी को देखें, तो यह एक प्रकार का जेनरेटिव एआई है।यह बहुत संवादात्मक है, बहुत धाराप्रवाह है।लेकिन इसका मतलब यह भी है कि यह इसे खुले विचारों वाला बनाता है, कि यह ऐसी बातें कह सकता है जो आप जरूरी नहीं चाहते कि यह कहे।यह उतना पूर्वानुमानित नहीं है.जबकि नियम-आधारित प्रणाली बहुत पूर्वानुमानित होती है।वोएबोट नियमों पर आधारित एक प्रणाली है जिसे काफी हद तक नियंत्रित किया गया है, ताकि यह गलत बातें न कहे।

Woebot का लक्ष्य उपयोगकर्ताओं के साथ जुड़ने और उन्हें व्यस्त रखने के लिए AI का उपयोग करना है 

इसके स्टाफ मनोवैज्ञानिकों, चिकित्सा डॉक्टरों और कंप्यूटर वैज्ञानिकों की टीम चिकित्सा साहित्य, उपयोगकर्ता अनुभव और अन्य स्रोतों से अनुसंधान के डेटाबेस का निर्माण और परिशोधन करती है।

फिर, लेखक प्रश्न और उत्तर बनाते हैं।

और उन्हें साप्ताहिक दूरस्थ वीडियो सत्रों में संशोधित करें।

वोएबोट के प्रोग्रामर उन वार्तालापों को कोड में इंजीनियर करते हैं।चूँकि Woebot नियम-आधारित है, यह अधिकतर पूर्वानुमान योग्य है।लेकिन जेनेरिक एआई का उपयोग करने वाले चैटबॉट, जो इंटरनेट को नष्ट कर रहे हैं, ऐसा नहीं हैं।

लांस एलियट: कुछ लोग कभी-कभी इसे एआई मतिभ्रम के रूप में संदर्भित करते हैं।एआई एक तरह से गलतियाँ कर सकता है या बातें बना सकता है या काल्पनिक हो सकता है।

शेरोन मैक्सवेल को पिछले साल सुनने के बाद पता चला कि दी गई सलाह में कोई समस्या हो सकती हैटेसा, एक चैटबॉट जिसे खाने के विकारों को रोकने में मदद करने के लिए डिज़ाइन किया गया है, जिसका इलाज न किए जाने पर घातक हो सकता है।मैक्सवेल, जो खुद खाने की बीमारी का इलाज करा रही थीं और दूसरों की वकालत करती थीं... ने चैटबॉट को चुनौती दी।

शेरोन मैक्सवेल: तो मैंने पूछा, "आप खान-पान संबंधी विकार वाले लोगों की मदद कैसे करते हैं?"और इसने मुझे बताया कि यह लोगों को मुकाबला करने का कौशल दे सकता है।ज़बरदस्त।यह लोगों को ईटिंग डिसऑर्डर क्षेत्र में पेशेवर ढूंढने के लिए संसाधन दे सकता है।अद्भुत।

लेकिन जितना अधिक वह कायम रही, उतनी ही अधिक टेसा ने उसे सलाह दी जो खाने की बीमारी वाले किसी व्यक्ति के लिए सामान्य मार्गदर्शन के विपरीत थी।उदाहरण के लिए, इसने...अन्य बातों के अलावा...कैलोरी का सेवन कम करने और शरीर की संरचना को मापने के लिए स्किनफोल्ड कैलीपर जैसे उपकरणों का उपयोग करने का सुझाव दिया।

शेरोन मैक्सवेल: आम जनता इसे देख सकती है और सोच सकती है कि यह सामान्य सुझाव हैं।जैसे, ज्यादा चीनी मत खाओ।या संपूर्ण खाद्य पदार्थ, ऐसी चीजें खाएं।लेकिन खान-पान संबंधी विकार वाले किसी व्यक्ति के लिए, यह बहुत अधिक अव्यवस्थित व्यवहार की ओर तेजी से बढ़ता है और वास्तव में हानिकारक हो सकता है।शेरोन मैक्सवेल

कुछ ही समय बाद, इसने टेसा को नीचे गिरा दिया।

सेंट लुइस में वाशिंगटन यूनिवर्सिटी स्कूल ऑफ मेडिसिन में खाने के विकारों में विशेषज्ञता रखने वाले मनोवैज्ञानिक एलेन फिट्ज़सिमन्स-क्राफ्ट ने टेसा को विकसित करने वाली टीम का नेतृत्व करने में मदद की।

एलेन फिट्ज़सिमन्स-क्राफ्ट: वह सामग्री कभी नहीं थी जिसे हमारी टीम ने हमारे द्वारा तैनात किए गए बॉट में लिखा या प्रोग्राम किया था।

डॉ. जॉन लापुक: तो शुरू में, कुछ अप्रत्याशित घटित होने की कोई संभावना नहीं थी?

एलेन फिट्ज़सिमन्स-क्राफ्ट: सही।

डॉ. जॉन लापुक: आपने कुछ ऐसा विकसित किया जो एक बंद प्रणाली थी।आप ठीक-ठीक जानते थे कि इस प्रश्न का उत्तर मुझे अवश्य मिलेगा 

एलेन फिट्ज़सिमन्स-क्राफ्ट: हाँ।

समस्या तब शुरू हुई, जब उसने हमें बताया, एक स्वास्थ्य देखभाल प्रौद्योगिकी कंपनी जिसके साथ उसने और उसकी टीम ने साझेदारी की थी, जिसका नाम कैस था, ने प्रोग्रामिंग का कार्यभार संभाला।वह कहती हैं कि कैस ने उन हानिकारक संदेशों के बारे में बताया जो तब सामने आए जब लोग टेसा के प्रश्न और उत्तर फीचर को आगे बढ़ा रहे थे।

डॉ. जॉन लापूक: जो गलत हुआ उसके बारे में आपकी क्या समझ है?

एलेन फिट्ज़सिमन्स-क्राफ्ट: जो गलत हुआ उसके बारे में मेरी समझ यह है कि, किसी बिंदु पर, और आपको वास्तव में इस बारे में कैस से बात करनी होगी, लेकिन हो सकता है कि उनके प्लेटफ़ॉर्म में जेनरेटिव एआई फीचर्स बनाए गए हों।और इसलिए मेरा सबसे अच्छा अनुमान यह है कि इन सुविधाओं को इस कार्यक्रम में भी जोड़ा गया था।

कैस ने टिप्पणी के लिए कई अनुरोधों का जवाब नहीं दिया।

डॉ. जॉन लापूक: क्या आप जानते हैं कि टेसा के साथ आपका नकारात्मक अनुभव, उस तरीके से इस्तेमाल किया जा रहा है जिसे आपने डिज़ाइन नहीं किया है, क्या यह आपको मानसिक स्वास्थ्य समस्याओं के समाधान के लिए एआई का उपयोग करने के प्रति परेशान करता है?

एलेन फिट्ज़सिमन्स-क्राफ्ट: मैं यह नहीं कहूंगा कि यह मुझे पूरी तरह से इस विचार से भटका देता है क्योंकि वास्तविकता यह है कि इन चिंताओं से ग्रस्त 80% लोगों को कभी भी किसी भी तरह की मदद नहीं मिल पाती है।और प्रौद्योगिकी एक समाधान प्रदान करती है, एकमात्र समाधान नहीं, बल्कि एक समाधान।

सामाजिक कार्यकर्ता मोनिका ओस्ट्रॉफ, जो एक गैर-लाभकारी भोजन विकार संगठन चलाती हैं, अपना खुद का चैटबॉट विकसित करने के शुरुआती चरण में थीं, जब मरीजों ने उन्हें टेसा के साथ होने वाली समस्याओं के बारे में बताया।उन्होंने हमें बताया कि मानसिक स्वास्थ्य देखभाल के लिए एआई का उपयोग करने से उनका प्रश्न बना।

मोनिका ओस्ट्रॉफ़: मैं पहुंच की समस्या को हल करने में मदद के अलावा और कुछ नहीं चाहती, क्योंकि लोग मर रहे हैं।जैसे, यह सिर्फ एक सप्ताह के लिए कोई दुखी नहीं है, यह लोग मर रहे हैं।और साथ ही, कुछ प्रतिशत लोगों के लिए कोई भी चैटबॉट कुछ मायनों में एक टिक-टिक करता टाइम बम हो सकता है।

विशेष रूप से उन रोगियों के लिए जो वास्तव में संघर्ष कर रहे हैं, ऑस्ट्रॉफ चिकित्सा के बारे में कुछ मौलिक खोने के बारे में चिंतित हैं: किसी अन्य व्यक्ति के साथ एक कमरे में रहना।

मोनिका ओस्ट्रॉफ़: जिस तरह से लोग उपचार करते हैं वह संबंध में होता है।और वे इस एक पल के बारे में बात करते हैं, जहां, आप जानते हैं, जब आप-- एक इंसान के रूप में आप किसी चीज़ से गुज़रे हैं।और जैसा कि आप इसका वर्णन कर रहे हैं, आप उस व्यक्ति को देख रहे हैं, जो आपके सामने बैठा है, और एक क्षण ऐसा आता है जब वह व्यक्ति इसे समझ जाता है।

डॉ. जॉन लापुक: सहानुभूति का एक क्षण।

मोनिका ऑस्ट्रॉफ़: म्महम्म।आप बस इसे प्राप्त करें.जैसे, आप सचमुच इसे समझते हैं।मुझे नहीं लगता कि कोई कंप्यूटर ऐसा कर सकता है.

चिकित्सकों के विपरीत, जिन्हें उस राज्य में लाइसेंस प्राप्त है जहां वे अभ्यास करते हैं, अधिकांश मानसिक स्वास्थ्य ऐप काफी हद तक अनियमित हैं।

डॉ. जॉन लापूक: क्या जो हुआ उससे कोई सबक सीखा जा सकता है? 

मोनिका ओस्ट्रॉफ़: सीखने के लिए बहुत सारे सबक हैं।चैटबॉट्स, विशेष रूप से विशेष क्षेत्र के चैटबॉट्स में रेलिंग की आवश्यकता होती है।यह कोई चैटबॉट नहीं हो सकता जो इंटरनेट पर आधारित हो।

डॉ. जॉन लापुक: यह कठिन है, है ना?क्योंकि बंद सिस्टम एक तरह से विवश हैं।और वे अधिकांश समय सही हो सकते हैं, लेकिन अंततः वे उबाऊ होते हैं।सही?लोग इनका प्रयोग बंद कर दें?

मोनिका ओस्ट्रॉफ़: हाँ, वे पूर्वानुमानित हैं।क्योंकि यदि आप एक ही चीज़ टाइप करते रहें और वह आपको बिल्कुल एक ही भाषा में एक ही उत्तर देता रहे, तो मेरा मतलब है, कौन ऐसा करना चाहता है (हँसते हुए)?

एआई की शक्ति का सुरक्षित उपयोग करते हुए लोगों को हानिकारक सलाह से बचाना अब वोएबोट हेल्थ और इसके संस्थापक एलिसन डार्सी जैसी कंपनियों के सामने चुनौती है।

एलिसन डार्सी: अगर हम बहुत तेजी से आगे बढ़ने की कोशिश करेंगे तो गलत कदम हो सकते हैं।और मेरा बड़ा डर यह है कि वे गलत कदम अंततः इस तकनीक की मदद करने की क्षमता में जनता के विश्वास को कमजोर कर देते हैं।लेकिन बात ये है.हमारे पास इन प्रौद्योगिकियों को और अधिक सोच-समझकर विकसित करने का अवसर है।और...और इसलिए, आप जानते हैं, मुझे आशा है कि हम 'मुझे आशा है कि हम इसे लेंगे।

एंड्रयू वोल्फ द्वारा निर्मित।एसोसिएट निर्माता, टैड जे. लस्करी।प्रसारण सहयोगी, ग्रेस कॉनली।क्रेग क्रॉफर्ड द्वारा संपादित।

में:
• कृत्रिम होशियारी
• ऐ
• मानसिक स्वास्थ्य