एक्सप्लेनेबल एआई के अग्रदूतों में से एक ने एक उन्नत मॉडल विकसित किया है जो बताता है कि एआई कैसे और क्यों काम करता है।मॉडल एआई के रहस्यमय "ब्लैक बॉक्स" को खोलता है और लगभग सभी एआई सिस्टम के लिए उपलब्ध है।

"एआई द्वारा लिए गए निर्णयों को समझने और समझाने में अब यह समाज और उद्योग के लिए बहुत फायदेमंद हो सकता है।"यंत्र अधिगममॉडल औरतंत्रिका - तंत्र,'' उमेआ विश्वविद्यालय के कंप्यूटर विज्ञान विभाग के प्रोफेसर कैरी फ्रैमलिंग कहते हैं।

एआई और मशीन लर्निंग का उपयोग सरकारों, स्वास्थ्य देखभाल, व्यवसाय और उद्योग द्वारा किया जाता है।तथाकथित गहन शिक्षण विधियां अब स्वास्थ्य देखभाल में रोगियों का मनुष्यों की तुलना में बहुत तेजी से निदान कर सकती हैं।लेकिन ऐसा क्या है जो एआई सिस्टम को एक प्रकार के उपचार की सिफारिश करता है और दूसरे को नहीं, और यह अपने निर्णय कैसे लेता है?

द एक्सप्लेनेबल आर्टिफिशियल इंटेलिजेंस (एक्सएआई) के प्रमुख प्रोफेसर फ्रैमलिंग कहते हैं, "व्याख्यात्मक एआई एक ऐसा क्षेत्र है जिसमें बहुत से लोग रुचि रखते हैं लेकिन बहुत कम लोग इसके बारे में जानते हैं या पूरी तरह से समझते हैं। मौजूदा व्याख्यात्मक मॉडल भी जनता के लिए पर्याप्त रूप से समझने योग्य नहीं हैं।"कंप्यूटिंग विज्ञान विभाग, उमेआ विश्वविद्यालय की टीम।

फ्रैमलिंग ने सीआईयू पद्धति (प्रासंगिक महत्व और उपयोगिता दृष्टिकोण) विकसित की है और इसे अन्य मॉडलों की तुलना में अधिक कुशल पाया है।"दुर्भाग्य से, कई वैज्ञानिक एक निश्चित मानसिकता में बने रहे, जबकि मुझे शुरू में ही एहसास हुआ कि ये मॉडल बहुत सीमित थे। 1990 के दशक के अंत में, हालांकि, समय सही नहीं था, लेकिन मैंने सीआईयू पद्धति विकसित करना जारी रखा और आज मैं इसे देख सकता हूंप्रोफेसर फ्रैमलिंग कहते हैं, ''दीर्घावधि में यह एक वैध विकल्प था।''

अधिक विशिष्ट स्पष्टीकरण प्राप्त करें

एआई सिस्टम एक ऐसी प्रणाली है जहां एआई को एक या अधिक इनपुट दिए जाते हैंनमूनाया सिस्टम, जो तब सूचना को संसाधित करता है और एक या अधिक आउटपुट उत्पन्न करता है।फ्रैमलिंग अपनी पीएच.डी. का उपयोग करता है।उदाहरण के तौर पर फ्रांस में।

वह क्षेत्र जहां वह रहते थे, औद्योगिक कचरे के अंतिम भंडारण के लिए इष्टतम स्थान की पहचान करना चाहते थे।मशीन लर्निंग और न्यूरल नेटवर्क का उपयोग करके हजारों साइटों को सुलझाया गया और कई अलग-अलग श्रेणियों पर विचार करके विकल्प चुने गए।फ्रैमलिंग कहते हैं, "लेकिन यह तय करने के मानदंड क्या थे कि कोई साइट अच्छी है या नहीं? दुर्भाग्य से, केवल मेरे जैसा कंप्यूटर वैज्ञानिक ही एआई प्रणाली के तर्क को समझ सकता है।"

स्थान का चुनाव उचित होना चाहिए और लोगों तथा पर्यावरण दोनों को ध्यान में रखना चाहिए।"आपको इसे अलग-अलग तरीकों से स्पष्ट रूप से समझाना होगा। निवासी एक तरह की जानकारी चाहते हैं, जबकि पर्यावरण अधिकारियों को दूसरी तरह की जानकारी चाहिए।"

यहीं पर उनकी रुचि स्पष्टीकरण की एक विधि बनाने में हुई।"मेरे लिए, यह सुनिश्चित करने के बारे में है कि हममें से हर कोई अस्पताल के फैसले, ऋण आवेदन पर बैंक की प्रतिक्रिया या प्राधिकरण के फैसले को समझ सके।"

उनकी CIU पद्धति आपको अंतिम परिणामों पर "उम्र," "लिंग," "कार्य" या "अध्ययन" जैसे एक या अधिक इनपुट-चर को बदलने के प्रभाव का अध्ययन और व्याख्या करने की अनुमति देती है।"सीआईयू आपको प्रत्येक घटक और परिणामों पर उसके प्रभाव की गणना और व्याख्या करने के साथ-साथ इनपुट डेटा को उप-वर्गों में विभाजित करने की भी अनुमति देता है। इसका मतलब है कि आप अधिक विशिष्ट स्पष्टीकरण प्राप्त कर सकते हैं, उदाहरण के लिए, आपने ऐसा क्यों कियाफ्रैमलिंग कहते हैं, ''ऋण नहीं मिला, या आपको ऐसा क्यों मिला।''

समझने योग्य स्पष्टीकरण प्रदान करता है

तंत्रिका नेटवर्क का उपयोग करने वाले AI सिस्टम को कहा जाता हैब्लैक बॉक्सएआई सिस्टम को एक समय समझाना असंभव माना जाता था।इसलिए, वास्तविक एआई प्रणाली के संचालन की नकल करने और यह क्या करता है इसका विश्लेषण करने के प्रयास में तथाकथित "सरोगेट मॉडल" बनाए गए थे।व्याख्या योग्य AI अभी भी इसी विचार पर आधारित है।हालाँकि, CIU कोई सरोगेट मॉडल नहीं बनाता है।इसके बजाय, यह एआई मॉडल की कार्यप्रणाली का विश्लेषण करता है कि इनपुट के कार्य के रूप में आउटपुट कैसे भिन्न होते हैं।

फ्रैमलिंग कहते हैं, "यह ऐसी जानकारी प्रदान करता है जिसे समझने योग्य स्पष्टीकरणों और अवधारणाओं में अनुवादित किया जा सकता है जिसका उपयोग हम मनुष्य अपने निर्णयों और कार्यों को सही ठहराने के लिए करते हैं।"

"अधिक पाना पूरी तरह से संभव हैसटीक जानकारी, और एआई सिस्टम में क्या हुआ या क्या गलत हुआ, इसके बारे में सिर्फ एक 'अनुमान' नहीं है।सीआईयू कंपनियों और उनके ग्राहकों के साथ-साथ अधिकारियों और नागरिकों के लिए भी बेहतरीन अवसर प्रदान कर सकता है," फ्रैमलिंग कहते हैं।

सीआईयू को पायथन और आर प्रोग्रामिंग भाषाओं में लागू किया गया है और इसका स्रोत कोड जीथब पर सार्वजनिक रूप से उपलब्ध है।CIU को एक लाइब्रेरी के रूप में भी स्थापित किया जा सकता है और, सिद्धांत रूप में, किसी भी AI सिस्टम के साथ एकीकृत किया जा सकता है।मॉडल "क्लासिक" एआई सिस्टम के परिणामों की भी व्याख्या कर सकता है जो मशीन लर्निंग का उपयोग नहीं करते हैं।सीआईयू को समय श्रृंखला और भाषा मॉडल पर भी लागू किया जा सकता है, लेकिन इस पर शोध चल रहा है।