Brain-inspired chaotic spiking backpropagation
(ए) में सामान्य सरोगेट ग्रेडिएंट स्कीम के विपरीत, अराजक स्पाइकिंग बैकप्रॉपैगेशन (सीएसबीपी) एल्गोरिदम एक अतिरिक्त मस्तिष्क-प्रेरित हानि फ़ंक्शन, हानि का परिचय देता हैअव्यवस्था, जो प्रत्येक न्यूरॉन के आउटपुट से आता है और वैश्विक अराजक गतिशीलता उत्पन्न करता है।श्रेय: साइंस चाइना प्रेस

चूँकि 1980 के दशक में यह पता चला था कि खरगोश के मस्तिष्क में सीखने में अराजकता का उपयोग होता है, इस गैर-रैखिक और प्रारंभिक मूल्य-संवेदनशील गतिशील व्यवहार को तेजी से मस्तिष्क सीखने के अभिन्न अंग के रूप में मान्यता दी गई है।

हालाँकि, आधुनिक शिक्षण एल्गोरिदम, विशेष रूप से स्पाइकिंग न्यूरल नेटवर्क (एसएनएन) जो मस्तिष्क से काफी मिलते-जुलते हैं, ने इस सुविधा का प्रभावी ढंग से लाभ नहीं उठाया है।

ज़िजियन वांग और पेंग ताओ ने लैब निदेशक लुओनान चेन के साथ मिलकर मौजूदा एसएनएन के सीखने के एल्गोरिदम में मस्तिष्क में आंतरिक अराजक गतिशीलता को पेश करने का प्रयास किया।उन्होंने पाया कि यह केवल क्रॉस-एंट्रॉपी के अनुरूप हानि फ़ंक्शन को एकीकृत करके पूरा किया जा सकता है (नीचे छवि देखें)।

इसके अलावा, उन्होंने देखा कि अराजक गतिशीलता से लैस एक एसएनएन न केवल सीखने/अनुकूलन प्रदर्शन को बढ़ाता है, बल्कि न्यूरोमॉर्फिक डेटासेट (जैसे, डीवीएस-सीआईएफएआर10 और डीवीएस-जेस्चर) और बड़े पैमाने पर स्थिर डेटासेट (जैसे, सीआईएफएआर100 और) दोनों पर सामान्यीकरण प्रदर्शन में भी सुधार करता है।इमेजनेट), अराजकता के एर्गोडिक और छद्म-यादृच्छिक गुणों की मदद से।

टीम ने लॉजिस्टिक मानचित्रों का उपयोग करके बाहरी अराजकता की शुरूआत का भी प्रयोग किया।हालाँकि, इससे एसएनएन के सीखने के प्रदर्शन में वृद्धि नहीं हुई।"यह एक रोमांचक परिणाम है, और इसका तात्पर्य यह है कि आंतरिकअव्यवस्थायद्यपि एसएनएन में मजबूत स्थानिक-अस्थायी सिग्नल लक्षण वर्णन और उच्च ऊर्जा उपयोग दक्षता है, लेकिन कुशल की कमी के कारण उनका प्रदर्शन अक्सर समकक्ष आकार के पारंपरिक तंत्रिका नेटवर्क से पीछे रहता है।

सीखने के एल्गोरिदमयह नया एल्गोरिदम इस अंतर को प्रभावी ढंग से पाटता है।इसके अलावा, चूंकि केवल एक अतिरिक्त हानि फ़ंक्शन को पेश करने की आवश्यकता है, इसे मौजूदा एसएनएन सीखने की पद्धतियों के साथ एक सामान्यीकृत प्लग-इन इकाई के रूप में नियोजित किया जा सकता है।

अध्ययन हैप्रकाशितजर्नल मेंराष्ट्रीय विज्ञान समीक्षा.

अधिक जानकारी:ज़िजियन वांग एट अल, मस्तिष्क से प्रेरित अराजक स्पाइकिंग बैकप्रॉपैगेशन,राष्ट्रीय विज्ञान समीक्षा(2024)।डीओआई: 10.1093/एनएसआर/एनडब्ल्यूएई037

जर्नल जानकारी: अव्यवस्था

उद्धरण:मस्तिष्क से प्रेरित अराजक स्पाइकिंग बैकप्रॉपैगेशन (2024, 29 मार्च)29 मार्च 2024 को पुनः प्राप्तhttps://techxplore.com/news/2024-03-brain-chatic-spiking-backpropagation.html से

यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।