तंत्रिका नेटवर्क में विशिष्ट कार्यों को सीखने की उल्लेखनीय क्षमता होती है, जैसे हस्तलिखित अंकों की पहचान करना।हालाँकि, जब अतिरिक्त कार्य सिखाए जाते हैं तो ये मॉडल अक्सर "विनाशकारी भूलने" का अनुभव करते हैं: वे नए असाइनमेंट को सफलतापूर्वक सीख सकते हैं, लेकिन मूल कार्य को पूरा करने के तरीके को "भूल" जाते हैं।कई कृत्रिम तंत्रिका नेटवर्क के लिए, जैसे कि स्व-चालित कारों का मार्गदर्शन करने वाले, अतिरिक्त कार्यों को सीखने के लिए पूरी तरह से पुन: प्रोग्राम करने की आवश्यकता होती है।
भार क्षेत्र में एफआईपी के निर्माण के लिए विभेदक ज्यामितीय ढांचा।ए, बाएँ: किसी कार्य पर पारंपरिक प्रशिक्षण से एकल प्रशिक्षित नेटवर्क मिलता है (डब्ल्यूटी) समाधान।दाएं: एफआईपी रणनीति आइसोपरफॉर्मेंस नेटवर्क के एक सबमेनफोल्ड की खोज करती है (डब्ल्यू1,डब्ल्यू2...डब्ल्यूएन) रुचि के कार्य के लिए, प्रतिकूल मजबूती से संपन्न नेटवर्क की कुशल खोज को सक्षम करना (डब्ल्यू2), उच्च कार्य प्रदर्शन वाले विरल नेटवर्क (डब्ल्यू3) और बिना भूले कई कार्य सीखने के लिए (डब्ल्यू4).बी, शीर्ष: वजन विन्यास के साथ एक प्रशिक्षित सीएनएन (डब्ल्यूटी), नेटवर्क की विभिन्न परतों को जोड़ने वाली रेखाओं द्वारा दर्शाया गया, एक इनपुट छवि स्वीकार करता हैएक्सऔर एक दस-तत्व आउटपुट वेक्टर उत्पन्न करता है,एफ(एक्स,डब्ल्यूटी).नीचे: नेटवर्क भार में गड़बड़ीdwवजन विन्यास के साथ एक नया नेटवर्क उत्पन्न होता हैडब्ल्यूटीâ+dwपरिवर्तित आउटपुट वेक्टर के साथ,एफ(एक्स,डब्ल्यूटीâ+dw), उसी इनपुट के लिए,एक्स.सी, एफआईपी एल्गोरिथ्म वजन गड़बड़ी की पहचान करता हैमैं* जो आउटपुट स्पेस में चली गई दूरी को कम करता है और द्वितीयक उद्देश्य फ़ंक्शन के ग्रेडिएंट के साथ संरेखण को अधिकतम करता है (âडब्ल्यूएल).हल्का नीला तीर एक को इंगित करता हैϵ-मानक वजन गड़बड़ी जो आउटपुट स्पेस में स्थानांतरित दूरी को कम करती है और गहरा नीला तीर इंगित करता हैϵ-मानक वजन गड़बड़ी जो उद्देश्य फ़ंक्शन के ग्रेडिएंट के साथ संरेखण को अधिकतम करती है,एल(एक्स,डब्ल्यू).द्वितीयक वस्तुनिष्ठ कार्यएल(एक्स,डब्ल्यू) अलग-अलग मशीन लर्निंग चुनौतियों को हल करने के लिए विविध है।डी, पथ नमूनाकरण एल्गोरिदम एफआईपी को परिभाषित करता है,γ(टी), की पुनरावृत्तीय पहचान के माध्यम सेϵ-सामान्य गड़बड़ी (मैं*(टी)) भार स्थान में।श्रेय:नेचर मशीन इंटेलिजेंस(2024)।डीओआई: 10.1038/एस42256-024-00902-एक्सतंत्रिका नेटवर्क में विशिष्ट कार्यों को सीखने की उल्लेखनीय क्षमता होती है, जैसे हस्तलिखित अंकों की पहचान करना।हालाँकि, जब अतिरिक्त कार्य सिखाए जाते हैं तो ये मॉडल अक्सर "विनाशकारी भूलने" का अनुभव करते हैं: वे नए असाइनमेंट को सफलतापूर्वक सीख सकते हैं, लेकिन मूल कार्य को पूरा करने के तरीके को "भूल" जाते हैं।कई कृत्रिम तंत्रिका नेटवर्क के लिए, जैसे कि स्व-चालित कारों का मार्गदर्शन करने वाले, अतिरिक्त कार्यों को सीखने के लिए पूरी तरह से पुन: प्रोग्राम करने की आवश्यकता होती है।दूसरी ओर, जैविक मस्तिष्क उल्लेखनीय रूप से लचीले होते हैं।मनुष्य और जानवर आसानी से सीख सकते हैं कि एक नया गेम कैसे खेला जाए, उदाहरण के लिए, चलना और बात करना दोबारा सीखे बिना।मानव और पशु मस्तिष्क के लचीलेपन से प्रेरित होकर, कैलटेक शोधकर्ताओं ने अब एक नए प्रकार का विकास किया हैएल्गोरिदम
यह तंत्रिका नेटवर्क को लगातार नए डेटा के साथ अद्यतन करने में सक्षम बनाता है जिससे वे शुरुआत से शुरू किए बिना सीखने में सक्षम होते हैं।
एल्गोरिदम, जिसे कार्यात्मक रूप से अपरिवर्तनीय पथ (एफआईपी) एल्गोरिदम कहा जाता है, में ऑनलाइन स्टोर पर सिफारिशों में सुधार से लेकर सेल्फ-ड्राइविंग कारों को ठीक करने तक के व्यापक अनुप्रयोग हैं।
एल्गोरिदम को कम्प्यूटेशनल जीवविज्ञान के सहायक प्रोफेसर और हेरिटेज मेडिकल रिसर्च इंस्टीट्यूट (एचएमआरआई) अन्वेषक मैट थॉमसन की प्रयोगशाला में विकसित किया गया था।शोध का वर्णन ए में किया गया हैनया अध्ययन
जर्नल में छप रहा हैनेचर मशीन इंटेलिजेंस.थॉमसन और पूर्व स्नातक छात्र गुरु राघवन, पीएच.डी.से प्रेरित थे
थॉमसन कहते हैं, "यह एक वर्षों तक चलने वाली परियोजना थी जो दिमाग के लचीलेपन से सीखने के बुनियादी विज्ञान के साथ शुरू हुई थी।""हम यह क्षमता कृत्रिम को कैसे दे सकते हैंतंत्रिका - तंत्र?"
टीम ने डिफरेंशियल ज्योमेट्री नामक गणितीय तकनीक का उपयोग करके एफआईपी एल्गोरिदम विकसित किया।फ्रेमवर्क पहले से एन्कोड की गई जानकारी को खोए बिना एक तंत्रिका नेटवर्क को संशोधित करने की अनुमति देता है।
2022 में, कैलटेक एंटरप्रेन्योर इन रेजिडेंस जूली स्कोनफेल्ड के मार्गदर्शन से, राघवन और थॉमसन ने एफआईपी एल्गोरिदम को और विकसित करने और कई अलग-अलग समस्याओं के समाधान के लिए बड़े पैमाने पर मशीन लर्निंग सिस्टम को तैनात करने के लिए युर्ट्स नामक एक कंपनी शुरू की।राघवन ने उद्योग के पेशेवरों बेन वान रू और जेसन श्निट्जर के साथ युर्ट्स की सह-स्थापना की।
राघवन अध्ययन के पहले लेखक हैं।राघवन और थॉमसन के अलावा, कैलटेक के सह-लेखक स्नातक छात्र सूर्य नारायणन हरि और शिचेन रेक्स लियू और सहयोगी ध्रुविल सतानी हैं।मिस्र में अलेक्जेंड्रिया विश्वविद्यालय के बाहे थारवाट भी सह-लेखक हैं।थॉमसन कैलटेक में तियानकियाओ और क्रिसी चेन इंस्टीट्यूट फॉर न्यूरोसाइंस से संबद्ध संकाय सदस्य हैं।
अधिक जानकारी:गुरुप्रसाद राघवन और अन्य, कार्यात्मक रूप से अपरिवर्तनीय पथों को पार करके लचीली मशीन लर्निंग सिस्टम की इंजीनियरिंग,नेचर मशीन इंटेलिजेंस(2024)।डीओआई: 10.1038/एस42256-024-00902-एक्स
उद्धरण:'विनाशकारी भूल' पर काबू पाना: मस्तिष्क से प्रेरित एल्गोरिदम तंत्रिका नेटवर्क को ज्ञान बनाए रखने की अनुमति देता है (2024, 9 अक्टूबर)10 अक्टूबर 2024 को पुनः प्राप्तhttps://techxplore.com/news/2024-10-catastropic-algorithm-brain-neural-networks.html से
यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।
