कंप्यूटिंग योजना पारंपरिक डेटा संचालन की ऊर्जा दक्षता में सुधार करते हुए मशीन लर्निंग को तेज करती है
चैटजीपीटी जैसे आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल एल्गोरिदम पर चलते हैं और उनमें डेटा के लिए बहुत रुचि होती है, जिसे वे मशीन लर्निंग के माध्यम से प्रोसेस करते हैं, लेकिन उनकी डेटा-प्रोसेसिंग क्षमताओं की सीमा के बारे में क्या?पेकिंग यूनिवर्सिटी के स्कूल ऑफ इंटीग्रेटेड सर्किट और इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस के प्रोफेसर सन झोंग के नेतृत्व में शोधकर्ताओं ने डेटा-प्रोसेसिंग को सीमित करने वाली वॉन न्यूमैन बाधा को हल करने के लिए काम किया।
उनके पेपर मेंप्रकाशितजर्नल मेंउपकरण12 सितंबर, 2024 को, टीम ने दोहरी-आईएमसी (इन-मेमोरी कंप्यूटिंग) योजना विकसित की, जो न केवल गति बढ़ाती हैयंत्र अधिगमप्रक्रिया, बल्कि पारंपरिक डेटा संचालन की ऊर्जा दक्षता में भी सुधार करती है।
एल्गोरिदम क्यूरेट करते समय,सॉफ्टवेयर इंजीनियरऔर कंप्यूटर वैज्ञानिक मैट्रिक्स-वेक्टर गुणन (एमवीएम) नामक डेटा संचालन पर भरोसा करते हैं, जो समर्थन करता हैतंत्रिका - तंत्र.तंत्रिका नेटवर्क एक कंप्यूटिंग आर्किटेक्चर है जो अक्सर एआई मॉडल में पाया जाता है जो मानव मस्तिष्क के कार्य और संरचना की नकल करता है।
जैसे-जैसे डेटासेट का पैमाना तेजी से बढ़ता है, कंप्यूटिंग प्रदर्शन अक्सर डेटा मूवमेंट और प्रोसेसिंग और डेटा ट्रांसफर के बीच गति के बेमेल के कारण सीमित हो जाता है।इसे वॉन न्यूमैन बॉटलनेक के नाम से जाना जाता है।पारंपरिक समाधान एक एकल इन-मेमोरी कंप्यूटिंग (सिंगल-आईएमसी) योजना है, जिसमें तंत्रिका नेटवर्क भार को मेमोरी चिप में संग्रहीत किया जाता है जबकि इनपुट (जैसे छवियां) बाहरी रूप से प्रदान किया जाता है।
हालाँकि, सिंगल-आईएमसी के लिए चेतावनी ऑन-चिप और ऑफ-चिप डेटा ट्रांसपोर्टेशन के बीच स्विच है, साथ ही डिजिटल-टू-एनालॉग कन्वर्टर्स (डीएसी) का उपयोग है, जो बड़े सर्किट फ़ुटप्रिंट और उच्च बिजली खपत का कारण बनता है।
आईएमसी सिद्धांत की क्षमता को पूरी तरह से महसूस करने के लिए, टीम ने एक दोहरी-आईएमसी योजना विकसित की जो मेमोरी सरणी में तंत्रिका नेटवर्क के वजन और इनपुट दोनों को संग्रहीत करती है, इस प्रकार पूरी तरह से इन-मेमोरी तरीके से डेटा संचालन करती है।
इसके बाद टीम ने सिग्नल रिकवरी और इमेज प्रोसेसिंग के लिए प्रतिरोधक रैंडम-एक्सेस मेमोरी (आरआरएएम) उपकरणों पर डुअल-आईएमसी का परीक्षण किया।एमवीएम संचालन पर लागू होने पर दोहरी-आईएमसी योजना के ये कुछ लाभ हैं:
- पूरी तरह से इन-मेमोरी गणनाओं के कारण अधिक दक्षता हासिल की जाती है, जो ऑफ-चिप डायनेमिक रैंडम-एक्सेस मेमोरी (DRAM) और ऑन-चिप स्टेटिक रैंडम-एक्सेस मेमोरी (SRAM) के कारण होने वाले समय और ऊर्जा की बचत करती है।
- कंप्यूटिंग प्रदर्शन को डेटा मूवमेंट के रूप में अनुकूलित किया जाता है, जो एक सीमित कारक था, पूरी तरह से इन-मेमोरी तरीके से समाप्त हो जाता है।
- डीएसी के उन्मूलन के कारण कम उत्पादन लागत, जो एकल-आईएमसी योजना में आवश्यक हैं।इसका मतलब चिप क्षेत्र, कंप्यूटिंग विलंबता और बिजली आवश्यकताओं पर बचत भी है।
की मांग तेजी से बढ़ती जा रही हैडेटा-आज के डिजिटल युग में प्रसंस्करण, इस शोध में की गई खोजें कंप्यूटिंग वास्तुकला और कृत्रिम बुद्धिमत्ता में नई सफलताएं ला सकती हैं।
अधिक जानकारी:शिक्विंग वांग एट अल, तंत्रिका नेटवर्क में तेजी लाने के लिए मैट्रिक्स-वेक्टर गुणन की दोहरी इन-मेमोरी कंप्यूटिंग,उपकरण(2024)।डीओआई: 10.1016/जे.डिवाइस.2024.100546
उद्धरण:कंप्यूटिंग योजना पारंपरिक डेटा संचालन की ऊर्जा दक्षता में सुधार करते हुए मशीन लर्निंग को तेज करती है (2024, 26 सितंबर)28 सितंबर 2024 को पुनः प्राप्तhttps://techxplore.com/news/2024-09-scheme-machine-energy-efficiency-traditional.html से
यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।