एआई अनुमान प्रौद्योगिकी कंपनी बिटएनर्जी एआई के इंजीनियरों की एक टीम एआई अनुप्रयोगों की ऊर्जा जरूरतों को 95% तक कम करने की एक विधि की रिपोर्ट करती है।समूह ने एक प्रकाशित किया हैकागज़पर अपनी नई तकनीक का वर्णन कर रहे हैंarXivप्रीप्रिंट सर्वर.
जैसे-जैसे एआई अनुप्रयोग मुख्यधारा में आए हैं, उनका उपयोग नाटकीय रूप से बढ़ गया है, जिससे ऊर्जा जरूरतों और लागत में उल्लेखनीय वृद्धि हुई है।चैटजीपीटी जैसे एलएलएम के लिए बहुत अधिक कंप्यूटिंग शक्ति की आवश्यकता होती है, जिसका अर्थ है कि उन्हें चलाने के लिए बहुत अधिक बिजली की आवश्यकता होती है।
केवल एक उदाहरण के रूप में, ChatGPT को अब प्रतिदिन लगभग 564 MWh की आवश्यकता है, या 18,000 अमेरिकी घरों को बिजली देने के लिए पर्याप्त है।जैसे-जैसे विज्ञान आगे बढ़ रहा है और ऐसे ऐप्स अधिक लोकप्रिय हो रहे हैं, आलोचकों ने सुझाव दिया है कि एआई एप्लिकेशन बिटकॉइन खनन कार्यों के बराबर, कुछ ही वर्षों में सालाना लगभग 100 टीडब्ल्यूएच का उपयोग कर सकते हैं।
इस नए प्रयास में, बिटएनर्जी एआई की टीम का दावा है कि उन्होंने एआई ऐप्स चलाने के लिए आवश्यक कंप्यूटिंग की मात्रा को नाटकीय रूप से कम करने का एक तरीका ढूंढ लिया है जिसके परिणामस्वरूप प्रदर्शन में कमी नहीं आती है।
नई तकनीक बुनियादी है - जटिल फ़्लोटिंग-पॉइंट गुणन (एफपीएम) का उपयोग करने के बजाय, विधि पूर्णांक जोड़ का उपयोग करती है।ऐप्स अत्यधिक बड़ी या छोटी संख्याओं को संभालने के लिए एफपीएम का उपयोग करते हैं, जिससे एप्लिकेशन अत्यधिक सटीकता के साथ उनका उपयोग करके गणना कर सकते हैं।यह एआई नंबर क्रंचिंग का सबसे अधिक ऊर्जा-गहन हिस्सा भी है।
शोधकर्ता अपनी नई विधि को रैखिक-जटिलता गुणन कहते हैं - यह पूर्णांक जोड़ का उपयोग करके एफपीएम का अनुमान लगाकर काम करता है।उनका दावा है कि अब तक के परीक्षण से पता चला है कि नया दृष्टिकोण कम करता हैबिजली की मांग95% तक।
इसमें एक कमी यह है कि इसके लिए अलग की आवश्यकता होती हैहार्डवेयरउससे भी अधिक जो वर्तमान में उपयोग में है।लेकिन शोध टीम यह भी नोट करती है कि नए प्रकार के हार्डवेयर को पहले ही डिज़ाइन, निर्मित और परीक्षण किया जा चुका है।
हालाँकि, ऐसे हार्डवेयर को कैसे लाइसेंस दिया जाएगा, यह अभी भी स्पष्ट नहीं है - वर्तमान में, GPU निर्माता एनवीडिया AI हार्डवेयर बाजार पर हावी है।वे इस नई तकनीक पर कैसे प्रतिक्रिया देते हैं, इसका इसे अपनाने की गति पर बड़ा प्रभाव पड़ सकता है - अगर कंपनी के दावों की पुष्टि की जाती है।
अधिक जानकारी:होंग्यिन लुओ एट अल, ऊर्जा-कुशल भाषा मॉडल के लिए आपको अतिरिक्त की ही आवश्यकता है,arXiv(2024)।डीओआई: 10.48550/arxiv.2410.00907
जर्नल जानकारी: arXiv
© 2024 साइंस एक्स नेटवर्क
उद्धरण:पूर्णांक जोड़ एल्गोरिदम एआई की ऊर्जा जरूरतों को 95% तक कम कर सकता है (2024, 12 अक्टूबर)12 अक्टूबर 2024 को पुनः प्राप्तhttps://techxplore.com/news/2024-10-integer-addition-algorithm-energy-ai.html से
यह दस्तावेज कॉपीराइट के अधीन है।निजी अध्ययन या अनुसंधान के उद्देश्य से किसी भी निष्पक्ष व्यवहार के अलावा, नहींलिखित अनुमति के बिना भाग को पुन: प्रस्तुत किया जा सकता है।सामग्री केवल सूचना के प्रयोजनों के लिए प्रदान की गई है।