अपनी नई रिस्पॉन्सिबल इनोवेशन पहल के तहत, पेन इंजीनियरिंग के शोधकर्ताओं ने पाया कि एआई-शासित रोबोट की कुछ विशेषताएं सुरक्षा कमजोरियां और कमजोरियां रखती हैं जो पहले अज्ञात और अज्ञात थीं।अनुसंधान का उद्देश्य रोबोटिक्स में बड़े भाषा मॉडल (एलएलएम) की सुरक्षित तैनाती सुनिश्चित करने के लिए उभरती भेद्यता को संबोधित करना है।

"हमारे काम से पता चलता है कि, इस समय, भौतिक दुनिया के साथ एकीकृत होने पर बड़े भाषा मॉडल पर्याप्त सुरक्षित नहीं हैं," कंप्यूटर और सूचना विज्ञान में इलेक्ट्रिकल और सिस्टम इंजीनियरिंग (ईएसई) में परिवहन के यूपीएस फाउंडेशन प्रोफेसर जॉर्ज पप्पास कहते हैं।सीआईएस), और मैकेनिकल इंजीनियरिंग और एप्लाइड मैकेनिक्स (एमईएएम) में।

नए पेपर में, पप्पस, जो पेन इंजीनियरिंग में रिसर्च के लिए एसोसिएट डीन के रूप में भी काम करते हैं, और उनके सह-लेखकों ने चेतावनी दी है कि विभिन्न प्रकार के एआई-नियंत्रित रोबोटों में हेरफेर या हैक किया जा सकता है।

रोबोपेयर, शोधकर्ताओं द्वारा विकसित एल्गोरिथ्म, तीन अलग-अलग रोबोटिक प्रणालियों में सुरक्षा रेलिंग को दरकिनार करते हुए, 100% "जेलब्रेक" दर प्राप्त करने के लिए केवल कुछ दिनों की आवश्यकता थी:यूनिट्री गो2, विभिन्न अनुप्रयोगों में उपयोग किया जाने वाला एक चौपाया रोबोट;क्लियरपाथ रोबोटिक्स जैकल, एक पहिएदार वाहन जिसका उपयोग अक्सर अकादमिक अनुसंधान के लिए किया जाता है;और यहडॉल्फिन एलएलएम, NVIDIA द्वारा डिज़ाइन किया गया एक सेल्फ-ड्राइविंग सिम्युलेटर।उदाहरण के लिए, सुरक्षा रेलिंगों को दरकिनार करके, क्रॉसवॉक के माध्यम से गति बढ़ाने के लिए स्व-ड्राइविंग प्रणाली में हेरफेर किया जा सकता है।

अध्ययन को सार्वजनिक रूप से जारी करने से पहले, पेन इंजीनियरिंग ने कंपनियों को उनके सिस्टम की कमजोरियों के बारे में सूचित किया और इन निर्माताओं के एआई सुरक्षा प्रोटोकॉल के परीक्षण और सत्यापन को आगे बढ़ाने के लिए अनुसंधान को एक ढांचे के रूप में उपयोग करने के लिए उनके साथ काम कर रहा है।

हाल ही में पेन इंजीनियरिंग पीएच.डी. अलेक्जेंडर रॉबी कहते हैं, "यहां रेखांकित करना महत्वपूर्ण है कि सिस्टम तब सुरक्षित हो जाते हैं जब आप उनकी कमजोरियों का पता लगाते हैं। यह साइबर सुरक्षा के लिए सच है। यह एआई सुरक्षा के लिए भी सच है।"ईएसई में स्नातक, कार्नेगी मेलन विश्वविद्यालय में वर्तमान पोस्टडॉक्टरल विद्वान और पेपर के पहले लेखक।

"वास्तव में, एआई रेड टीमिंग, एक सुरक्षा अभ्यास जिसमें संभावित खतरों और कमजोरियों के लिए एआई सिस्टम का परीक्षण करना शामिल है, जेनरेटिव एआई सिस्टम की सुरक्षा के लिए आवश्यक है क्योंकि एक बार जब आप कमजोरियों की पहचान कर लेते हैं, तो आप उनसे बचने के लिए इन सिस्टम का परीक्षण और प्रशिक्षण भी कर सकते हैं।।"

शोधकर्ताओं का तर्क है कि समस्या के समाधान के लिए भौतिक प्रणालियों में एआई के एकीकरण को कैसे विनियमित किया जाता है, इसके थोक पुनर्मूल्यांकन की तुलना में एक सॉफ्टवेयर पैच की आवश्यकता कम है।

• 

• 

पेन इंजीनियरिंग के नेमिरोव्स्की फैमिली डीन और एक अन्य सह-लेखक विजय कुमार कहते हैं, "इस पेपर के निष्कर्षों से यह स्पष्ट हो गया है कि जिम्मेदार नवाचार को अनलॉक करने के लिए सुरक्षा-प्रथम दृष्टिकोण रखना महत्वपूर्ण है।"

"वास्तविक दुनिया में एआई-सक्षम रोबोटों को तैनात करने से पहले हमें आंतरिक कमजोरियों को संबोधित करना चाहिए। वास्तव में, हमारा शोध सत्यापन और सत्यापन के लिए एक ढांचा विकसित कर रहा है जो यह सुनिश्चित करता है कि केवल सामाजिक मानदंडों के अनुरूप कार्य ही रोबोटिक सिस्टम द्वारा किए जा सकते हैं और किए जाने चाहिए।"।"

अधिक जानकारी:जेलब्रेकिंग एलएलएम-नियंत्रित रोबोट, (2024)।