स्व-चालित वाहनों के लिए कृत्रिम बुद्धिमत्ता एक प्रमुख तकनीक है।इसका उपयोग निर्णय लेने, संवेदन, पूर्वानुमानित मॉडलिंग और अन्य कार्यों के लिए किया जाता है।लेकिन ये AI सिस्टम किसी हमले के प्रति कितने संवेदनशील हैं?

बफ़ेलो विश्वविद्यालय में चल रहे शोध इस प्रश्न की जांच करते हैं, जिसके परिणामों से पता चलता है कि दुर्भावनापूर्ण तत्व इन प्रणालियों को विफल कर सकते हैं।उदाहरण के लिए, यह संभव है कि किसी वाहन पर रणनीतिक रूप से 3डी-मुद्रित वस्तुएं रखकर एआई-संचालित रडार सिस्टम के लिए अदृश्य किया जा सकता है, जो इसे पहचानने से रोकता है।

शोधकर्ताओं का कहना है कि यह काम, जो एक नियंत्रित अनुसंधान सेटिंग में किया जाता है, इसका मतलब यह नहीं है कि मौजूदा स्वायत्त वाहन असुरक्षित हैं।बहरहाल, इसका ऑटोमोटिव, तकनीक, बीमा और अन्य उद्योगों के साथ-साथ सरकारी नियामकों और नीति निर्माताओं पर भी प्रभाव पड़ सकता है।

"हालाँकि आज भी उपन्यास है,स्व-चालित वाहननिकट भविष्य में परिवहन का एक प्रमुख रूप बनने की ओर अग्रसर हैं," कंप्यूटर विज्ञान और इंजीनियरिंग विभाग में SUNY के प्रतिष्ठित प्रोफेसर चुनमिंग क़ियाओ कहते हैं, जो इस काम का नेतृत्व कर रहे हैं। "तदनुसार, हमें इन वाहनों को शक्ति देने वाली तकनीकी प्रणालियों को सुनिश्चित करने की आवश्यकता है, विशेष रूप से कृत्रिम बुद्धिमत्ता मॉडल, प्रतिकूल कृत्यों से सुरक्षित हैं।यह ऐसी चीज़ है जिस पर हम बफ़ेलो विश्वविद्यालय में लगन से काम कर रहे हैं।"

शोध का वर्णन एक अध्ययन के साथ 2021 के पत्रों की एक श्रृंखला में किया गया हैप्रकाशितमेंकंप्यूटर और संचार सुरक्षा (सीसीएस) पर 2021 एसीएम एसआईजीएसएसी सम्मेलन की कार्यवाही.हाल के उदाहरणों में शामिल हैं aमई से पढ़ाईमेंमोबाइल कंप्यूटिंग और नेटवर्किंग पर 30वें वार्षिक अंतर्राष्ट्रीय सम्मेलन की कार्यवाही(आमतौर पर मोबिकॉम के नाम से जाना जाता है), और इस महीने के 33वें USENIX सुरक्षा संगोष्ठी में एक और अध्ययन जो यहां उपलब्ध हैarXiv.

एमएमवेव का पता लगाना प्रभावी, लेकिन असुरक्षित है

पिछले तीन वर्षों से, यी झू और क़ियाओ की टीम के अन्य सदस्य यूबी के उत्तरी परिसर में एक स्वायत्त वाहन पर परीक्षण चला रहे हैं।

झू, जिन्होंने अपनी पीएच.डी. पूरी की।मई में यूबी कंप्यूटर विज्ञान और इंजीनियरिंग विभाग से, हाल ही में वेन स्टेट यूनिवर्सिटी में एक संकाय पद स्वीकार किया।साइबर सुरक्षा के विशेषज्ञ, वह उपर्युक्त पत्रों के प्राथमिक लेखक हैं, जो लिडार, रडार और कैमरों की भेद्यता के साथ-साथ इन सेंसरों को एक साथ जोड़ने वाली प्रणालियों पर ध्यान केंद्रित करते हैं।

"स्वायत्त ड्राइविंग में,मिलीमीटर तरंग[एमएमवेव] रडार को वस्तु का पता लगाने के लिए व्यापक रूप से अपनाया गया है क्योंकि यह कई कैमरों की तुलना में बारिश, कोहरे और खराब रोशनी की स्थिति में अधिक विश्वसनीय और सटीक है," झू कहते हैं। "लेकिन रडार को डिजिटल और व्यक्तिगत दोनों तरह से हैक किया जा सकता है।"

इस सिद्धांत के ऐसे ही एक परीक्षण में, शोधकर्ताओं ने वस्तुओं को विशिष्ट ज्यामितीय आकृतियों में बनाने के लिए 3डी प्रिंटर और धातु की पन्नी का उपयोग किया, जिसे उन्होंने "टाइल मास्क" कहा।एक वाहन पर दो टाइल मास्क रखकर, उन्होंने पाया कि वे रडार का पता लगाने में एआई मॉडल को गुमराह कर सकते हैं, जिससे यह वाहन अपने रडार से गायब हो जाएगा।

टाइल मास्क पर काम प्रकाशित किया गया थाकंप्यूटर और संचार सुरक्षा पर 2023 ACM SIGSAC सम्मेलन की कार्यवाहीनवंबर 2023 में.

हमले के उद्देश्यों में बीमा धोखाधड़ी, एवी प्रतियोगिता शामिल हो सकती है

झू का कहना है कि हालांकि एआई ढेर सारी सूचनाओं को संसाधित कर सकता है, लेकिन अगर इसे संभालने के लिए विशेष निर्देश न दिए जाएं तो यह भ्रमित भी हो सकता है और गलत जानकारी भी दे सकता है।

झू कहते हैं, "मान लीजिए कि हमारे पास एक बिल्ली की तस्वीर है, और एआई सही ढंग से पहचान सकता है कि यह एक बिल्ली है। लेकिन अगर हम छवि में कुछ पिक्सेल बदलते हैं, तो एआई सोच सकता है कि यह एक कुत्ते की छवि है।""यह एआई का एक प्रतिकूल उदाहरण है। हाल के वर्षों में, शोधकर्ताओं ने विभिन्न एआई मॉडल के लिए कई प्रतिकूल उदाहरण ढूंढे हैं या डिज़ाइन किए हैं। इसलिए, हमने खुद से पूछा: क्या एआई मॉडल के लिए उदाहरण डिजाइन करना संभव हैस्वायत्त वाहन?"

शोधकर्ताओं ने नोट किया कि संभावित हमलावर ड्राइवर के यात्रा शुरू करने, अस्थायी रूप से पार्क करने या ट्रैफिक लाइट पर रुकने से पहले वाहन पर गुप्त रूप से एक प्रतिकूल वस्तु चिपका सकते हैं।झू का कहना है कि वे किसी पैदल यात्री द्वारा पहनी गई किसी चीज में भी कोई वस्तु रख सकते हैं, जैसे कि बैकपैक, जिससे उस पैदल यात्री का पता लगाना प्रभावी रूप से मिट जाता है।

ऐसे हमलों के लिए संभावित प्रेरणाओं में बीमा धोखाधड़ी के लिए दुर्घटनाएं करना, बीच प्रतिस्पर्धा शामिल हैस्वायत्त ड्राइविंगकंपनियाँ, या किसी अन्य वाहन में ड्राइवर या यात्रियों को चोट पहुँचाने की व्यक्तिगत इच्छा।

शोधकर्ताओं का कहना है कि यह ध्यान रखना महत्वपूर्ण है कि नकली हमलों से यह मान लिया जाता है कि हमलावर को पीड़ित के वाहन के रडार ऑब्जेक्ट डिटेक्शन सिस्टम की पूरी जानकारी है।हालाँकि यह जानकारी प्राप्त करना संभव है, लेकिन जनता के बीच इसकी संभावना बहुत कम है।

सुरक्षा अन्य प्रौद्योगिकी से पीछे है

झू कहते हैं, अधिकांश एवी सुरक्षा तकनीक वाहन के आंतरिक भाग पर ध्यान केंद्रित करती है, जबकि कुछ अध्ययन बाहरी खतरों पर ध्यान देते हैं।

वे कहते हैं, ''सुरक्षा अन्य प्रौद्योगिकी से पिछड़ गई है.''

हालाँकि शोधकर्ताओं ने ऐसे हमलों को रोकने के तरीकों पर गौर किया है, लेकिन उन्हें अभी तक कोई निश्चित समाधान नहीं मिला है।

झू कहते हैं, "मुझे लगता है कि अचूक बचाव तैयार करने के लिए अभी लंबा रास्ता तय करना है।""भविष्य में, हम न केवल राडार बल्कि कैमरा और मोशन प्लानिंग जैसे अन्य सेंसरों की सुरक्षा की भी जांच करना चाहेंगे। और हम इन हमलों को कम करने के लिए कुछ रक्षा समाधान विकसित करने की भी उम्मीद करते हैं।"