एक महिला की आपबीतीचेहरे की पहचान तकनीक से हुई गलत पहचानरोटोरुआ सुपरमार्केट में कोई आश्चर्य नहीं होना चाहिए था।

जब फूडस्टफ्स नॉर्थ आइलैंड ने फरवरी में खुदरा अपराध से निपटने की रणनीति के हिस्से के रूप में इस तकनीक का परीक्षण करने के अपने इरादे की घोषणा की, तो प्रौद्योगिकी और गोपनीयता विशेषज्ञों ने तुरंत चिंता जताई।

विशेष रूप से, माओरी महिलाओं और रंग की महिलाओं का खतराभेदभाव किया जा रहा हैउठाया गया था, और अब अप्रैल की शुरुआत में ते अनी सोलोमन के साथ जो हुआ उससे यह पता चला है।

इस सप्ताह मीडिया से बात करते हुए,सोलोमन ने कहाउसने सोचा कि उसकी गलत पहचान में जातीयता एक "बड़ा कारक" थी।"दुर्भाग्य से, यदि हमारे पास इसके लिए कुछ नियम और कानून नहीं हैं तो यह कई कीवी लोगों का अनुभव होगा।"

सुपरमार्केट कंपनी काप्रतिक्रियायह कि यह "मानवीय त्रुटि का वास्तविक मामला" था, एआई और स्वचालित प्रणालियों के ऐसे उपयोग के बारे में गहरे सवालों का समाधान करने में विफल है।

स्वचालित निर्णय और मानवीय कार्य

स्वचालित चेहरे की पहचान की चर्चा अक्सर अमूर्त में की जाती है - शुद्ध एल्गोरिथम पैटर्न मिलान के रूप में, जिसमें शुद्धता और सटीकता का आकलन करने पर जोर दिया जाता है।

इनसे निपटने वाली प्रणालियों के लिए ये उचित रूप से महत्वपूर्ण प्राथमिकताएँ हैंबायोमेट्रिक डेटाऔर सुरक्षा.लेकिन स्वचालित निर्णयों के परिणामों पर इतने महत्वपूर्ण फोकस के साथ, इन निर्णयों को कैसे लागू किया जाता है, इस बारे में चिंताओं को नजरअंदाज करना आसान है।

किसी उत्पाद की रोजमर्रा की कामकाजी परिस्थितियों, कार्यों और लक्ष्यों का वर्णन करने के लिए डिजाइनर "उपयोग के संदर्भ" शब्द का उपयोग करते हैं।साथचेहरे की पहचान तकनीकसुपरमार्केट में, उपयोग का संदर्भ एर्गोनॉमिक्स या प्रयोज्य जैसी पारंपरिक डिजाइन चिंताओं से कहीं आगे जाता है।

इसमें इस बात पर विचार करने की आवश्यकता है कि कैसे स्वचालित अतिचार सूचनाएं इन-स्टोर प्रतिक्रियाओं को ट्रिगर करती हैं, उन प्रतिक्रियाओं को प्रबंधित करने के लिए प्रोटोकॉल, और जब चीजें गलत हो जाती हैं तो क्या होता है।ये केवल शुद्ध प्रौद्योगिकी या डेटा समस्याओं से कहीं अधिक हैं।

यह परिप्रेक्ष्य हमें सिस्टम के विभिन्न स्तरों पर इंजीनियरिंग और डिज़ाइन हस्तक्षेपों के प्रभाव को समझने और संतुलित करने में मदद करता है।

भविष्यवाणी सटीकता में सुधार लाने में निवेश करना चेहरे की पहचान प्रणालियों के लिए एक स्पष्ट प्राथमिकता प्रतीत होती है।लेकिन इसे उपयोग के व्यापक संदर्भ में देखा जाना चाहिए जहां कम संख्या में गलत भविष्यवाणियों से होने वाला नुकसान अन्यत्र मामूली प्रदर्शन सुधारों से अधिक होता है।

खुदरा अपराध पर प्रतिक्रिया

दुकानों में चोरी और हिंसक व्यवहार में वृद्धि की रिपोर्ट में न्यूज़ीलैंड अकेला नहीं है।ब्रिटेन में इसे एक "संकट" के रूप में वर्णित किया गया है, जिसमें अब एक खुदरा कर्मचारी पर हमला किया गया हैस्टैंडअलोन आपराधिक अपराध.

कनाडाई पुलिस हैंअतिरिक्त संसाधन जुटाना"दुकान में चोरी की कार्रवाई" में।और कैलिफ़ोर्निया में, खुदरा दिग्गज वॉलमार्ट और टारगेट हैंजुर्माना बढ़ाने पर जोर दे रहे हैंखुदरा अपराध के लिए.

जबकि ये समस्याएं उद्योग समूह, जीवन यापन की बढ़ती लागत से जुड़ी हुई हैंरिटेल एनजेड ने इशारा किया हैलाभ कमाने के लिए संगठित अपराध प्रमुख कारक है।

दुकानों में खुलेआम चोरी और हमलों के सुरक्षा फुटेज का उपयोग करके सनसनीखेज कवरेज निस्संदेह सार्वजनिक धारणा को प्रभावित कर रही है।लेकिन दुकानों में चोरी और अपराधियों पर सुसंगत, निष्पक्ष डेटा की कमी के कारण किसी प्रवृत्ति को मापना मुश्किल है।

अनुमान है कि न्यूज़ीलैंड में 15%-20% लोग खाद्य असुरक्षा से प्रभावित हैं, जो एक समस्या हैहोना पाया गयाजातीयता और सामाजिक-आर्थिक स्थिति से दृढ़ता से जुड़ा हुआ है।जीवन यापन की लागत के बीच संबंध,खाद्य असुरक्षाऔर चुराए गए किराने के सामान का काला बाज़ार वितरण जटिल और सूक्ष्म होने की संभावना है।

इसलिए, कारण और प्रभाव का आकलन करते समय सावधानी बरतने की आवश्यकता है, क्योंकि इस दिशा में बदलाव के नागरिक समाज के लिए नुकसान और निहितार्थ के जोखिम हैं।निरंतर निगरानीखुदरा स्थानों में.

एआई और मानवीय पूर्वाग्रह

प्रशंसनीय रूप से, फ़ूडस्टफ्स गोपनीयता आयुक्त के साथ जुड़ा हुआ है, और रहा हैसुरक्षा उपायों के बारे में पारदर्शीबायोमेट्रिक डेटा संग्रह और विलोपन प्रोटोकॉल में।दुकानों में सुरक्षा प्रतिक्रिया के लिए प्रोटोकॉल के बारे में अधिक स्पष्टता की कमी है।

यह चेहरे की पहचान करने वाले कैमरों के लिए ग्राहकों की सहमति से कहीं अधिक है।ग्राहकों को यह भी जानना होगा कि जब अतिचार अधिसूचना जारी की जाती है तो क्या होता है, और विवाद समाधान प्रक्रिया में गलत पहचान होने पर क्या होता है।

शोध से पता चलता है कि मानव निर्णय निर्माता ऐसा कर सकते हैंएआई निर्णयों से पक्षपात विरासत में मिलता है.अत्यधिक तनाव और हिंसा के जोखिम की स्थितियों में, स्वचालित चेहरे की पहचान को तदर्थ मानव निर्णय के साथ जोड़ना संभावित रूप से खतरनाक है।

विफलता के एकल बिंदु के रूप में व्यक्तिगत श्रमिकों या प्रौद्योगिकी घटकों को अलग करने और दोष देने के बजाय, पूरे सिस्टम में त्रुटि के प्रति लचीलेपन और सहनशीलता पर अधिक जोर देने की आवश्यकता है।

एआई त्रुटियों और मानवीय त्रुटियों को पूरी तरह से टाला नहीं जा सकता।"लूप में मानव" के साथ एआई सुरक्षा प्रोटोकॉल को अधिक सावधानीपूर्वक सुरक्षा उपायों की आवश्यकता है जो ग्राहक अधिकारों का सम्मान करते हैं और रूढ़िबद्धता से रक्षा करते हैं।

खरीदारी और निगरानी

ऑस्ट्रेलियाई सुपरमार्केट ने प्रत्यक्ष तकनीकी निगरानी के साथ खुदरा अपराध का जवाब दिया है: कर्मचारियों को बॉडी कैमरे भी जारी किए गए हैंअब अपनाया गयान्यूजीलैंड में वूलवर्थ्स द्वारा), दुकानों के माध्यम से ग्राहकों की आवाजाही पर डिजिटल रूप से नज़र रखना, लोगों को बिना भुगतान किए जाने से रोकने के लिए स्वचालित ट्रॉली लॉक और निकास द्वार।

खरीदारी के अनुभव में तकनीकी बदलाव के मामले में सुपरमार्केट अब सबसे आगे हो सकते हैं।एक निगरानी संस्कृति की ओर बढ़ना जहां प्रत्येक ग्राहक पर संभावित चोर के रूप में नजर रखी जाती है, 9/11 के बाद वैश्विक हवाई अड्डे की सुरक्षा में बदलाव के तरीकों की याद दिलाती है।

न्यूजीलैंड उत्पाद डिजाइनर,सॉफ्टवेयर इंजीनियरऔर डेटा वैज्ञानिक गोपनीयता आयुक्त के नतीजे पर बारीकी से ध्यान देंगेखाद्य पदार्थों के चेहरे की पहचान परीक्षण की समीक्षा.

चोरी और हिंसा सुपरमार्केट के लिए एक अत्यावश्यक समस्या है।लेकिन अब उन्हें यह दिखाने की ज़रूरत है कि डिजिटल निगरानी प्रणाली संभावित वैकल्पिक तरीकों की तुलना में अधिक जिम्मेदार, नैतिक और प्रभावी समाधान है।

इसका मतलब यह है कि प्रौद्योगिकी को स्वीकार करने के लिए दुरुपयोग, पूर्वाग्रह और नुकसान से बचने के लिए मानव-केंद्रित डिजाइन की आवश्यकता होती है।बदले में, यह नियामक ढांचे और मानकों को निर्देशित करने, एआई के स्वीकार्य उपयोग पर सार्वजनिक बहस को सूचित करने और सुरक्षित स्वचालित प्रणालियों के विकास का समर्थन करने में मदद कर सकता है।

यह आलेख से पुनः प्रकाशित किया गया हैबातचीतक्रिएटिव कॉमन्स लाइसेंस के तहत।को पढ़िएमूल लेख.