कुल प्रश्नों की संख्या : 1
-
एक महानगर में पुलिस उपायुक्त (DCP) के रूप में, आप अपराधियों पर नज़र रखने और अपराधों को रोकने के लिये तैयार किये गए AI-आधारित फेशियल रिकॉग्निशन सिस्टम (FRS) के कार्यान्वयन की देखरेख करते हैं। सार्वजनिक स्थानों पर स्थापित यह सिस्टम चोरी को कम करने, संदिग्धों की पहचान करने और लंबित मामलों को सुलझाने में सहायक रहा है। हालाँकि, AI के एल्गोरिदम में गलत सकारात्मकता, गोपनीयता के उल्लंघन और संभावित पूर्वाग्रहों के संदर्भ में चिंताएँ सामने आई हैं।
हाल ही में, सिस्टम ने 22 वर्षीय कॉलेज छात्र रवि को कथित तौर पर हिंसक हो चुके एक विरोध प्रदर्शन में मौजूद होने के लिये चिह्नित किया। AI द्वारा उत्पन्न रिपोर्ट के आधार पर, रवि को पूछताछ के लिये कुछ समय के लिये हिरासत में लिया गया, जबकि उसने बल देते हुए कहा था कि वह इसमें शामिल नहीं था। उसके परिवार और नागरिक समाज समूहों का तर्क है कि AI सिस्टम में तकनीकी त्रुटि के कारण उसकी गलत पहचान की गई थी। जाँच से पता चलता है कि सीमांत पृष्ठभूमि के कई व्यक्तियों को असंगत रूप से चिह्नित किया गया है, जिससे AI-संचालित पुलिसिंग में पूर्वाग्रह के बारे में चिंताएँ बढ़ रही हैं।
शहर का प्रशासन अब विभाजित है। कुछ अधिकारी गोपनीयता संबंधी चिंताओं और अनुचित गिरफ्तारियों का हवाला देते हुए स्वतंत्र समीक्षा के लिये AI परियोजना को रोकने का समर्थन करते हैं। अन्य लोग तर्क देते हैं कि लाभ जोखिमों से अधिक हैं और AI त्रुटियों को समय के साथ सुधारा जा सकता है। इस बीच, रवि के मामले पर जनता का आक्रोश बढ़ रहा है और पुलिस विभाग की विश्वसनीयता दाँव पर है।
- कानून प्रवर्तन एजेंसियाँ AI-संचालित फेशियल रिकॉग्निशन के लाभों को झूठी सकारात्मकता, गोपनीयता के उल्लंघन और एल्गोरिदम संबंधी पूर्वाग्रह की चिंताओं के साथ किस प्रकार संतुलित कर सकती हैं?
- AI उपकरणों को तैनात करने में कानून प्रवर्तन को किन नैतिक सिद्धांतों का मार्गदर्शन करना चाहिये, विशेष रूप से गैर-भेदभाव सुनिश्चित करने और सीमांत समुदायों की सुरक्षा करने में?
- यह सुनिश्चित करने के लिये कि AI-संचालित पुलिसिंग पारदर्शी, निष्पक्ष और जवाबदेह बनी रहे, कौन-से कानूनी, प्रक्रियात्मक और तकनीकी सुरक्षा उपाय लागू किये जाने चाहिये?
