एक महानगर में पुलिस उपायुक्त (DCP) के रूप में, आप अपराधियों पर नज़र रखने और अपराधों को रोकने के लिये तैयार किये गए AI-आधारित फेशियल रिकॉग्निशन सिस्टम (FRS) के कार्यान्वयन की देखरेख करते हैं। सार्वजनिक स्थानों पर स्थापित यह सिस्टम चोरी को कम करने, संदिग्धों की पहचान करने और लंबित मामलों को सुलझाने में सहायक रहा है। हालाँकि, AI के एल्गोरिदम में गलत सकारात्मकता, गोपनीयता के उल्लंघन और संभावित पूर्वाग्रहों के संदर्भ में चिंताएँ सामने आई हैं।
हाल ही में, सिस्टम ने 22 वर्षीय कॉलेज छात्र रवि को कथित तौर पर हिंसक हो चुके एक विरोध प्रदर्शन में मौजूद होने के लिये चिह्नित किया। AI द्वारा उत्पन्न रिपोर्ट के आधार पर, रवि को पूछताछ के लिये कुछ समय के लिये हिरासत में लिया गया, जबकि उसने बल देते हुए कहा था कि वह इसमें शामिल नहीं था। उसके परिवार और नागरिक समाज समूहों का तर्क है कि AI सिस्टम में तकनीकी त्रुटि के कारण उसकी गलत पहचान की गई थी। जाँच से पता चलता है कि सीमांत पृष्ठभूमि के कई व्यक्तियों को असंगत रूप से चिह्नित किया गया है, जिससे AI-संचालित पुलिसिंग में पूर्वाग्रह के बारे में चिंताएँ बढ़ रही हैं।
शहर का प्रशासन अब विभाजित है। कुछ अधिकारी गोपनीयता संबंधी चिंताओं और अनुचित गिरफ्तारियों का हवाला देते हुए स्वतंत्र समीक्षा के लिये AI परियोजना को रोकने का समर्थन करते हैं। अन्य लोग तर्क देते हैं कि लाभ जोखिमों से अधिक हैं और AI त्रुटियों को समय के साथ सुधारा जा सकता है। इस बीच, रवि के मामले पर जनता का आक्रोश बढ़ रहा है और पुलिस विभाग की विश्वसनीयता दाँव पर है।
प्रश्न का उत्तर जल्द ही प्रकाशित होगा।