रिस्पॉन्सिबल एआई फॉर ऑल

• 03 Jan 2023

प्रिलिम्स के लिये:

नीति आयोग, कृत्रिम बुद्धिमत्ता, फेशियल रिकॉग्निशन टेक्नोलॉजी, निजता का अधिकार, पुट्टास्वामी निर्णय, पर्सनल डेटा प्रोटेक्शन लॉ, डिजी यात्रा प्रोग्राम

मेन्स के लिये:

फेशियल रिकॉग्निशन टेक्नोलॉजी - पक्ष और विपक्ष, कृत्रिम बुद्धिमत्ता, कृत्रिम बुद्धिमत्ता और नैतिकता के सामाजिक-आर्थिक निहितार्थ

वर्ष 2018 में नीति आयोग ने कृत्रिम बुद्धिमत्ता के लिये राष्ट्रीय रणनीति (National Strategy on Artificial Intelligence- NSAI) जारी की, जिसमें अन्य बातों के साथ-साथ पाँच सार्वजनिक क्षेत्रों में कृत्रिम बुद्धिमत्ता (Artificial Intelligence) को अपनाने के रोडमैप पर प्रकाश डाला गया, यह सुरक्षित है और सभी नागरिकों के लिये लाभकारी है। रणनीति दस्तावेज़ ने "AI फॉर All" मंत्र को भविष्य में AI डिज़ाइन, विकास एवं भारत में तैनाती हेतु शासी बेंचमार्क के रूप में गढ़ा। इस रणनीति का एक हिस्सा AI के सुरक्षित और ज़िम्मेदार उपयोग को सुनिश्चित करना था।

ज़िम्मेदार कृत्रिम बुद्धिमत्ता (RAI) सिद्धांतों का उपयोग AI के संभावित जोखिमों को कम करने हेतु विकासशील शासन और नियामक ढाँचे की बढ़ती मांग की पृष्ठभूमि में आता है, जबकि सबसे बड़ी संख्या में लोगों के लिये इसके लाभों को अधिकतम करना है। फेशियल रिकॉग्निशन टेक्नोलॉजी (Facial Recognition Technology- FRT)) को RAI सिद्धांतों और संचालन तंत्र की जाँच के लिये पहले उपयोग के मामले के रूप में लिया गया है।

FRT ने विभिन्न क्षेत्रों में मौजूदा प्रक्रियाओं के कुशल और समय पर निष्पादन के अपने संभावित लाभों के बारे में घरेलू एवं अंतर्राष्ट्रीय बहस छेड़ दी है। हालाँकि यह व्यक्तिगत गोपनीयता, समानता, स्वतंत्र अभिव्यक्ति तथा आंदोलन की स्वतंत्रता जैसे बुनियादी मानव और मौलिक अधिकारों के लिये भी जोखिम पैदा करता है।

AI में हुए हाल के विकास:

• AI का विकास: प्रौद्योगिकी केंद्रित समाज में आर्टिफिशियल इंटेलिजेंस संचालित तकनीक के डिज़ाइन और विकास में उछाल सर्वव्यापी होता जा रहा है।
  • जबकि AI की उत्पत्ति 20वीं सदी के दूसरे भाग में देखी जा सकती है, पिछले दशक में तीव्र पुनरुत्थान देखा गया है।
    • यह मुख्य रूप से बिग डेटा एनालिटिक्स डेटा संग्रह, एकत्रीकरण और प्रसंस्करण, मशीन लर्निंग, डीप लर्निंग, तंत्रिका नेटवर्क, प्राकृतिक भाषा प्रसंस्करण आदि के लिये ज़िम्मेदार है।
• AI और नैतिकता: इस तकनीकी क्रांति का दूसरा पक्ष AI के सामाजिक-राजनीतिक और आर्थिक प्रभावों पर बढ़ती आशंका है, विशेष रूप से इन उभरती प्रौद्योगिकियों के सह-अस्तित्व और आधुनिक लोकतंत्र के मूल सिद्धांतों के बारे में चिंताएँ।
  • नतीजतन AI नैतिकता और AI का सुरक्षित और ज़िम्मेदार अनुप्रयोग प्रौद्योगिकी क्रांति के मुख पृष्ठ और केंद्र बन रहे हैं।
  • भारत में AI नैतिकता के सिद्धांतों के लिये संवैधानिक नैतिकता की आधारशिला के रूप में कल्पना की गई थी, इस प्रकार AI को एक ज़िम्मेदार तरीके से तैनात करने के लिये हमारे संवैधानिक अधिकारों और लोकाचार को सर्वोपरि माना गया।

फेशियल रिकॉग्निशन टेक्नोलॉजी (FRT):

• यह विभिन्न प्रकार की तकनीकों का जिक्र करने वाला एक सामूहिक शब्द है जो दृश्य छवियों (चित्रों/वीडियो) का उपयोग करके व्यक्तियों की पहचान करने या उनका पता लगाने के लिये डिज़ाइन किया गया है।
  • FRT एक वर्चुअल फेशियल मैप को मॉर्फ करने के लिये चेहरे की प्रमुख विशेषताओं और एक-दूसरे से उनकी संबंधित दूरी का उपयोग करता है।
    • यह पारिस्थितिकी तंत्र चेहरे के डेटा की उपलब्धता पर निर्भर है क्योंकि FRT कार्यक्रम उनके रोलआउट से पहले बड़ी मात्रा में प्रशिक्षण डेटासेट के माध्यम से गहन प्रशिक्षण और मशीन लर्निंग की प्रक्रिया में लगे हुए हैं।
  • इसमें वे लाभ हैं जो स्वचालन और प्रक्रियाओं में अधिक दक्षता के साथ मैन्युअल प्रयासों में तेज़ी लेट हैं।
  • FRT के उपयोग ने इसके नैतिक, कानूनी और संवैधानिक प्रभावों के आसपास विश्व स्तर पर एक महत्त्वपूर्ण बहस देखी है।
• प्रकार:
  • 1:1 FRT सत्यापन: फेशियल रिकॉग्निशन को प्रमाणित करने के लिये डेटाबेस पर व्यक्ति की तस्वीर के साथ मिलान करने के उद्देश्य से प्राप्त किया जाता है। उदाहरण के लिये फ़ोन को अनलॉक करने हेतु 1:1 सत्यापन का उपयोग किया जाता है।
    • यह दो विशिष्ट चेहरों के बीच सत्यापन के माध्यम से पहचान का अभ्यास करता है और चेहरे की छवियों की गुणवत्ता पर अधिक नियंत्रण रखता है।
  • 1: FRT सत्यापन: फेशियल रिकॉग्निशन एक तस्वीर या वीडियो से प्राप्त किया जाता है और फिर तस्वीर या वीडियो में व्यक्ति की पहचान करने के लिये पूरे डेटाबेस के साथ मिलान किया जाता है।
    • यह ज़्यादातर लाइव फेशियल रिकॉग्निशन टेक्नोलॉजी (Live Facial Recognition Technology- LFRT) में कानून प्रवर्तन और अन्य जन निगरानी जैसे उद्देश्यों के लिये लागू होता है।
• FRT के उपयोग:
  • सुरक्षा उपयोग: आमतौर पर सामान्य कानून और व्यवस्था की जाँच, गुमशुदा व्यक्तियों की पहचान, भीड़ की निगरानी आदि के लिये FRT का उपयोग किया जाता है।
  • गैर-सुरक्षा उपयोग: इसमें FRT का 1:1 उपयोग शामिल होने की अधिक संभावना है- हवाईअड्डा सुविधाओं तक पहुँच में अधिक आसानी प्रदान करने के लिये FRT का अंतर्राष्ट्रीय उपयोग, यूनिक ID बनाने के लिये FRT का उपयोग करने वाली शैक्षिक प्रणालियाँ, उत्पादों, सेवाओं और सार्वजनिक लाभों तक पहुँच प्रदान करने के लिये प्रमाणीकरण और श्रमिकों की बायोमेट्रिक उपस्थिति दर्ज करना।

FRT से जुड़े जोखिम:

• डिज़ाइन आधारित जोखिम:
  • तकनीकी कारकों (उम्र बढ़ने, प्लास्टिक सर्जरी, विरूपण, मुद्रा भिन्नता, छवि की गुणवत्ता) के कारण कमी।
  • कम प्रतिनिधित्त्व (त्वचा-रंग या लिंग आधारित असमानता) की वजह से  पूर्वाग्रह के कारण कमी।
  • मानव संचालकों के प्रशिक्षण की कमी।
  • गड़बड़ियों के कारण अशुद्धि।
  • डेटा उल्लंघनों और अनधिकृत पहुँच के कारण सुरक्षा जोखिम।
  • जवाबदेही और कानूनी दायित्त्व के मुद्दे (FRT के विकास, परीक्षण, प्रशिक्षण और तैनाती में विभिन्न संस्थाओं की भागीदारी के कारण)।
• अधिकार-आधारित चुनौतियाँ:
  • गोपनीयता संबंधी जोखिम (हो सकता है कि व्यक्ति अपने बायोमेट्रिक फेशियल डेटा को संसाधित किये जाने की सीमा के बारे में जागरूक/संचालन में न हो)।
  • सूचनात्मक स्वायत्तता के मुद्दे (बायोमेट्रिक चेहरे की छवियाँ एक उद्देश्य के लिये एकत्र की जाती हैं और बाद में दूसरे उद्देश्य के लिये उपयोग की जाती हैं जिससे संबंधित व्यक्ति अनजान रहता है)।
  • गुमनामी का खतरा - गोपनीयता का एक पहलू (दुनिया भर में असंतोष और विरोध को दबाने के लिये FRT सिस्टम का इस्तेमाल किया जा रहा है)।

FRT के विनियमन की स्थिति:

• यूरोपीय संघ (EU): सामान्य डेटा संरक्षण विनियम (General Data Protection Regulations- GDPR) और डेटा संरक्षण निर्देश के अलावा यूरोपीय संघ ने अब एक जोखिम-आधारित अनुपालन ढाँचा स्थापित करने के लिये AI अधिनियम का प्रस्ताव दिया है जहाँ FRT सिस्टम को अनुपालन आवश्यकताओं के उच्चतम स्तर के साथ "उच्च जोखिम" के रूप में वर्गीकृत किया गया है।
• UK, US, कनाडा और ऑस्ट्रेलिया: FRT का विनियमन मुख्य रूप से उनके डेटा संरक्षण/गोपनीयता कानूनों के अंतर्गत आता है।

भारत का डिजी यात्रा कार्यक्रम:

• परिचय:
  • डिजी यात्रा (Digi Yatra) भारतीय हवाई अड्डों पर उपयोग हेतु एक प्रस्तावित बायोमेट्रिक बोर्डिंग प्रणाली है, जिसका उद्देश्य यात्रियों के लिये एक सहज, कागज़ रहित एवं संपर्क रहित चेक-इन और बोर्डिंग करना है।
• डिजी यात्रा का उद्देश्य:
  • यह भारतीय हवाई अड्डों के लिये एक पहचान प्रबंधन पारिस्थितिकी तंत्र की परिकल्पना करता है जो भारतीय नागरिक उड्डयन बुनियादी ढांँचे की क्षमताओं को बढ़ा सकता है, हवाई अड्डों पर मैनुअल प्रक्रियाओं को डिजिटाइजज कर सकता है, सुरक्षा मानकों में सुधार कर सकता है और हवाई अड्डों के संचालन की लागत को कम कर सकता है।
• तकनीकी:
  • यह एक यात्री के यात्रा क्रेडेंशियल्स को प्रमाणित करने के लिये FRT के उपयोग का प्रस्ताव करता है जो हवाई अड्डे पर अन्य चौकियों को न्यूनतम मानव भागीदारी के साथ स्वचालित रूप में संचालित करने की अनुमति देता है।
• कानूनी और संस्थागत समर्थन:
  • वर्ष 2018 में एक डिजी यात्रा नीति जारी की गई थी, जो डिजी यात्रा की यात्री प्रक्रियाओं और तकनीकी विशेषताओं को निर्धारित करती है।
  • डिजी यात्रा फाउंडेशन (Digi Yatra Foundation- DYF), कंपनी अधिनियम, 2013 की धारा 8 के तहत एक गैर-लाभकारी कंपनी है, जिसे वर्ष 2019 में डिजी यात्रा सेंट्रल इकोसिस्टम के कार्यान्वयन के लिये स्थापित किया गया था।
• शासनादेश:
  • डिजी यात्रा कार्यक्रम की अवधारणा विशुद्ध रूप से स्वैच्छिक तंत्र के रूप में की गई है, इसलिये विभिन्न चरणों में यह वैकल्पिक साधन निर्धारित करता है जिसमें उन यात्रियों के लिये बोर्डिंग प्रक्रिया संचालित होगी, जिन्होंने इस कार्यक्रम का चयन नहीं किया है।
• लाभ:
  • हवाई अड्डों पर कम भीड़।
  • सहज, कागज़ रहित और संपर्क रहित यात्री अनुभव।
  • कम परिचालन लागत और बढ़ी हुई नागरिक उड्डयन क्षमता।
• चिंता के क्षेत्र:
  • डाटा प्राइवेसी
  • आधार आधारित प्रमाणीकरण
  • सूचना सुरक्षा
  • इन चिंताओं को दूर करने के लिये डिजी यात्रा कार्यक्रम को ज़िम्मेदार कृत्रिम बुद्धिमत्ता (RAI) सिद्धांतों का अनुपालन सुनिश्चित करना चाहिये।

ज़िम्मेदार कृत्रिम बुद्धिमत्ता के सिद्धांत:

• सुरक्षा और विश्वसनीयता: AI सिस्टम को अपने इच्छित कार्यों के संबंध में विश्वसनीयता सुनिश्चित करनी चाहिये और हितधारकों की सुरक्षा सुनिश्चित करने के लिये अंतर्निहित सुरक्षा उपाय होने चाहिये।
• समानता: AI सिस्टम को यह ध्यान में रखते हुए बनाया जाना चाहिये कि समान परिस्थितियों में समान लोगों के साथ समान व्यवहार किया जाए।
• समावेशिता और गैर-भेदभाव: AI सिस्टम को सभी हितधारकों को शामिल करने के लिये विकसित किया जाना चाहिये और शिक्षा, रोज़गार, सार्वजनिक स्थानों तक पहुँच आदि के मामले में धर्म, वर्ग, जाति, लिंग, वंश, जन्म स्थान या निवास स्थान को लेकर हितधारकों के बीच भेदभाव नहीं करना चाहिये।
• गोपनीयता और सुरक्षा: AI सिस्टम को यह सुनिश्चित करना चाहिये कि प्रक्रिया हेतु पर्याप्त सुरक्षा उपायों के ढाँचे के भीतर डेटा विषयों का व्यक्तिगत डेटा सुरक्षित और संरक्षित होना चाहिये, जैसे कि केवल अधिकृत व्यक्तियों को निर्दिष्ट एवं आवश्यक उद्देश्यों के लिये व्यक्तिगत डेटा तक पहुँच प्रदान करनी चाहिये।
• पारदर्शिता का सिद्धांत: AI सिस्टम का डिज़ाइन और प्रशिक्षण इसके कामकाज़ के लिये महत्त्वपूर्ण है। सिस्टम को ऑडिट किया जाना चाहिये और यह सुनिश्चित करने के लिये बाहरी जाँच में सक्षम होना चाहिये कि AI सिस्टम की तैनाती निष्पक्ष, जवाबदेह एवं पूर्वाग्रह या त्रुटियों से मुक्त हो।
• उत्तरदायित्त्व का सिद्धांत: चूँकि AI सिस्टम के विकास, तैनाती और संचालन की प्रक्रिया में कई कर्ता हैं, AI सिस्टम द्वारा किसी भी प्रभाव, हानि या क्षति के लिये उत्तरदायित्त्व संरचना को सार्वजनिक रूप से सुलभ एवं समझने योग्य तरीके से स्पष्ट रूप से निर्धारित किया जाना  चाहिये।
• सकारात्मक मानवीय मूल्यों का संरक्षण और सुदृढ़ीकरण: यह सिद्धांत भारत के संविधान द्वारा गारंटीकृत मौलिक अधिकारों के विपरीत AI सिस्टम के उपयोग की रूपरेखा तैयार करने के लिये व्यक्तिगत डेटा संग्रह के माध्यम से AI सिस्टम के संभावित हानिकारक प्रभावों पर केंद्रित है।

ज़िम्मेदार AI सिद्धांतों को लागू करना:

सिद्धांत	पैमाने
सुरक्षा एवं विश्वसनीयता और जवाबदेही का सिद्धांत	एक ज़िम्मेदार/जवाबदेह एजेंसी। मानकीकृत, व्याख्यायित, उच्च गुणवत्ता वाली छवियाँ बनाना। समय-समय पर FRT का मूल्यांकन करना। पूरे सिस्टम के प्रदर्शन की निगरानी के लिये प्रावधान।
समानता का सिद्धांत	व्यापक डेटा संरक्षण कानून व्यक्ति के साथ-साथ पति/पत्नी/अभिभावक की स्पष्ट सहमति की आवश्यकता को स्पष्ट करता है।
समावेशिता और गैर-भेदभाव का सिद्धांत	FRT मॉडल में पूर्वाग्रह से बचने के लिये मानक विकसित किये जाने चाहिये। FRT के विकल्प उपलब्ध होने चाहिये ताकि डिजिटल डिवाइड  से अन्य लोग भी उससे बाहर न रहें।
गोपनीयता, सुरक्षा और पारदर्शिता का सिद्धांत	व्यक्तिगत और संवेदनशील व्यक्तिगत डेटा को संभालने के लिये आंतरिक SOP। सुरक्षा-आधारित अपवादों को स्पष्ट रूप से पहचाना जाना चाहिये और SOPs के भीतर निर्धारित किया जाना चाहिये।

FRT के उत्तरदायित्त्वपूर्ण उपयोग के लिये रिपोर्ट की सिफारिश:

• कानूनी सुधार:
  • देश में जल्द से जल्द एक संहिताबद्ध डेटा संरक्षण व्यवस्था का होना अनिवार्य है।
  • डेटा संरक्षण व्यवस्था को निजी संस्थाओं द्वारा डेटा प्रोसेसिंग को विनियमित करने तक सीमित नहीं होना चाहिये।
  • पुट्टास्वामी फैसले में SC द्वारा निर्धारित वैधता, तर्कसंगतता और आनुपातिकता के तीन-आयामी परीक्षण के अनुरूप होना चाहिये।
• नीतिगत सुधार:
  • अत्यधिक अपारदर्शी FRT प्रणाली स्वतंत्र जाँच में बाधा उत्पन्न कर सकती है। FRT सिस्टम की तैनाती के लिये एक आदर्श के रूप में पारदर्शिता का होना ज़रूरी है,  जो ऐसी प्रणालियों के विकास और परिनियोजन में जनता का विश्वास हासिल करने के लिये आवश्यक है।
  • AI प्रणाली की तैनाती करने वाले संगठन नैतिक निहितार्थों का आकलन करने और शमन उपायों की देख-रेख के लिये एक नैतिक समिति (पर्याप्त स्वायत्तता के साथ) का गठन कर सकते हैं।
• FRT सिस्टम के डेवलपर्स के लिये सिफारिशें:
  • डेवलपर्स को FRT सिस्टम का निर्माण करना चाहिये जो समझाने योग्य हैं, यानी किसी विशेष केस आउटपुट के संबंध में सिस्टम की निर्णय लेने की प्रक्रिया को ऑडिटर या न्यायाधीश को सटीक रूप से समझाया जा सकता है।
  • डेवलपर्स को AI मॉडल के प्रशिक्षण में भारतीय आबादी की वास्तविकताओं पर विचार करना चाहिये और लिंग, त्वचा-रंग आदि के आधार पर सटीक एवं समावेशी पहचान सुनिश्चित करनी चाहिये।

  UPSC सिविल सेवा परीक्षा, विगत वर्ष के प्रश्न (PYQs)  

प्रिलिम्स:

प्रश्न. विकास की वर्तमान स्थिति के साथ आर्टिफिशियल इंटेलिजेंस निम्नलिखित में से क्या प्रभावी ढंग से कर सकता है? (वर्ष 2020)

1. औद्योगिक इकाइयों में बिजली की खपत कम करना
2. सार्थक लघु कथाएँ और गीतों की रचना
3. रोग निदान
4. टेक्स्ट-टू-स्पीच रूपांतरण 
5. विद्युत ऊर्जा का वायरलेस संचरण

नीचे दिये गए कूट का प्रयोग कर सही उत्तर चुनिये:

(a) केवल 1, 2, 3 और 5 
(b) केवल 1, 3 और 4 
(c) केवल 2, 4 और 5 
(d) 1, 2, 3, 4 और 5

उत्तर: (b)

---

मेन्स:

प्रश्न 1. "चौथी औद्योगिक क्रांति (डिजिटल क्रांति) के उद्भव ने सरकार के एक अभिन्न अंग के रूप में ई-गवर्नेंस की शुरुआत की है"। चर्चा कीजिये। (2020)

प्रश्न 2. निषेधात्मक श्रम के कौन-से क्षेत्र हैं जिनका रोबोट्स द्वारा धारणीय रूप से प्रबंधन किया जा सकता है? ऐसी पहलों पर चर्चा कीजिये, जो प्रमुख अनुसंधान संस्थानों में मौलिक और लाभप्रद नवाचार के लिये अनुसंधान को आगे बढ़ा सकें। (2015)

प्रश्न 3. "मनुष्य के साथ सदैव उनको, अपने-आप में 'लक्ष्य' मानकर व्यवहार करना चाहिये, कभी भी उनको केवल 'साधन' नहीं मानना चाहिये।" आधुनिक तकनीकी-आर्थिक समाज में इस कथन के निहितार्थों का उल्लेख करते हुए इसका अर्थ और महत्त्व स्पष्ट कीजिये। (2014)