कृत्रिम बुद्धिमत्ता और नैतिकता

• 22 Sep 2022

प्रिलिम्स के लिये:

AI का अनुप्रयोग, मशीन लर्निंग, संबंधित सरकारी योजनाएँ, अंतर्राष्ट्रीय समझौते

मेन्स के लिये:

AI के लिये नियम और विनियम, अन्य क्षेत्रों और समाज पर AI का प्रभाव, AI के लिये चुनौतियाँ और पहल

चर्चा में क्यों?

AI की नैतिकता पर यूनेस्को का वैश्विक समझौता सरकारों और कंपनियों का समान रूप से मार्गदर्शन कर सकता है।

कृत्रिम बुद्धिमत्ता (AI):

• यह उन कार्यों को पूरा करने वाली मशीनों की कार्रवाई का वर्णन करता है जिनके लिये ऐतिहासिक रूप से मानव बुद्धिमत्ता की आवश्यकता होती है।
• इसमें मशीन लर्निंग, पैटर्न रिकग्निशन, बिग डेटा, न्यूरल नेटवर्क्स, सेल्फ-एल्गोरिदम आदि जैसी प्रौद्योगिकियांँ शामिल हैं।
• इस अवधारणा का वर्णन ग्रीक पौराणिक कथाओं में वापस देखी जा सकती है, हालांँकि इसका वर्तमान स्वरुप आधुनिक इतिहास में इलेक्ट्रॉनिक कंप्यूटर प्रोग्राम विकसित किये जाने के बाद देखे गए थे।
  • उदाहरण: मनुष्यों के आदेशों को समझने और मानव जैसे कार्यों को करने के लिये लाखों एल्गोरिदम और कोड हैं। अपने उपयोगकर्त्ताओं के लिये फेसबुक के सुझाए गए दोस्तों की सूची, एक पॉप-अप पेज, जो इंटरनेट ब्राउज़ करते समय स्क्रीन पर आने वाले जूते और कपड़ों के पसंदीदा ब्राॅण्ड की आगामी बिक्री के बारे में सुझाव देता है, कृत्रिम बुद्धिमत्ता का कार्य है।
• AI में जटिल चीजें शामिल होती हैं जैसे मशीन में किसी विशेष डेटा को फीड करना और इसे विभिन्न स्थितियों के अनुसार प्रतिक्रिया देना। यह मूल रूप से सेल्फ-लर्निंग पैटर्न बनाने से संबंधित है जहां मशीन मुश्किल प्रश्नों का उत्तर दे सकेंगी।
• भारत ने ज़िम्मेदार और नैतिक AI शासन के विकास में काफी प्रगति की है, नीति आयोग के #AIForAll अभियान से शुरू होकर कई कॉर्पोरेट रणनीतियों को अपनाया गया है ताकि यह सुनिश्चित हो सके कि AI को इसके मूल में सामान्य, मानवीय मूल्यों के साथ विकसित किया गया है।

कृत्रिम बुद्धिमत्ता से उत्पन्न चुनौतियाँ:

• बेरोज़गारी का खतरा: श्रमिकों का पदानुक्रम मुख्य रूप से स्वतः संचालित (Automation) होता है। रोबोटिक्स और AI  कंपनियों  द्वारा उन बुद्धिमान मशीनों का निर्माण किया जा रहा है जो सामान्यतः कम आय वाले श्रमिकों द्वारा किये जाने वाले कार्यों को करने में सक्षम हैं जैसे- बैंक कैशियर (Bank Cashiers) के कार्यों को करने हेतु स्वयं सेवा कियोस्क (Self-Service Kiosks) का उपयोग, फलों को चुनने वाले रोबोट द्वारा फील्ड में कार्य करने वाले लोगों को प्रतिस्थापित करना।
  • इसके अलावा वह दिन दूर नहीं जब AI के उपयोग के कारण कई डेस्क जॉब्स समाप्त हो जायेंगे जैसे- एकाउंटेंट (Accountants), वित्तीय व्यापारी (Financial Traders) और मध्य-स्तरीय प्रबंधक (Middle Managers)।
• बढ़ती असमानताएंँ: कृत्रिम बुद्धिमत्ता का उपयोग करके एक कंपनी मानव कार्यबल में भारी कटौती कर सकती है।
  • परिणामस्वरूप जिन व्यक्तियों के पास AI संचालित कंपनियों का स्वामित्त्व है, वे सभी अधि धनार्जित कर सकेंगे। इसके अलावा AI का उपयोग डिजिटल बहिष्करण (Digital Exclusion) को भी बढ़ा सकता है।
  • इसके अलावा उन देशों में अधिक निवेश स्थानांतरित होने की संभावना है जहांँ पहले से ही AI से संबंधित कार्य किये जा रहे हैं जो देशों के भीतर और विभिन्न देशों के मध्य अधिक अंतराल की स्थिति उत्पन्न कर सकता है।
• प्रौद्योगिकी की लत: तकनीकी लत मानव की एक सीमा निर्धारित करती है। AI का उपयोग पहले से ही मानव ध्यान को निर्देशित करने और कुछ कार्यों को अपने अनुसार नियंत्रित करने हेतु किया जा रहा है।
  • तकनीकी का सही इस्तेमाल समाज को अधिक लाभकारी बनाने का अवसर प्रदान करता है, वहीं इसके गलत हाथों में जाने से यह समाज के लिये दुष्प्रभावी भी साबित हो सकता है।
• भेदभावपूर्ण रोबोट: हमें यह नहीं भूलना चाहिये कि AI प्रणाली मनुष्य द्वारा निर्मित है, जिसकी कार्य प्रणाली पक्षपातपूर्ण हो सकती है।
  • यह लोगों की पहचान उनके चेहरे के रंग और अल्पसंख्यकों के आधार पर करता है।
• डेटा गोपनीयता से जुडी चिंताएँ: AI के उपयोग से डेटा गोपनीयता से संबंधित गंभीर चिंताएंँ उत्पन्न हुई हैं। जटिल एल्गोरिदम में विशाल मात्रा में डेटा की आवश्यकता होती है, जिसके कारण प्रायः आम लोगों के डिजिटल फुटप्रिंट को बिना उनकी जानकारी अथवा सूचित सहमति के बेचा जाता है और इसका प्रयोग किया जाता है।
  • कैम्ब्रिज एनालिटिका का मामला, जिसमें इस प्रकार के एल्गोरिदम और बड़े डेटा का प्रयोग वोटिंग में हेर-फेर करने हेतु किया गया था। वर्तमान में AI बिज़नेस मॉडल से उत्पन्न व्यक्तिगत और सामाजिक चिंताओं को चेतावनी के रूप में लेने की आवश्यकता है।
• AI का मानवता के विरुद्ध: क्या होगा यदि कृत्रिम बुद्धिमत्ता स्वयं ही इंसानों के खिलाफ हो जाए?
  • एक ऐसी AI प्रणाली की कल्पना कीजिये जिसे विश्व से कैंसर को समाप्त करने के लिये कहा जाता है। काफी गणना करने के बाद वह कैंसर को समाप्त करने का एक फार्मूला बताता है कि इसके लिये पृथ्वी के सभी इंसानों को मार दिया जाए।

कृत्रिम बुद्धिमत्ता की नैतिकता के वैश्विक मानक:

• कृत्रिम बुद्धिमत्ता की नैतिकता पर सुझाव को यूनेस्को ने वर्ष 2021 में अपने सामान्य सम्मेलन के 41वें सत्र में अपनाया था।
  • इसका उद्देश्य लोगों और AI विकसित करने वाले व्यवसायों एवं सरकारों के बीच शक्ति संतुलन को मौलिक रूप से बदलना है।
• UNESCO देशों ने AI डिज़ाइन टीमों में महिलाओं और अल्पसंख्यक समूहों का उचित प्रतिनिधित्व की सुनिश्चितता के लिये उचित कदम उठाने की आपसी सहमती व्यक्त की है।
• यूनेस्को के सदस्यों सकारात्मक कार्रवाई का उपयोग करने के लिये सहमत हुए हैं कि AI डिज़ाइन टीमों में महिलाओं और अल्पसंख्यक समूहों का उचित प्रतिनिधित्त्व दिया जाए।
• सिफारिश डेटा, गोपनीयता और सूचना तक पहुँच के उचित प्रबंधन के महत्त्व को भी रेखांकित करती है।
• यह सदस्य देशों से यह सुनिश्चित करने का आह्वान करता है कि संवेदनशील डेटा के प्रसंस्करण और प्रभावी जवाबदेही के लिये उपयुक्त सुरक्षा उपाय योजनाएँ तैयार करे और क्षति की स्थिति में निवारण तंत्र प्रदान करे।
• सिफारिश एक मज़बूत रुख अपनाती है कि:
  • AI प्रणाली का उपयोग सामाजिक स्कोरिंग या बड़े पैमाने पर निगरानी उद्देश्यों के लिये नहीं किया जाना चाहिये।
  • इन प्रणालियों के बच्चों पर पड़ने वाले मनोवैज्ञानिक और संज्ञानात्मक प्रभाव पर ध्यान देना चाहिये।
  • सदस्य देशों को न केवल डिजिटल, मीडिया और सूचना साक्षरता कौशल, बल्कि सामाजिक-भावनात्मक एवं AI नैतिकता कौशल में भी निवेश तथा बढ़ावा देना चाहिये।
• यूनेस्को सिफारिशों के कार्यान्वयन में तत्परता का आकलन करने में मदद करने के लिये उपकरण विकसित करने की प्रक्रिया में भी है।

आगे की राह

• AI की वैश्विक पहुंँच को देखते हुए इसे "पूरे समाज" के दृष्टिकोण से "संपूर्ण विश्व" के दृष्टिकोण पर प्रतिस्थापित किया जाना चाहिये।
• डिजिटल सहयोग हेतु संयुक्त राष्ट्र महासचिव द्वारा प्रस्तुत रोडमैप एक अच्छी पहल है। यह वैश्विक सहयोग पर बहु-हितधारक प्रयासों की आवश्यकता को पूरा करता है, इसलिये AI का उपयोग "भरोसेमंद, मानवाधिकार-आधारित, सुरक्षित और टिकाऊ एवं शांति को बढ़ावा देने" के तरीके से किया जाता है।

  UPSC सिविल सेवा परीक्षा विगत वर्ष के प्रश्न  

Q. "चौथी औद्योगिक क्रांति (डिजिटल क्रांति) के उद्भव ने सरकार के एक अभिन्न अंग के रूप में ई-गवर्नेंस की शुरुआत की है"। चर्चा कीजिये। (2020)

स्रोत: द हिंदू