एथिकल AI को प्रोत्साहन

• 21 Sep 2023

प्रिलिम्स के लिये:

एथिकल AI को प्रोत्साहन, एथिकल आर्टिफिशियल इंटेलिजेंस (AI), मशीन लर्निंग (ML), AI फेशियल रिकग्निशन, जेनेरेटिव AI को प्रोत्साहन

मेन्स के लिये:

एथिकल AI को प्रोत्साहन, एथिकल AI की स्थापना की आवश्यकता

स्रोत: द हिंदू

चर्चा में क्यों?

हाल ही में कुछ व्यावसायिक नेतृत्वकारों ने एथिकल आर्टिफिशियल इंटेलिजेंस (AI) विकसित करने के लिये सरकारों, उद्योग एवं पारिस्थितिकी तंत्र के ज्ञाताओं के बीच सहयोग की अनिवार्यता पर ज़ोर दिया।

आर्टिफिशियल इंटेलिजेंस (AI):

• परिचय:
  • AI किसी कंप्यूटर या कंप्यूटर द्वारा नियंत्रित रोबोट की उन कार्यों को करने की क्षमता है जो आमतौर पर मनुष्यों द्वारा किये जाते हैं क्योंकि उनके लिये मानव बुद्धिमत्ता और विवेक की आवश्यकता होती है।
    • हालाँकि ऐसा कोई AI विकसित नहीं हुआ है जो एक सामान्य मानव द्वारा किये जाने वाले विभिन्न प्रकार के कार्य कर सके, कुछ AI विशिष्ट कार्यों में मनुष्यों की बराबरी कर सकते हैं।
• विशेषताएँ एवं घटक:
  • AI की आदर्श विशेषता इसकी तर्कसंगतता और कार्रवाई करने की क्षमता है जिससे किसी विशिष्ट लक्ष्य को प्राप्त करने का सबसे अच्छा अवसर मिलता है। AI का एक उपसमूह मशीन लर्निंग (ML)है।
    • मशीन लर्निंग (ML) स्पष्ट रूप से प्रोग्राम किये बिना, कंप्यूटर को डेटा से अधिगम की एक विधि है। इसमें डेटा का विश्लेषण और उससे अंतर्दृष्टि प्राप्त करने के लिये एल्गोरिदम का उपयोग करना और फिर अनुमान लगाने या निर्णय लेने के लिये उन अंतर्दृष्टियों का उपयोग करना शामिल है।
    • डीप लर्निंग (DL) तकनीक टेक्स्ट, इमेजेज़ या वीडियो जैसे बड़ी मात्रा में असंरचित डेटा के अवशोषण के माध्यम से इस स्वचालित अधिगम को सक्षम बनाती है।

एथिकल AI:

• परिचय:
  • एथिकल AI, जिसे नैतिक या ज़िम्मेदार AI के रूप में भी जाना जाता है, AI सिस्टम के विकास और तैनाती को इस तरह से संदर्भित करता है जो नैतिक सिद्धांतों, सामाजिक मूल्यों एवं मानवाधिकारों के साथ संरेखित हो।
  • यह AI तकनीक के ज़िम्मेदारीपूर्ण उपयोग पर बल देता है ताकि यह सुनिश्चित किया जा सके कि इससे संभावित नुकसान और पूर्वाग्रहों को कम करते हुए व्यक्तियों, समुदायों एवं समाज को समग्र रूप से लाभ हो।

• एथिकल AI के प्रमुख पहलू:
  • पारदर्शिता और व्याख्यात्मकता: AI सिस्टम को इस तरह से डिज़ाइन एवं कार्यान्वित किया जाना चाहिये कि उसके संचालन तथा निर्णय लेने की प्रक्रियाएँ उपयोगकर्ताओं और हितधारकों के लिये समझने एवं समझाने योग्य हों। इससे विश्वास तथा जवाबदेही को बढ़ावा मिलता है।
  • निष्पक्षता और पूर्वाग्रह शमन: नैतिक AI का उद्देश्य नस्ल, लिंग, जातीयता या सामाजिक- आर्थिक स्थिति जैसे कारकों के आधार पर कुछ व्यक्तियों या समूहों के खिलाफ भेदभाव को रोकने के लिये पूर्वाग्रहों को कम करना और AI एल्गोरिदम एवं मॉडल में निष्पक्षता सुनिश्चित करना है।
  • गोपनीयता और डेटा संरक्षण: एथिकल AI व्यक्तियों की निजता के अधिकार को कायम रखता है तथा व्यक्तिगत डेटा के सुरक्षित एवं उत्तरदायी प्रबंधन का समर्थन करता है, प्रासंगिक गोपनीयता कानूनों और विनियमों के साथ सहमति एवं अनुपालन सुनिश्चित करता है।
  • जवाबदेही और ज़िम्मेदारी: AI सिस्टम तैनात करने वाले डेवलपर्स तथा संगठनों को अपनी AI प्रौद्योगिकियों के परिणामों के लिये जवाबदेह होना चाहिये। त्रुटियों या हानिकारक प्रभावों को संबोधित करने तथा सुधार हेतु ज़िम्मेदारी सुनिश्चित करना आवश्यक है।
  • मज़बूती और विश्वसनीयता: AI प्रणाली मज़बूत, विश्वसनीय और विभिन्न स्थितियों एवं परिस्थितियों में लगातार प्रदर्शन करने वाली होनी चाहिये। AI प्रणाली में हेर-फेर या उसे नष्ट करने जैसे प्रतिकूल प्रयासों से निपटने हेतु उपाय किये जाने चाहिये।
  • मानवता को लाभ: AI को विकसित किया जाना चाहिये और इसका उपयोग मानव कल्याण को बढ़ावा देने, सामाजिक चुनौतियों को हल करने तथा समाज, अर्थव्यवस्था व पर्यावरण में सकारात्मक योगदान देने हेतु किया जाना चाहिये।

कृत्रिम बुद्धिमत्ता (Artificial Intelligence-AI) से संबंधित नैतिक चिंताएँ:

• बेरोज़गारी का खतरा:
  • श्रम का पदानुक्रम मुख्य रूप से स्वचालन से संबंधित है। रोबोटिक्स और AI कंपनियाँ ऐसी बुद्धिमान मशीनें बना रही हैं जो आमतौर पर कम आय वाले श्रमिकों द्वारा किये जाने वाले कार्य करती हैं: कैशियर के बदले स्वयं-सेवा कियोस्क, फील्ड श्रमिकों के बदले फल चुनने वाले रोबोट आदि।
  • इसके अलावा वह दिन दूर नहीं जब अकाउंटेंट, वित्तीय व्यापारी और मध्य स्तर के प्रबंधक जैसी कई डेस्क नौकरियाँ भी AI द्वारा खत्म कर दी जाएंगी।
• बढ़ती असमानताएँ:
  • AI का उपयोग कर एक कंपनी मानव कार्यबल पर निर्भरता में भारी कटौती कर सकती है और इसका अर्थ है कि राजस्व कम लोगों के पास जाएगा।
  • परिणामस्वरूप यह राजस्व AI-संचालित कंपनियों के स्वामित्व तक ही सीमित हो जाएगा। इसके अलावा AI डिजिटल बहिष्करण को जटिल बना सकता है।
  • इसके अलावा निवेश उन देशों में स्थानांतरित होने की संभावना है जहाँ AI से संबंधित कार्य पहले से ही स्थापित है, जिससे देशों के बीच अंतर बढ़ जाएगा।
• तकनीकी लत:
  • तकनीकी लत मानव निर्भरता की नई सीमा है। AI मानव ध्यान को निर्देशित करने और कुछ कार्यों को ट्रिगर करने में पहले से ही प्रभावी है।
  • इसका सही तरीके से उपयोग समाज के लिये अधिक लाभकारी और प्रेरित करने के अवसर के रूप में हो सकता है।
  • हालाँकि गलत हाथों में जाने से यह हानिकारक साबित हो सकता है।
• भेदभाव करने वाले रोबोट:
  • हमें यह नहीं भूलना चाहिये कि AI सिस्टम मनुष्यों द्वारा बनाए गए हैं, जो पक्षपातपूर्ण और निर्णयात्मक हो सकते हैं।
  • यह विभिन्न वर्ण के लोगों और अल्पसंख्यकों के खिलाफ भेदभाव करने के लिये AI फेशियल रिकग्निशन व निगरानी तकनीक को उत्पन्न कर सकता है।
• AI का मानव के खिलाफ होना:
  • क्या होगा अगर AI मानव के खिलाफ हो जाए, एक AI प्रणाली की कल्पना कीजिये जिसे विश्व में कैंसर को खत्म करने के लिये कहा जाता है।
  • या फिर बहुत सारी गणनाओं के बाद यह एक ऐसे फार्मूले की खोज कर ले जो वास्तव में पृथ्वी पर सभी मनुष्यों के कैंसर का इलाज कर सके, किंतु सभी मनुष्यों को खत्म करके।

आर्टिफिशियल इंटेलिजेंस नैतिकता के लिये वैश्विक मानक:

• वर्ष 2021 में UNESCO द्वारा आर्टिफिशियल इंटेलिजेंस की नैतिकता पर सिफारिश को अपनाया गया था।
  • इसका उद्देश्य मूल रूप से लोगों और AI विकसित करने वाले व्यवसायों तथा सरकारों के बीच शक्ति संतुलन को स्थानांतरित करना है।
• UNESCO के सदस्य यह सुनिश्चित करने के लिये सकारात्मक कार्रवाई का उपयोग करने पर सहमत हुए हैं कि AI डिज़ाइन करने वाली टीमों में महिलाओं और अल्पसंख्यक समूहों का उचित प्रतिनिधित्व हो।
• यह सिफारिश डेटा के उचित प्रबंधन, गोपनीयता और सूचना तक पहुँच के महत्त्व को भी रेखांकित करती है।
• यह सदस्य देशों से यह सुनिश्चित करने का आह्वान करता है कि संवेदनशील डेटा के प्रसंस्करण हेतु उचित सुरक्षा उपाय, प्रभावी जवाबदेही और निवारण तंत्र प्रदान किये जाएँ।
• सिफारिश इस पर कड़ा रुख अपनाती है
  • AI सिस्टम का उपयोग सामाजिक स्कोरिंग या सामूहिक निगरानी उद्देश्यों के लिये नहीं किया जाना चाहिये।
  • इन प्रणालियों का बच्चों पर पड़ने वाले मनोवैज्ञानिक और संज्ञानात्मक प्रभाव पर ध्यान दिया जाना चाहिये।
  • सदस्य देशों को न केवल डिजिटल, मीडिया एवं सूचना साक्षरता कौशल, बल्कि सामाजिक-भावनात्मक और AI नैतिकता कौशल में भी निवेश तथा प्रचार करना चाहिये।
• UNESCO सिफारिशों के कार्यान्वयन में तत्परता का आकलन करने में सहायता के लिये उपकरण विकसित करने की प्रक्रिया में है।

आगे की राह

• AI मॉडल को इस तरह से डिज़ाइन किया जाना चाहिये ताकि उनकी कार्यप्रणाली और निर्णय लेने की प्रक्रियाओं की स्पष्ट समझ विकसित हो सके।
• AI मॉडल को डेटा गोपनीयता पर विशेष ध्यान देने के साथ विकसित किया जाना चाहिये और यह सुनिश्चित करना चाहिये कि व्यक्तियों की संवेदनशील सूचना को सुरक्षित किया जा सके।
• सरकारी स्तर पर उन्नत सोच और जारी चर्चाओं पर ध्यान केंद्रित करते हुए मनमाने कानून के बजाय उद्योगों तथा हितधारकों के सहयोग से विकसित प्रशासनिक मानदंडों को अपनाना आवश्यक है।
• AI सिस्टम में मूलभूत मॉडल और डेटा उपयोग के संबंध में स्पष्टता की आवश्यकता है।
• एथिकल AI एक परिवर्तनकारी शक्ति हो सकती है, जो न केवल भारत में बल्कि विश्व स्तर पर एक अरब से अधिक लोगों के सपनों को साकार करने और डिजिटल विभाजन को पाटने में सक्षम है।
• AI और जेनेरेटिव AI को विभिन्न भाषाओं और क्षेत्रों में सुलभ होते हुए विविध आबादी तक पहुँचना चाहिये।

  UPSC सिविल सेवा परीक्षा, विगत वर्ष के प्रश्न  

प्रिलिम्स:

प्रश्न. विकास की वर्तमान स्थिति में कृत्रिम बुद्धिमत्ता (Artificial Intelligence) निम्नलिखित में से किस कार्य को प्रभावी रूप से कर सकती है? (2020)

1. औद्योगिक इकाइयों में विद्युत की खपत कम करना
2. सार्थक लघु कहानियों और गीतों की रचना
3. रोगों का निदान
4. टेक्स्ट से स्पीच (Text-to-Speech) में परिवर्तन
5. विद्युत ऊर्जा का बेतार संचरण

नीचे दिये गए कूट का प्रयोग कर सही उत्तर चुनिये:

(a) केवल 1, 2, 3 और 5
(b) केवल 1, 3 और 4
(c) केवल 2, 4 और 5
(d) 1, 2, 3, 4 और 5

उत्तर: (b)

मेन्स:
प्रश्न. "चौथी औद्योगिक क्रांति (डिजिटल क्रांति) के प्रादुर्भाव ने ई-गवर्नेंस को सरकार का अविभाज्य अंग बनाने में पहल की है"। विवेचना कीजिये। (2020)