हेल्थकेयर में जेनरेटिव AI का एथिकल प्रयोग

• 29 Jan 2024

प्रिलिम्स के लिये:

हेल्थकेयर में जेनेरेटिव AI का एथिकल प्रयोग, विश्व स्वास्थ्य संगठन (World Health Organization- WHO), जेनेरेटिव आर्टिफिशियल इंटेलिजेंस (AI), लार्ज मल्टी-मोडल मॉडल (LMM)।

मेन्स के लिये:

हेल्थकेयर में जेनरेटिव AI का एथिकल प्रयोग, सूचना प्रौद्योगिकी (आईटी), अंतरिक्ष, कंप्यूटर, रोबोटिक्स, नैनो-प्रौद्योगिकी और जैव-प्रौद्योगिकी के क्षेत्र में जागरूकता।

स्रोत: डाउन टू अर्थ 

चर्चा में क्यों?

हाल ही में, विश्व स्वास्थ्य संगठन (World Health Organization- WHO) ने चैटजीपीटी (ChatGPT), बार्ड (Bard) और बर्ट (Bert) जैसी जेनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) प्रौद्योगिकियों के परिवर्तनकारी प्रभाव को स्वीकार करते हुए स्वास्थ्य सेवा में लार्ज मल्टी-मोडल मॉडल (LMM) के एथिकल/नैतिक प्रयोग और संचालन के लिये दिशानिर्देश जारी किया है।

लार्ज मल्टी-मोडल मॉडल (Large Multi-Modal Models- LMM) क्या है?

• LMM ऐसा मॉडल है जो मानव जैसी धारणा की नकल करने के लिये कई संवेदी इनपुट का प्रयोग करता है। यह आर्टिफिशियल इंटेलिजेंस (AI) को मानव संचार की एक विस्तृत शृंखला पर प्रतिक्रिया करने में सहायता करता है, जिससे संचार अधिक वास्तविक और सहज हो जाती है।
• LMM कई डेटा प्रकारों को एकीकृत करते हैं, जैसे इमेज, टेक्स्ट, लैंग्वेज, ऑडियो और अन्य विविधता। यह मॉडलों को छवियों, वीडियो और ऑडियो को समझने और उपयोगकर्त्ताओं के साथ संवाद करने में मदद करता है। 
• मल्टीमॉडल LMM के कुछ उदाहरणों में GPT-4V, MedPalm M, Dall-E, Stable Diffusion और Midjourney शामिल हैं।

 स्वास्थ्य देखभाल में LMM के प्रयोग के संबंध में WHO के दिशानिर्देश क्या हैं?

• WHO का नया मार्गदर्शन स्वास्थ्य देखभाल में LMM के पाँच व्यापक अनुप्रयोगों की रूपरेखा प्रदान करता है:
  • निदान और नैदानिक देखभाल, जैसे रोगियों के लिखित प्रश्नों का उत्तर देना;
  • रोगी-निर्देशित उपयोग, जैसे लक्षणों की जाँच और उपचार के लिये;
  • लिपिकीय और प्रशासनिक कार्य, जैसे इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड के भीतर रोगियों के विज़िट (Patient Visits) का दस्तावेज़ीकरण और सारांश बनाना;
  • चिकित्सा और नर्सिंग शिक्षा, जिसमें प्रशिक्षुओं को नकली रोगी मुठभेड़ प्रदान करना शामिल है, और;
  • इसमें औषधियों के लिये नए यौगिकों की पहचान सहित वैज्ञानिक अनुसंधान और औषधि विकास शामिल है।

नोट: भारतीय चिकित्सा अनुसंधान परिषद् (Indian Council of Medical Research- ICMR) ने जून 2023 में बायोमेडिकल अनुसंधान और स्वास्थ्य देखभाल में AI के लिये एथिकल/नैतिक दिशानिर्देश जारी किये।

स्वास्थ्य सेवा में LMM के बारे में WHO ने क्या चिंताएँ जताई हैं? 

• तेज़ी से अपनाने और सावधानी की आवश्यकता:
  • LMM को अपनाने की दर किसी भी अन्य उपभोक्ता प्रौद्योगिकी से आगे निकल गई है, जो अद्वितीय है।
    • LMM मानव संचार की नकल करने और स्पष्ट प्रोग्रामिंग के बिना कार्य करने की क्षमता के लिये जाना जाता है।
  • हालाँकि इसे तेज़ी से अपनाने से इसके संभावित खतरों तथा लाभों का तुलनात्मक अध्ययन आवश्यक है।
• जोखिम और चुनौतियाँ:
  • अपने आशाजनक अनुप्रयोगों के बावजूद LMM जोखिम उत्पन्न कर सकते हैं जिसमें झूठे, गलत या पक्षपातपूर्ण जानकारी शामिल हैं जो स्वास्थ्य संबंधी निर्णयों को प्रभावित कर सकते हैं।
  • इन मॉडलों को प्रशिक्षित करने के लिये उपयोग किया जाने वाला डेटा गुणवत्ता अथवा पूर्वाग्रह के मुद्दों से प्रभावित हो सकता है जो संभावित रूप से नस्ल, जातीयता, लिंग, लिंग पहचान अथवा आयु के आधार पर होने वाली असमानताओं को जारी रखने में भूमिका निभा सकता है।
• LMM की पहुँच और वहनीयता:
  • इसके अतिरिक्त अन्य चिंताएँ भी हैं जैसे: LMM की पहुँच तथा वहनीयता एवं स्वास्थ्य देखभाल में ऑटोमेशन पूर्वाग्रह (Automation Bias) (स्वचालित प्रणालियों पर बहुत अधिक भरोसा करने की प्रवृत्ति) का जोखिम जिससे पेशेवर एवं मरीज़ द्वारा त्रुटियों को नज़रअंदाज़ करने की संभावना बढ़ जाती है।
• साइबर सुरक्षा:
  • रोगी की जानकारी की संवेदनशीलता तथा इन एल्गोरिदम की विश्वसनीयता पर निर्भरता को देखते हुए साइबर सुरक्षा एक अन्य महत्त्वपूर्ण मुद्दा है।

LMM से संबंधित WHO की प्रमुख सिफारिशें क्या हैं?

• WHO द्वारा LMM विकास तथा नियोजन के सभी चरणों में सरकारों, प्रौद्योगिकी कंपनियों, स्वास्थ्य सेवा प्रदाताओं, रोगियों एवं नागरिक समाज को शामिल करते हुए एक सहयोगात्मक दृष्टिकोण पर संपर्क स्थापित किया गया।
• AI प्रौद्योगिकियों को प्रभावी ढंग से विनियमित करने के लिये वैश्विक सहकारी नेतृत्त्व की आवश्यकता पर बल दिया गया। सभी देशों की सरकारों को LMM जैसी AI प्रौद्योगिकियों के विकास एवं उपयोग को प्रभावी ढंग से विनियमित करने के लिये सहयोगात्मक रूप से प्रयास करना चाहिये।
• यह नया मार्गदर्शन उनकी जटिलताओं और नैतिक विचारों को ध्यान में रखते हुए स्वास्थ्य सेवा में LMM की क्षमता का उपयोग करने के लिये एक रोडमैप प्रदान करता है।
  • मई 2023 में WHO ने स्वास्थ्य के लिये AI के डिज़ाइन, विकास और नियोजन करने के दौरान नैतिक सिद्धांतों तथा उचित शासन को क्रियान्वित करने के महत्त्व पर प्रकाश डाला था जैसा कि स्वास्थ्य के लिये AI की नैतिकता और शासन पर WHO के मार्गदर्शन में बताया गया है।
• WHO द्वारा पहचाने गए छह मूल सिद्धांत निम्नलिखित हैं:
  • स्वायत्तता की रक्षा करना।
  • मानव कल्याण, मानव सुरक्षा और सार्वजनिक हित को बढ़ावा देना।
  • पारदर्शिता, व्याख्यात्मकता और सुगमता सुनिश्चित करना।
  • उत्तरदायित्व और जवाबदेही सुनिश्चित करना।
  • समावेशिता और समानता सुनिश्चित करना।
  • प्रतिक्रियाशील और सतत् AI को बढ़ावा देना।

वैश्विक स्तर पर AI वर्तमान में किस प्रकार संचालित है?

• भारत:
  • नीति आयोग ने AI के लिये राष्ट्रीय रणनीति और रिस्पॉन्सिबल AI फॉर ऑल रिपोर्ट जैसे मुद्दों पर कुछ मार्गदर्शक दस्तावेज़ जारी किये हैं।
  • भारत सामाजिक और आर्थिक समावेशन, नवाचार और भरोसे को प्रोत्साहित करता है।
• ब्रिटेन:
  • ब्रिटेन ने AI के लिये मौजूदा नियमों को लागू करने हेतु विभिन्न क्षेत्रों में नियामकों से जानकारी एकत्रित करने के लिये सरल दृष्टिकोण को अपनाया है।
  • कंपनियों द्वारा पालन किये जाने वाले पाँच सिद्धांतों को रेखांकित करते हुए एक श्वेतपत्र प्रकाशित किया गया जिसमें सुरक्षा और मज़बूती; पारदर्शिता एवं व्याख्यात्मकता; निष्पक्षता; जवाबदेही तथा शासन; प्रतिस्पर्द्धात्मकता एवं निवारण की व्याख्या की गई है।
• संयुक्त राज्य अमेरिका:
  • अमेरिका ने AI बिल ऑफ राइट्स (AIBoR) हेतु एक ब्लूप्रिंट जारी किया, जिसमें आर्थिक एवं नागरिक अधिकारों के लिये AI के नकारात्मक प्रभाव को रेखांकित किया गया है तथा इन प्रभावों को कम करने हेतु पाँच सिद्धांत दिये गए हैं।
  • यह ब्लूप्रिंट स्वास्थ्य, श्रम और शिक्षा जैसे कुछ क्षेत्रों हेतु नीतिगत हस्तक्षेप के साथ यूरोपीय संघ की तरह क्षैतिज रणनीति के बजाय AI शासन के लिये क्षेत्र विशेष का समर्थन करता है, जिससे क्षेत्रीय संघीय एजेंसियों को अपनी योजनाओं को तैयार करने की अनुमति मिलती है।
• चीन:
  • वर्ष 2022 में चीन ने विशिष्ट प्रकार के एल्गोरिदम और AI को लक्षित करने वाले विश्व के कुछ पहले राष्ट्रीय बाध्यकारी नियम बनाए हैं।
  • इसने अनुशंसा एल्गोरिदम को विनियमित करने हेतु कानून बनाया, जिसमें इस बात पर ध्यान दिया गया कि वे सूचना का प्रसार कैसे करते हैं।

  UPSC सिविल सेवा परीक्षा, विगत वर्ष के प्रश्न  

प्रिलिम्स  

प्रश्न.1  विकास की वर्तमान स्थिति में कृत्रिम बुद्धिमत्ता (Artificial Intelligence), निम्नलिखित में से किस कार्य को प्रभावी रूप से कर सकती है? (2020)

1. औद्योगिक इकाइयों में विद्युत की खपत कम करना 
2.  सार्थक लघु कहानियों और गीतों की रचना 
3.  रोगों का निदान 
4.  टेक्स्ट-से-स्पीच (Text-to-Speech) में परिवर्तन 
5.  विद्युत ऊर्जा का बेतार संचरण

नीचे दिये गए कूट का प्रयोग कर सही उत्तर चुनिये:

(a) केवल 1, 2, 3 और 5
(b) केवल 1, 3 और 4
(c) केवल 2, 4 और 5
(d) 1, 2, 3, 4 और 5

उत्तर: (b)

---

प्रश्न. 2  निम्नलिखित युग्मों पर विचार कीजिये: (2018)

 कभी-कभी खबरों में रहे शब्द                 संदर्भ/विषय

1. बेल II प्रयोग              -                    कृत्रिम  बुद्धिमत्ता
2.  ब्लॉकचेन                  -                    डिजिटल/क्रिप्टोकरेंसी                    
3.  CRISPR - Cas9     -                     कण भौतिकी

उपर्युक्त युग्मों में से कौन-सा/से सही सुमेलित है/हैं?

(a) केवल 1 और 3
(b) केवल 2
(c) केवल 2 और 3
(d) 1, 2 और 3

उत्तर: B 

---

मेन्स:

प्रश्न: निषेधात्मक श्रम के कौन से क्षेत्र हैं जिन्हें रोबोट द्वारा स्थायी रूप से प्रबंधित किया जा सकता है? उन पहलों पर चर्चा कीजिये जो प्रमुख शोध संस्थानों में शोध को वास्तविक और लाभकारी नवाचार के लिये प्रेरित कर सकती हैं।  (2015)

प्रश्न. "चौथी औद्योगिक क्रांति (डिजिटल क्रांति) के प्रादुर्भाव ने ई-गवर्नेंस को सरकार का अविभाज्य अंग बनाने में पहल की है"। विवेचन कीजिये। (2020)