जेनरेटिव AI: अनुप्रयोग एवं चुनौतियाँ

यह एडिटोरियल 09/01/2023 को ‘द हिंदू’ में प्रकाशित “The potential of generative AI: creating media with simple text prompts” लेख पर आधारित है। इसमें ‘जेनरेटिव AI’ के अनुप्रयोगों और संबंधित चुनौतियों के बारे में चर्चा की गई है।

संदर्भ

‘जेनरेटिव आर्टिफिशियल इंटेलिजेंस’ (Generative Artificial Intelligence) या ‘उत्पादक कृत्रिम बुद्धिमत्ता’ एक तेज़ी से विकसित हो रहा क्षेत्र है जिसमें हमारे द्वारा प्रौद्योगिकी के सृजन एवं उससे अंतःक्रिया के तरीके में क्रांति लाने की क्षमता निहित है। नए डेटा या कंटेंट के सृजन की क्षमता के साथ जेनरेटिव AI मनोरंजन से लेकर वित्त तक विभिन्न प्रकार के उद्योगों में व्यापक अनुप्रयोगों की संभावना रखता है।

• जबकि जेनरेटिव AI में विभिन्न उद्योगों और अनुप्रयोगों में दक्षता एवं उत्पादकता को सक्षम करने की क्षमता है, यह दुरुपयोग, स्थायी पूर्वाग्रह, बहिष्करण एवं भेदभाव के रूप में समाज के लिये हानिकर भी हो सकता है और प्रतिकूल प्रभाव उत्पन्न कर सकता है।
• इस परिदृश्य में, तकनीकी क्षेत्र में इसे शामिल किये जाने से पहले जेनरेटिव AI के गुण-दोषों पर विचार कर लेना प्रासंगिक होगा।

जेनरेटिव AI क्या है?

• जेनरेटिव AI एक प्रकार की कृत्रिम बुद्धिमत्ता है जिसमें मशीन लर्निंग एल्गोरिदम का उपयोग करके नए, मूल कंटेंट या डेटा का सृजन करना शामिल है।
  • इसका उपयोग टेक्स्ट, इमेज़, संगीत या अन्य प्रकार के मीडिया के सृजन के लिये किया जा सकता है।
• जेनरेटिव AI एक बड़े डेटासेट पर एक मॉडल को प्रशिक्षित करने और फिर उस मॉडल का उपयोग ऐसे प्रशिक्षण डेटा जैसे नए, अब तक अनदेखे कंटेंट के सृजन करने के रूप में कार्य करता है।
  • यह न्यूरल मशीन अनुवाद (Neural Machine Translation), छवि निर्माण और संगीत निर्माण जैसी तकनीकों के माध्यम से किया जा सकता है ।
• जेनरेटिव AI में कंटेंट के सृजन को स्वचालित करके और नए विचारों एवं अवधारणाओं का निर्माण कर विभिन्न उद्योगों में क्रांति लाने की क्षमता है।

जेनरेटिव AI के अनुप्रयोग

• कंप्यूटर ग्राफिक्स: जेनेरेटिव AI का उपयोग वास्तविक छवियों और एनिमेशन के निर्माण के लिये किया जा सकता है। उदाहरण के लिये, शोधकर्ताओं ने चेहरों एवं पशुओं की फोटोरियलिस्टिक छवियाँ बनाने और वास्तविक समय में आभासी पात्रों को एनिमेट करने के लिये जेनरेटिव मॉडल का उपयोग किया है।
• संगीत और कला: संगीत और कला के सृजन के लिये जेनरेटिव AI का उपयोग किया जा सकता है। उदाहरण के लिये, शोधकर्ताओं ने संगीत के नए अंशों के निर्माण के लिये जेनरेटिव मॉडल का उपयोग किया है जो चयनित कलाकार की ही शैली के समान है।
  • इसके साथ ही, कई स्टार्ट-अप कंपनियों द्वारा अपने ब्रांड लोगो के निर्माण के लिये और इसे जेनरेटिव AI टेक्स्ट मैसेजिंग के साथ संरेखित करने के लिये DALL.E2, बिंग इमेज़ क्रिएट, स्टेबल डिफ्यूजन और मिड-जर्नी जैसी सेवाओं की मदद ली गई है।
• भाषा और कंटेंट: जेनरेटिव AI का उपयोग नैसर्गिक भाषा पाठ्य (टेक्स्ट) के सृजन के लिये किया जा सकता है। उदाहरण के लिये, शोधकर्ता समाचार लेख, कविता और यहाँ तक कि कोड के सृजन के लिये ‘ChatGPT’ का उपयोग कर रहे हैं।
  • इन मॉडलों को एक विशिष्ट लेखन शैली का उपयोग करने के लिये या किसी विशिष्ट विषय या थीम के आधार पर टेक्स्ट के सृजन के लिये अनुकूल बनाया जा सकता है।
• उपचार और दवा खोज: AI के सहयोग से दवा खोज में दवा खोज प्रक्रिया को उल्लेखनीय रूप से तेज़ करने की क्षमता है।
  • जेनरेटिव AI मॉडल का उपयोग नए यौगिकों के गुणों का अनुमान लगाने और दवाओं के रूप में उनकी संभावित प्रभावकारिता का आकलन करने के लिये किया जा सकता है।
• रोबोटिक्स: रोबोटिक प्रणाली को डिज़ाइन एवं नियंत्रित करने के लिये जेनरेटिव AI का उपयोग किया जा सकता है। रोबोट के व्यवहार का अनुकरण करने के लिये और रोबोट को एक विशिष्ट कार्य करने में सक्षम बनाने वाले नियंत्रण निर्देशों के निर्माण के लिये जेनरेटिव मॉडल का उपयोग किया जा सकता है ।

जेनरेटिव AI से संबद्ध मुद्दे

• रोज़गार विस्थापन: जेनरेटिव AI में रोज़गार विस्थापन और रोज़गार हानि की ओर ले जाने की क्षमता है। उदाहरण के लिये, जेनरेटिव AI मॉडल का उपयोग उन कार्यों को स्वचालित करने के लिये किया जा सकता है जो पहले मनुष्यों द्वारा किये जाते थे, जैसे कि समाचार लेखन या संगीत रचना।
  • जबकि इससे दक्षता और लागत बचत में वृद्धि हो सकती है, इससे उन लोगों के लिये रोज़गार अवसर की हानि की स्थिति बन सकती है जो इन कार्यों से संलग्न रहे थे।
• मानव अनुभूति या संज्ञानात्मकता में कमी आना: जेनरेटिव AI मानव अनुभूति की आवश्यकता को कम कर सकता है, क्योंकि ये मॉडल ऐसे कार्य कर सकते हैं जिन्हें अन्यथा मानव बुद्धि की आवश्यकता होगी।
  • इससे लोगों की समग्र संज्ञानात्मक क्षमताओं में कमी आ सकती है, विशेष रूप से छोटे बच्चे जो AI को अपना होमवर्क करने के लिये एक मित्र के रूप में देखेंगे। नतीजतन, लोग विभिन्न कार्यों को करने के लिये अपनी क्षमताओं पर कम और प्रौद्योगिकी पर अधिक भरोसा करने की ओर आगे बढ़ सकते हैं।
• सामाजिक पूर्वाग्रह: यह अपने प्रशिक्षक या प्रोग्रामर के अंदर मौजूद सामाजिक पूर्वाग्रहों की प्रतिकृति को भी जन्म दे सकता है; इससे हाशिये पर रहने वाले समूहों पर भी नकारात्मक प्रभाव पड़ सकता है और उनसे भेदभाव बढ़ सकता है।
• भ्रामक सूचना और संदेह: जेनरेटिव AI छद्म पाठ्य, भाषण, छवि या वीडियो के सृजन द्वारा सूचनाओं में हेरफेर की ओर ले जा सकता है, जिनका उपयोग लोगों को धोखा देने के लिये किया जा सकता है। इससे आगे और भ्रामक सूचना एवं संदेह की स्थिति बन सकती है।
• शक्ति संकेंद्रण की क्षमता: एक चिंता यह भी है कि जेनरेटिव AI के सर्वप्रमुख बनने के बाद इन मॉडलों का विकास एवं अनुप्रयोग कुछ बड़ी कंपनियों और देशों में केंद्रित हो जाएगा, जिससे शक्ति संकेंद्रण एवं दुरुपयोग की संभावना बढ़ जाएगी।

आगे की राह

• पारदर्शिता: जेनरेटिव AI मॉडल के आंतरिक कार्यकरण को और अधिक पारदर्शी बनाने के तरीके विकसित करना ताकि लोग समझ सकें कि मॉडल किस प्रकार और क्यों कोई विशेष निर्णय ले रहा है।
  • इसमें कोई विशिष्ट आउटपुट सृजित किये जाने या मॉडल को प्रशिक्षित करने के लिये उपयोग किये गए डेटा के बारे में जानकारी प्रदान करने के लिये स्पष्टीकरण प्रदान करना शामिल हो सकता है।
  • इसके अलावा, यह सुनिश्चित किया जाना चाहिये कि जेनरेटिव AI मॉडल सामाजिक पूर्वाग्रहों को स्थायी नहीं बनाये या इनका विस्तार नहीं करे। इसमें पूर्वाग्रह को कम करने के लिये विविध प्रशिक्षण डेटा के साथ-साथ निष्पक्षता बाधाओं (Fairness Constraints) या प्रतिकूल प्रशिक्षण (Adversarial Training) जैसी तकनीकों का उपयोग करना शामिल हो सकता है।
• उत्तरदायित्व: जेनरेटिव AI मॉडल के कार्यों के लिये व्यक्तियों, संगठनों या सरकारी संस्थाओं को उत्तरदायी बनाने के लिये तंत्र स्थापित करने की आवश्यकता है।
  • इसमें उस संगठन में एक नाम-निर्दिष्ट ‘AI नैतिकतावादी’ या ‘AI लोकपाल’ को नियुक्त करना शामिल हो सकता है जो मॉडल के लिये ज़िम्मेदार होगा अथवा एक नियामक निकाय का गठन किया जा सकता है जो जेनरेटिव AI के विकास एवं परिनियोजन की देखरेख करे।
• गोपनीयता बनाए रखना: उन व्यक्तियों की गोपनीयता की रक्षा करना जिनके डेटा का उपयोग जेनरेटिव AI मॉडल को प्रशिक्षित करने और परीक्षण करने के लिये किया जाता है।
  • इसमें सख्त डेटा प्रबंधन और भंडारण अभ्यासों को लागू करने के साथ-साथ प्रशिक्षण डेटा से संवेदनशील सूचना को हटाने के लिये तकनीक विकसित करना शामिल हो सकता है।
• मानव नियंत्रण: ऐसे डिज़ाइनिंग तंत्रों का निर्माण करना जिसमें जेनरेटिव AI प्रक्रिया में प्रमुख बिंदुओं पर मानव निरीक्षण एवं निर्णयन लेने को शामिल किया गया है, ताकि यह सुनिश्चित किया जा सके कि मॉडल अपनी तय मंशा के अनुसार ही व्यवहार कर रहा है और किसी भी अनपेक्षित परिणाम को तुरंत चिह्नित कर संबोधित किया जा सके।
  • इसके अलावा, निर्णय लेने की प्रक्रिया में मानव और AI के बीच सहयोग को प्रोत्साहित करना जहाँ AI को एक समर्थन प्रणाली के रूप में इस्तेमाल किया जा सकता है जबकि मानव अंतिम निर्णय लेता हो। यह मानव को परिणाम पर नियंत्रणकारी शक्ति के रूप में बनाए रख सकेगा।
• संभावित परिणामों को विचार करना: जेनरेटिव AI मॉडल के संभावित परिणामों (अपेक्षित एवं अनपेक्षित दोनों) का लगातार मूल्यांकन करना और किसी भी नकारात्मक प्रभाव को कम करने के लिये आवश्यकतानुसार समायोजन करना आवश्यक है।

अभ्यास प्रश्न: हाल के वर्षों में जेनरेटिव AI एक अग्रणी अनुसंधान क्षेत्र रहा है। जेनरेटिव AI मॉडल का उपयोग करने से संबद्ध चुनौतियों एवं इसके नैतिक प्रभावों की चर्चा कीजिये।

 यूपीएससी सिविल सेवा परीक्षा, विगत वर्ष के प्रश्न (PYQ) 

प्रश्न 1. विकास की वर्तमान स्थिति के साथ, आर्टिफिशियल इंटेलिजेंस प्रभावी रूप से निम्नलिखित में से क्या कर सकता है? (वर्ष 2020)

1. औद्योगिक इकाइयों में बिजली की खपत कम करें
2. सार्थक लघु कथाएँ और गीत बनाएँ
3. रोग निदान
4. टेक्स्ट टू स्पीच रूपांतरण
5. विद्युत ऊर्जा का वायरलेस ट्रांसमिशन

नीचे दिये गए कूट का प्रयोग कर सही उत्तर चुनिये:

(A) केवल 1, 2, 3 और 5
(B) केवल 1, 3 और 4
(C) केवल 2, 4 और 5
(D) 1, 2, 3, 4 और 5

उत्तर: (B)

---

प्रश्न 2. निम्नलिखित युग्मों पर विचार कीजिये: (वर्ष 2018)

1. समाचार में देखे जाने वाले शब्द संदर्भ
2. बेल ll प्रयोग ( Belle II Experiment) कृत्रिम बुद्धिमत्ता
3. ब्लॉकचेन टेक्नोलॉजी डिजिटल क्रिप्टो करेंसी
4. CRISPR-Cas9 पार्टिकल भौतिकी

उपर्युक्त युग्मों में से कौन-सा/से सही सुमेलित है/हैं?

(A) केवल 1 और 3
(B) केवल 2
(C) केवल 2 और 3
(D) 1, 2 और 3

उत्तर: (B)