कृत्रिम बुद्धिमत्ता के नकारात्मक पक्ष

• 23 May 2019

इस Editorial में 15 मई को LIvemint में प्रकाशित आलेख The Chilling Consequences of the Internet of the Things का विश्लेषण करते हुए कृत्रिम बुद्धिमत्ता (Artificial Intelligence) के नकारात्मक पहलुओं को उजागर किया गया है।

संदर्भ

AI के महत्त्व का अंदाज़ा इसी बात से लगाया जा सकता है कि वर्ष 2018-19 का अंतरिम बजट पेश करते समय केंद्रीय मंत्री पीयूष गोयल ने इसका उल्लेख किया। आज लगभग हर उस क्षेत्र में कृत्रिम बुद्धिमत्ता (Artificial Intelligence-AI) का ज़िक्र होता है, जहाँ किसी काम को स्वचालित रूप से मनुष्य के प्रत्यक्ष हस्तक्षेप के बिना पूरा किया जा सकता है। कुछ ऐसे क्षेत्रों में जिनमें मनुष्य के काम करने में जोखिम हो सकता है, उनमें AI का इस्तेमाल वरदान सिद्ध हुआ है। लेकिन हर सिक्के के दो पहलू होते हैं और AI भी इसका अपवाद नहीं है। जहाँ इसके अनेकानेक लाभ हैं, वहीं इसके कुछ नकारात्मक पक्ष भी हैं।

कृत्रिम बुद्धिमत्ता क्या है?

आगे बढ़ने से पहले यह जान लेते हैं कि कृत्रिम बुद्धिमत्ता यानी Artificial Intelligence या AI आखिर है क्या?

बेहद सरल शब्दों में कहें तो कृत्रिम बुद्धिमत्ता वह गतिविधि है जिसके द्वारा मशीनों को बुद्धिमान बनाने का काम किया जाता है...और बुद्धिमत्ता वह गुण है जो किसी इकाई को अपने वातावरण में उचित और दूरदर्शिता के साथ कार्य करने में सक्षम बनाता है।

जब कोई मशीन या उपकरण परिस्थितियों के अनुकूल सीखकर समस्याओं को हल करता है तो यह AI के दायरे में आता है। इसे विचार करने, नियोजन, सीखने, भाषा की प्रोसेसिंग, अवधारणा, गति, रचनात्मकता आदि का मिश्रण कहा जा सकता है।

कई अनसुलझे सवाल हैं

• AI मनुष्यों के लिये उल्लेखनीय लाभ के साथ प्रभावशाली अनुप्रयोग उपलब्ध करता है; लेकिन सामाजिक, राजनीतिक या नैतिक पहलुओं के साथ कई ऐसे अनुत्तरित प्रश्न हैं, जिनका जवाब मिले बिना इस पर प्रश्नचिह्न बना ही रहेगा। AI के व्यापक इस्तेमाल के ऐसे परिणाम हो सकते हैं जिनकी कल्पना भी नहीं की गई है।
• AI में मनुष्यों के स्थान पर मशीनों से काम लिया जाएगा, मशीनें स्वयं ही निर्णय लेने लगेंगी और उन पर नियंत्रण नहीं किया गया तो इससे मनुष्य के लिये खतरा भी उत्पन्न हो सकता है।
• वैज्ञानिक इसे सबसे बड़ा खतरा तब मानते हैं जब कृत्रिम बुद्धि के ज़रिये मशीनें बिना मानवीय हस्तक्षेप के नैतिक प्रश्नों पर फैसला लेने लगेंगी। जैसे- जीवन, सुरक्षा, जन्म-मृत्यु, सामाजिक संबंध आदि से जुड़े फैसले।
• सैद्धांतिक भौतिक विज्ञानी स्टीफन हॉकिन्स का भी यही कहना था कि मनुष्य हज़ारों वर्षों के धीमे जैविक विकासक्रम का परिणाम है, जो AI का मुकाबला नहीं कर सकता।
• बिल गेट्स का मानना है कि यदि मनुष्य अपने से बेहतर सोचने-समझने वाली मशीन बना लेगा तो वह मनुष्य के अस्तित्व के लिये ही सबसे बड़ा खतरा बन सकती है।

AI से होने वाले प्रमुख संभावित खतरे

माना जा रहा है कि AI के इस्तेमाल से संचार, रक्षा, स्वास्थ्य, आपदा प्रबंधन और कृषि आदि क्षेत्रों में बड़ा बदलाव आ सकता है। हालाँकि इसके लाभ अभी बहुत स्पष्ट नहीं हैं, लेकिन इसके खतरों को लेकर कहा जा सकता है कि AI के आने से सबसे बड़ा नुकसान मानव अस्तित्व को ही होगा।

शुद्धता और निष्पक्षता का प्रश्न

• AI प्रणालियाँ विशाल और वृहद् मात्रा में डेटा का विश्लेषण कर ज्ञान अर्जित करती हैं और वे Interaction Data तथा उपयोगकर्त्ता-प्रतिक्रिया (User-Feedback) के निरंतर प्रारूपण के माध्यम से अनुकूलित होती रहती हैं।
• लेकिन बड़ा सवाल यह है कि इस परिदृश्य में यह सुनिश्चित कैसे किया जाएगा कि AI की कलन-विधि (Algorithm) को जिस प्रकार प्रशिक्षित किया गया है वह निष्पक्ष या पूर्वाग्रह से ग्रस्त नहीं है?
• तब क्या होगा यदि कोई कंपनी प्रशिक्षण डेटा सेट के माध्यम से जान-बूझकर या अन्य प्रकार से ग्राहकों या उपयोगकर्त्ताओं के वर्ग विशेष के पक्ष में पूर्वाग्रहों का प्रवेश करने में सफल हो जाए?

आँकड़े, ज्ञान, प्रौद्योगिकी तक पहुँच

• आज के आपस में जुड़े विश्व में कंपनियों का एक बेहद छोटा समूह बड़ी मात्रा में डेटा इकट्ठा कर रहा है। इस समेकित डेटा तक पहुँच से न केवल किसी व्यक्ति के दिन-प्रतिदिन की गतिविधियों, अंतःक्रियाओं आदि के विषय में जानकारी मिल सकती है, बल्कि स्पष्ट रूप से अभिव्यक्त या अस्पष्ट रूप से चिह्नित रुचियों के संदर्भ में भी सेंध लगाई जा सकती है। इस डेटा के माध्यम से कोई भी हमारी गतिविधियों, अतीत और पैटर्न अथवा किसी के सामान्य जीवन के प्रतिरूप के विषय में किसी भी प्रकार की जानकारी हासिल कर सकता है।

निजता को खतरा

किसी व्यक्ति की ऑनलाइन गतिविधियों के डेटा तक अवैध पहुँच की संभावना के मद्देनज़र देखें तो यह निजता के अधिकार के लिये जोखिम की स्थिति तैयार करती है। इससे न केवल ऑनलाइन, बल्कि किसी ऑफलाइन उपयोगकर्त्ता का (जिसने सोच-समझ कर ‘डिसकनेक्टेड’ रहने का निर्णय लिया हो) निजता का अधिकार भी खतरे में पड़ सकता है। उदाहरण के लिये, यदि कोई ‘डिसकनेक्टेड यूज़र’ नवविकसित स्मार्ट सिटी में किसी भी प्रकार की कोई गतिविधि कर रहा हो तो उसका इस दायरे से बच पाना कठिन है।

प्रौद्योगिकीय बेरोज़गारी

• यह वह बेरोज़गारी है जो नई प्रौद्योगिकियों के आने से उत्पन्न हो सकती है, अर्थात् AI युक्त मशीनों या प्रणालियों के आने से होने वाला रोज़गार प्रतिस्थापन। इससे कार्यबल और बाज़ारों में महत्त्वपूर्ण परिवर्तन आएंगे; कुछ तरह की कार्य-भूमिकाएँ और रोज़गार चलन से बाहर हो जाएंगे, कुछ उद्योगों का मौलिक स्वरूप बदल जाएगा तथा रोज़गार प्रारूप और संबंध पुनर्परिभाषित हो सकते हैं।

पूर्व की तीन औद्योगिक क्रांतियों ने श्रमबल को विभिन्न प्रकार से प्रभावित किया:

• पहली औद्योगिक क्रांति में हाथ से काम करने वाले औद्योगिक श्रमबल की बहुत आवश्यकता थी।
• दूसरी औद्योगिक क्रांति में प्रौद्योगिकीय श्रमबल की आवश्यकता थी।
• तीसरी औद्योगिक क्रांति ने श्रमबल के एक विशिष्ट समूह का निर्माण किया जिसे प्रबंधकीय और प्रौद्योगिकीविद वर्ग के रूप में जाना जाता है।
• यह स्पष्ट नहीं है कि चौथी औद्योगिक क्रांति को किस तरह के श्रमबल की आवश्यकता होगी, लेकिन संभावना है कि पूर्व की तीनों क्रांतियों की तुलना में यह बेरोज़गारी में कहीं अधिक वृद्धि कर सकती है।

असंतुलित शक्ति और डेटा पर नियंत्रण

• प्रौद्योगिकी क्षेत्र के दिग्गज AI के संबंध में विज्ञान, अभियांत्रिकी और वाणिज्यिक व उत्पाद विकास के सभी स्तरों पर भारी निवेश कर रहे हैं।
• ये बड़े खिलाड़ी किसी भी अन्य महत्त्वाकांक्षी प्रतियोगी की तुलना में लाभ की स्थिति में हैं और यह डेटा-अल्पतंत्रात्मक (data-oligarchic) समाज का एक लक्षण है।

सुरक्षा का प्रश्न महत्त्वपूर्ण

• AI के संदर्भ में सुरक्षा एक महत्त्वपूर्ण पहलू है। यदि कोई स्मार्ट प्रणाली (उदाहरण के लिये एक स्वचालित कार) के साथ असावधानी बरतता है तो इसके घातक परिणाम हो सकते हैं, विशेष रूप से जब साइबर सुरक्षा के खतरे दिनोंदिन बढ़ते ही जा रहे हों।

घातक स्वचालित हथियार

• सैन्य संदर्भों में निर्णय लेने की यह स्वायत्तता बेहद घातक सिद्ध हो सकती है। भविष्य के उन्नत रोबोट प्रणालियों से संचालित होने वाले घातक स्वचालित हथियार जब मानव हस्तक्षेप या स्वीकृति के बिना ही लक्ष्य पर हमला करने में सक्षम होंगे, तो स्थिति की भयावहता की सहज ही कल्पना की जा सकती है। प्रश्न यह है कि इन हमलावर रोबोटों के डिज़ाइन, संचालन और लक्ष्य निर्धारण का नियंत्रण कौन करेगा? ऐसे रोबोट जटिल परिस्थितियों की बारीकी को कैसे समझेंगे? घातक हमलों का स्वनिर्णयन किस आधार पर करेंगे...आदि-आदि?

AI से जुड़े अन्य घटक

AI पर कोई भी चर्चा तब तक पूर्ण नहीं मानी जा सकती, जब तक इसके सहयोगी घटकों के बारे में जानकारी प्राप्त न कर ली जाए:

इंटरनेट ऑफ थिंग्स

इंटरनेट ऑफ थिंग्स की अवधारणा के अनुप्रयोगों में इंटरनेट पर रिमोट मॉनीटरिंग की सुविधा मिलती है। यह विभिन्न डिवाइसों का समूह है जो इंटरनेट के संपर्क में रहकर संवाद करते है और सहजता से डेटा साझा करते हैं।

उदाहरण के लिये, स्मार्ट मीटर का उपयोग कर जल उपचार (Water Treatment) प्रणाली का विश्लेषण किया जा सकता है और किसी भी समय एवं कहीं से भी इसे नियंत्रित किया जा सकता है।

या...

एक ऐसी एम्बुलेंस, जो किसी सड़क दुर्घटना का शिकार हुए व्यक्ति को लेने जाते समय सर्वप्रथम सबसे कम समय लेने वाले रास्ते का चुनाव कर सके और फिर घायल का पूरा चिकित्सकीय ब्योरा ऑनलाइन देखकर उसकी प्राथमिक चिकित्सा के लिये जो उपकरण व दवाएँ आवश्यक हों, उनकी व्यवस्था कर ले।

मशीन लर्निंग

मशीन लर्निंग एक ऐसी प्रक्रिया है, जिसमें कंप्यूटर जैसी मशीनें अपने आप कुछ करना सीख जाती हैं। इस योजना में मशीनें मानव मस्तिष्क की तरह ही कुछ कामों को करना सीखती हैं और इस प्रक्रिया में उन्हें किसी मनुष्य की सहायता की ज़रूरत नहीं पड़ती। मशीन लर्निंग एक एल्गोरिथ्म है जो सॉफ्टवेयर को सही रूप से चलाने में मदद करती है। मशीन लर्निंग का सामान्य काम यह होता है कि वह इस तरह की एल्गोरिथ्म बनाए जिससे वह इनपुट डेटा को ले सके और आसानी से आँकड़ों का विश्लेषण कर सके। इससे आउटपुट डेटा की जानकारी के साथ नए डेटा को भी अपडेट किया जा सकेगा।

रोबोटिक्स

रोबोटिक्स इंजीनियरिंग की वह शाखा है जिसके तहत रोबोट की डिज़ाइनिंग, उनका रख-रखाव, नए अनुप्रयोगों का विकास और अनुसंधान इत्यादि जैसे काम किये जाते हैं। रोबोटिक्स में Manipulation & Processing के लिये कंप्यूटर का इस्तेमाल किया जाता है। रोबोटिक्स को सामान्यतः चार वर्गों में बाँटा जा सकता है- 1. औद्योगिक रोबोट 2. पर्सनल रोबोट 3. मेडिकल उपयोग के लिये रोबोट 4. ऑटोनॉमस रोबोट। रोबोटिक्स इंजीनियरिंग के तहत AI का भी अध्ययन किया जाता है।

आगे की राह

• AI प्रौद्योगिकीय क्रांति समृद्धि और विकास के तो बेहतर अवसर प्रस्तुत करती है, लेकिन यह सुनिश्चित करना आवश्यक है कि इस प्रौद्योगिकी का सही दिशा में अनुप्रयोग और उपयोग किया जाएगा।
• इस संबंध में विश्व के विभिन्न हिस्सों में पहले से ही कुछ कदम उठाए जा रहे हैं, जैसे Explainable AI (XAI) का प्रयोग और व्याख्या का अधिकार (Right to Explanation), जो AI के लिये इस्तेमाल किये जाने वाले मॉडलों को समझने (और यह समझने कि वे कोई विशेष निर्णय कैसे लेते हैं, जिसे यूरोपीय संघ के ‘GDPR—General Data Protection Regulation’ द्वारा आवश्यक बनाया गया है) का अवसर देता है।
• यह भी कहा जा सकता है कि AI पर AI Effect अथवा Odd Paradox का प्रभाव हो सकता है, अर्थात् AI एक नई प्रौद्योगिकी को जनसामान्य तक पहुँचाता है और लोग इस प्रौद्योगिकी के अभ्यस्त हो जाते हैं। इसके बाद इसे AI की तरह नहीं देखा जाता और फिर एक अगली नई प्रौद्योगिकी का चक्र शुरू हो जाता है।

निष्कर्षतः यह कहा जा सकता है कि AI और AI-आधारित अनुप्रयोगों के विकास पर अंकुश नहीं लगाया जाना चाहिये, लेकिन इसके विकास और उपयोग के विभिन्न स्तरों की निगरानी और विनियमन की व्यवस्था बनी रहनी चाहिये।

अभ्यास प्रश्न: "प्रौद्योगिकी स्वयं में मूल्य निरपेक्ष होती है; यह समाज की संरचना है जो इसे दिशा दिखाती है।" इस संदर्भ में समाज में AI के दायरे पर आलोचनात्मक टिप्पणी कीजिये।