चुनावों में डीपफेक: चुनौतियाँ तथा समाधान

प्रिलिम्स के लिये: डीपफेक, AI तकनीक, IT अधिनियम और IT नियम, भारत निर्वाचन आयोग, AI चैटबॉट, ऑप्टिकल कैरेक्टर रिकग्निशन (OCR), प्राकृतिक भाषा प्रसंस्करण (NLP), Google AI मॉडल, डीप टेक, आर्टिफिशियल इंटेलिजेंस, इंटरनेट ऑफ थिंग्स, बिग डेटा , क्वांटम कंप्यूटिंग, दूरसंचार उद्योग, एकीकृत भुगतान इंटरफेस, अंतरिक्ष क्षेत्र, भारत का सेमीकंडक्टर मिशन, IndiaAI मिशन, मिशन ऑन एडवांस्ड एंड हाई-इम्पैक्ट रिसर्च। मेन्स के लिये: डीपफेक प्रौद्योगिकियाँ लोकतांत्रिक राजनीति की कार्यप्रणाली में जोखिम उत्पन्न करती हैं।

हमारी चुनावी प्रक्रिया में डीपफेक (Deepfakes) का उभार गंभीर चिंताओं को जन्म दे रहा है। भ्रामक सूचना के पारंपरिक रूपों से विपरीत, डीपफेक यथार्थ को मनगढ़ंत या झूठी सूचना से अलग कर सकने की हमारी क्षमता को कमज़ोर करते हैं। हम अब किसी सूचना के सत्यापन के लिये केवल हस्तक्षेपों या तकनीकी समाधानों पर निर्भर नहीं रह सकते और वास्तविक चुनौती हमारे विश्लेषण में हमारे ही कम होते भरोसे में निहित है।

अभी तक हम सूचनाओं में हेरफेर का मुक़ाबला कर सकने के आदी हो चुके थे, सच्चाई का पता सकने की हमारी क्षमता पर हम में आत्मविश्वास था और हम सूचनाओं के सत्यापन के लिये वैकल्पिक स्रोतों एवं विश्वसनीय मीडिया संस्थानों पर निर्भरता रखते थे, लेकिन डीपफेक ने हमारे निर्णय ले सकने की क्षमता पर ही शंका उत्पन्न कर हमारे इस आत्मविश्वास को कमज़ोर कर दिया है।  

डीपफेक (Deepfakes):

• परिचय:
  • डीपफेक AI प्रौद्योगिकी के माध्यम से सृजित सिंथेटिक मीडिया को संदर्भित करता है, जिसका उद्देश्य व्यक्तियों को धोखा देने या गुमराह करने के लिये दृश्य एवं श्रव्य सामग्री का सृजन करना या उनमें हेरफेर करना है।
• उद्गम:
  • ‘डीपफेक’ शब्द वर्ष 2017 में एक अनामिक रेडिट (Reddit) उपयोगकर्ता द्वारा गढ़ा गया था, जो अपने परिचय के लिये ‘डीपफेक्स’ (Deepfakes) छद्म नाम का उपयोग करता था।
  • इस व्यक्ति ने अश्लील वीडियो के निर्माण और साझेदारी के लिये गूगल के ओपन-सोर्स डीप-लर्निंग टेक्नोलॉजी का उपयोग किया।
• डीपफेक का सृजन:
  • डीपफेक के सृजन में जेनरेटिव एडवर्सरियल नेटवर्क (Generative Adversarial Networks- GANs) नामक तकनीक का उपयोग किया जाता है, जिसमें दो प्रतिस्पर्द्धी न्यूरल नेटवर्क शामिल होते हैं: ‘जेनरेटर’ और ‘डिस्क्रेमिनेटर’।
    • जेनरेटर (Generator): इसका उद्देश्य ऐसी नकली/फेक छवि या वीडियो का निर्माण करना है जो वास्तविक कंटेंट से व्यापक रूप से मिलते-जुलते हों
    • डिस्क्रेमिनेटर (Discriminator): यह प्रामाणिक और नकली कंटेंट के बीच अंतर करने में अपनी भूमिका निभाता है।
  • डेटा सिंथेसिस (Data Synthesis): इसके सृजन के लिये पर्याप्त मात्रा में डेटा की आवश्यकता होती है, जिसे प्रायः बिना सहमति के इंटरनेट या सोशल मीडिया से प्राप्त किया जाता है, जिसमें स्रोत और लक्षित व्यक्ति दोनों की छवियाँ या वीडियो शामिल होते हैं।
  • डीप सिंथेसिस (Deep Synthesis): डीपफेक ‘डीप सिंथेसिस’ का एक घटक है। डीप सिंथेसिस एक व्यापक शब्द है जो डीप लर्निंग एवं ऑगमेंटेड रियलिटी (AR) जैसी विभिन्न प्रौद्योगिकियों को दायरे में लेता है, जिनका उपयोग वर्चुअल परिदृश्यों के निर्माण के लिये टेक्स्ट, इमेज, ऑडियो एवं वीडियो के सृजन के लिये किया जाता है।

चुनावों में डीपफेक का लाभ किस प्रकार उठाया जाता है?

• खंडीकरण और लक्ष्यीकरण (Segmentation and targeting):
  • डीप लर्निंग एल्गोरिदम राजनीतिक दलों और उम्मीदवारों को व्यापक मतदाता डेटा का विश्लेषण करने में सक्षम बनाता है, जिसमें जनसांख्यिकी, सोशल मीडिया गतिविधि और मतदान इतिहास शामिल होता है।
  • नेचुरल लैंग्वेज प्रोसेसिंग (NLP) एल्गोरिदम चुनाव अभियानों को सोशल मीडिया पोस्ट, न्यूज़ आर्टिकल्स और पब्लिक फोरम पर व्यक्त विचारों सहित विशाल मात्रा में पाठ्य डेटा का विश्लेषण एवं व्याख्या करने तथा व्यक्तिगत लाभ के लिये मतदाताओं को लक्षित करने में सक्षम बनाता है।
• समयबद्ध निगरानी और अनुकूलन:
  • AI क्लाउड जैसे डीप-समर्थित अनुमानकारी विश्लेषण का उपयोग करते हुए राजनीतिक दल मतदान डेटा, आर्थिक संकेतकों और सोशल मीडिया के भावना विश्लेषण जैसे विविध कारकों की संवीक्षा कर चुनाव परिणामों का पूर्वानुमान लगा सकते हैं।
  • AI एल्गोरिदम लोक भावना से अवगत होने और उभरते रुझानों की पहचान करने के लिये सोशल मीडिया, न्यूज़ आउटलेट और ओपिनियन पोल्स सहित विभिन्न डेटा स्रोतों को लगातार स्कैन करते रहते हैं।
• उन्नत संचार रणनीतियाँ:
  • डीपफेक-समर्थित AI चैटबॉट और वर्चुअल असिस्टेंट सोशल मीडिया प्लेटफॉर्म पर मतदाताओं से संलग्न होते हैं, उनकी जिज्ञासाओं का समाधान करते हैं, उम्मीदवारों एवं नीतियों के बारे में सूचना प्रसारित करते हैं और यहाँ तक कि मतदाता भागीदारी को प्रोत्साहित करने में भी भूमिका निभाते हैं।
• सुरक्षा और अखंडता:
  • AI-संचालित डीपफेक उपकरण चुनावी धोखाधड़ी (जिसमें मतदाता दमन, इलेक्ट्रॉनिक वोटिंग प्रणालियों में हेरफेर और गलत सूचना का प्रसार शामिल है) का पता लगाने और उसे रोकने में महत्त्वपूर्ण भूमिका निभाते हैं।
  • AI एल्गोरिदम डेटा पैटर्न और विसंगतियों का विश्लेषण कर चुनावों की अखंडता को बनाए रखने में योगदान देते हैं।
• विनियमन और निरीक्षण:
  • सरकारें और निर्वाचन अधिकारी राजनीतिक विज्ञापन की निगरानी एवं विनियमन, अभियान के वित्तपोषण संबंधी कानूनों के उल्लंघन की पहचान करने तथा चुनावी विनियमनों का पालन सुनिश्चित करने के लिये AI एवं डीप प्रौद्योगिकियों का लाभ उठाते हैं।
  • AI-समर्थित उपकरण चुनावी प्रक्रिया में पारदर्शिता एवं जवाबदेही को सुगम बनाते हैं।
  • उदाहरण के लिये, वर्ष 2021 में बिहार निर्वाचन आयोग ने पंचायत चुनावों के दौरान मतगणना बूथों के सीसीटीवी फुटेज का विश्लेषण करने के लिये ऑप्टिकल कैरेक्टर रिकग्निशन (OCR) के साथ वीडियो एनालिटिक्स की तैनाती के लिये AI फर्म ‘Staqu’ के साथ सहकार्यता स्थापित की। इस प्रणाली ने पूर्ण पारदर्शिता सुनिश्चित की और हेरफेर की किसी भी संभावना को समाप्त कर दिया।

चुनावों में डीपफेक से संबंधित विभिन्न चुनौतियाँ:

• चुनावी व्यवहार में हेरफेर:
  • डीपफेक कंटेंट के सृजन और मतदाताओं पर अत्यधिक व्यक्तिकृत प्रोपेगेंडा के बौछार से भ्रम एवं हेरफेर की स्थिति पैदा होती है।
  • AI का उपयोग कर प्रतिद्वंद्वियों के डीपफेक वीडियो तैयार किये जा सकते हैं, जिससे उनकी छवि धूमिल हो सकती है और उनके प्रति मतदाताओं की धारणा प्रभावित हो सकती है। इससे ‘डीपफेक इलेक्शन’ की अवधारणा को जन्म दिया जा सकता है।
    • ‘डीपफेक इलेक्शन’ (Deepfake Elections)’ शब्द का तात्पर्य AI सॉफ्टवेयर के उपयोग के माध्यम से विश्वसनीय फेक वीडियो, ऑडियो एवं अन्य कंटेंट का सृजन करता है, जिससे चुनावों की अखंडता को गंभीर खतरा पहुँचता है और आम लोगों का भरोसा घटता है।
• भ्रामक सूचना का प्रसार:
  • डीपफेक मॉडल, विशेष रूप से जेनरेटिव आर्टिफिशियल इंटेलिजेंस, भ्रामक या झूठी सूचना का प्रसार कर लोकतांत्रिक प्रक्रियाओं में हेरफेर कर सकते हैं।
  • उदाहरण के लिये, वर्ष 2024 के लोकसभा चुनाव में महात्मा गांधी की एक क्लोन आवाज़ सृजित की गई जहाँ प्रकट किया गया कि गांधीजी एक विशेष राजनीतिक दल के लिये चुनाव प्रचार कर रहे हैं।
  • एक अन्य उदाहरण में, सत्तारूढ़ पार्टी के एक सांसद का एक डीपफेक वीडियो व्हाट्सएप पर वायरल हुआ, जहाँ वह विभिन्न भाषाओं में अपने राजनीतिक प्रतिद्वंद्वी की आलोचना कर रहे हैं और मतदाताओं को सत्तारूढ़ पार्टी को मत देने के लिये प्रोत्साहित कर रहे हैं।
  • यह जोखिम सोशल मीडिया प्लेटफार्मों के कारण और बढ़ जाता है जहाँ फैक्ट-चेकिंग और चुनावी अखंडता को बनाए रखने के प्रयास कमज़ोर पड़ जाते हैं।
• अशुद्धियाँ और अविश्वसनीयता:
  • AGI सहित विभिन्न डीपफेक AI मॉडल में अशुद्धियों एवं विसंगतियों की संभावना बनी रहती है, जिससे उनकी विश्वसनीयता को लेकर चिंताएँ पैदा होती हैं।
  • गूगल AI मॉडल द्वारा प्रसिद्ध व्यक्तियों के भ्रामक प्रस्तुतीकरण के उदाहरणों ने अनियंत्रित AI के संभावित खतरों को उजागर किया है।
  • AI मॉडलों में मौजूद विसंगतियाँ उनके उपयोग के विस्तार के साथ समाज के लिये अंतर्निहित जोखिम उत्पन्न करती हैं।
• नैतिक चिंताएँ:
  • चुनावों में डीपफेक का उपयोग निजता/गोपनीयता, पारदर्शिता एवं निष्पक्षता के संबंध में नैतिक प्रश्नों को जन्म देता है।
  • AI एल्गोरिदम प्रशिक्षण डेटा में मौजूद पूर्वाग्रहों को बनाए रख सकते हैं, जिसके परिणामस्वरूप कुछ मतदाता समूहों के विरुद्ध अनुचित व्यवहार या भेदभाव की स्थिति बन सकती है।
  • AI निर्णय-निर्माण प्रक्रियाओं में पारदर्शिता का अभाव चुनावी नतीजों के प्रति आम लोगों के भरोसे को नष्ट कर सकता है।
  • AI संसाधनों तक असमान पहुँच चुनावों में सबके लिये एकसमान अवसर को बाधित कर सकती है और अधिक संसाधनों वाले दलों को लाभ पहुँचा सकती है।
• विनियामक चुनौतियाँ:
  • तेज़ी से हो रही तकनीकी प्रगति और ऑनलाइन प्लेटफॉर्म की वैश्विक प्रकृति के कारण चुनावी अभियानों में डीपफेक को विनियमित करना चुनौतीपूर्ण है।
  • सरकारें और चुनाव अधिकारी निरंतर विकासशील AI तकनीकों के साथ तालमेल बिठाने में संघर्ष करते हैं और उनके पास AI-संचालित चुनावी गतिविधियों को विनियमित करने में विशेषज्ञता की कमी हो सकती है।
  • भारतीय दंड संहिता, 1860 और सूचना प्रौद्योगिकी अधिनियम, 2000 जैसे मौजूदा कानून ‘फेक न्यूज़’ एवं डिजिटल मीडिया की नैतिकता के पहलुओं को तो संबोधित करते हैं, लेकिन AI एवं डीपफेक प्रौद्योगिकी निर्माताओं को लक्षित करने वाले विशिष्ट प्रावधानों का अभाव रखते हैं।
• डीपफेक से संबंधित प्रमुख सरकारी पहलें
  • आईटी अधिनियम, 2000 और आईटी नियम, 2021: आईटी अधिनियम और आईटी नियम यह निर्धारित करते हैं कि सोशल मीडिया मध्यस्थ त्वरित रूप से डीपफेक वीडियो या छवियों को हटाने के लिये ज़िम्मेदार हैं और ऐसा करने में विफल रहने पर तीन वर्ष तक की क़ैद या 1 लाख रुपए का जुर्माना हो सकता है।
    • आईटी अधिनियम, 2000 की धारा 66D के अनुसार, संचार उपकरण या कंप्यूटर संसाधन का उपयोग कर प्रतिरूपण द्वारा धोखा देने वाले व्यक्तियों को तीन वर्ष तक की क़ैद और एक लाख रुपए तक के जुर्माने से दंडित किया जा सकता है।
    • नियम 3(1)(b)(vii): यह नियम सोशल मीडिया मध्यस्थों के लिये यह सुनिश्चित करना अनिवार्य बनाता है कि उपयोगकर्ता किसी अन्य व्यक्ति का प्रतिरूपण करने वाला कोई कंटेंट होस्ट न करें।
    • नियम 3(2)(b): इसके तहत ऐसे कंटेंट की शिकायत प्राप्त होने के 24 घंटे के भीतर इसे हटाना आवश्यक है।
    • PIB के अंतर्गत ‘फैक्ट चेक यूनिट’ की स्थापना आईटी नियम, 2021 के तहत नवंबर 2019 में की गई, जिसका उद्देश्य फेक न्यूज़ और भ्रामक सूचनाओं के सृजनकर्ताओं/क्रिएटर्स एवं प्रसारणकर्ताओं के विरुद्ध निवारक के रूप में कार्य करना था।
      • यह लोगों को भारत सरकार से संबंधित संदिग्ध एवं संदेहास्पद सूचना की रिपोर्ट कर सकने का एक सुगम माध्यम भी प्रदान करता है।
•  INDIAai
• कृत्रिम बुद्धिमत्ता पर वैश्विक भागीदारी (Global Partnership on Artificial Intelligence- GPAI)
• यूएस-भारत कृत्रिम बुद्धिमत्ता पहल (US India Artificial Intelligence Initiative)
• युवाओं के लिये उत्तरदायी कृत्रिम बुद्धिमत्ता (Responsible Artificial Intelligence for Youth)
• आर्टिफिशियल इंटेलिजेंस रिसर्च, एनालिटिक्स एंड नॉलेज एसिमिलेशन प्लेटफॉर्म (Artificial Intelligence Research, Analytics and Knowledge Assimilation Platform)
• कृत्रिम बुद्धिमत्ता मिशन (Artificial Intelligence Mission)

चुनावों में डीपफेक के दुरुपयोग से निपटने के उपाय

• नियामक उपाय:
  • चुनावी हेरफेर के लिये डीपफेक कंटेंट के सृजन, प्रसार एवं उपयोग को विशेष रूप से संबोधित करने वाले कठोर कानून एवं विनियमन लागू किये जाएँ।
  • उदाहरण: सूचना प्रौद्योगिकी अधिनियम, भारतीय दंड संहिता (1860) आदि में संशोधन किया जाए या चुनाव अवधि के दौरान डीपफेक कंटेंट के सृजन एवं प्रसार को आपराधिक बनाने के लिये नया कानून लाया जाए।
• चुनाव आयोग के दिशानिर्देश:
  • लोकसभा चुनाव 2024 के परिप्रेक्ष्य में डीपफेक और AI-समर्थित भ्रामक सूचनाओं का एक संभावित समाधान यह हो सकता है कि भारत निर्वाचन आयोग द्वारा इस संबंध में दिशा-निर्देश जारी किये जाएँ।
  • ऐसे विनियमों को लागू करने की आवश्यकता है जहाँ राजनीतिक उद्देश्यों के लिये AI एल्गोरिदम के उपयोग में पारदर्शिता रखना आवश्यक हो।
    • इसमें राजनीतिक विज्ञापनों के लिये धन के स्रोतों का खुलासा करना और प्लेटफार्मों द्वारा यह खुलासा करना शामिल है कि एल्गोरिदम उपयोगकर्ताओं द्वारा देखे जाने वाले कंटेंट का निर्धारण किस प्रकार करते हैं।
• प्रौद्योगिकी आधारित समाधान:
  • त्वरित रूप से डीपफेक कंटेंट का पता लगाने और उसे प्रमाणित करने के लिये उन्नत AI एल्गोरिदम एवं उपकरणों का विकास किया जाए।
    • उदाहरण के लिये, विभिन्न प्रौद्योगिकी कंपनियों और शोध संस्थानों के एक गठबंधन ‘डीपट्रस्ट एलायंस’ ने ‘डीपट्रस्ट एनालाइजर’ (DeepTrust Analyzer) विकसित किया है, जो डीपफेक वीडियो एवं छवियों की पहचान करने के लिये मशीन लर्निंग (ML) का उपयोग करता है।
  • भारतीय प्रौद्योगिकी कंपनियाँ भारतीय भाषाओं और सांस्कृतिक संदर्भों के अनुरूप डीपफेक डिटेक्शन एल्गोरिदम विकसित करने के लिये अनुसंधान संस्थानों के साथ सहयोग स्थापित कर सकती हैं।
• जागरूकता एवं शिक्षा अभियान:
  • डीपफेक प्रौद्योगिकी के अस्तित्व और चुनावों पर इसके संभावित प्रभाव के बारे में मतदाताओं को शिक्षित करने के लिये सार्वजनिक जागरूकता अभियान शुरू किये जाएँ।
  • भारत सरकार मीडिया संगठनों और मशहूर हस्तियों के साथ साझेदारी कर सकती है ताकि डीपफेक के बारे में जागरूकता बढ़ाई जा सके और चुनावों के दौरान सतर्कता बरतने का आग्रह किया जा सके।
• उन्नत फैक्ट-चेकिंग:
  • चुनावों के दौरान फेक न्यूज़, डीप फेक और अन्य प्रकार की भ्रामक सूचनाओं के प्रसार को रोकने के लिये एक त्वरित प्रतिक्रिया दल (Rapid Response Team) की स्थापना करना अत्यंत महत्त्वपूर्ण है।
  • यद्यपि यह अपरिहार्य है कि फेक वीडियो और भ्रामक सूचनाएँ सामने आएँगी, लेकिन महत्त्वपूर्ण बात यह है कि उनके व्यापक रूप से प्रसार से पहले ही उन्हें शीघ्रता से रोक दिया जाए।
• सहकार्यात्मक प्रयास:
  • डीपफेक खतरों के प्रति समन्वित प्रतिक्रिया विकसित करने के लिये सरकारों, प्रौद्योगिकी कंपनियों और नागरिक समाज संगठनों के बीच सहकार्यता को बढ़ावा दिया जाए।
  • उदाहरण के लिये, फेसबुक, माइक्रोसॉफ्ट और विभिन्न विश्वविद्यालयों द्वारा आयोजित ‘डीपफेक डिटेक्शन चैलेंज’ शोधकर्ताओं को डीपफेक वीडियो का पता लगाने और उनसे निपटने के लिये उपकरण विकसित करने के लिये आमंत्रित करता है।
• अंतर्राष्ट्रीय अभ्यासों से अंतर्दृष्टि प्राप्त करना:
  • चीन की विनियामक रणनीति: चीन डीपफेक प्रौद्योगिकियों के उपयोग में सहमति प्राप्त करने और पहचान सत्यापित करने पर ज़ोर देता है। ऐसी प्रौद्योगिकियों के प्रदाताओं पर प्रस्तुत किये गए व्यक्तियों से सहमति प्राप्त करने और उपयोगकर्ता की पहचान प्रमाणित करने का दायित्व सौंपा गया है। इसके अलावा, डीपफेक कंटेंट से प्रतिकूल रूप से प्रभावित होने वाले व्यक्तियों की सहायता के लिये विभिन्न उपाय किये गए हैं।
  • कनाडा का निरोधक दृष्टिकोण: कनाडा व्यापक सार्वजनिक जागरूकता अभियानों और भविष्योन्मुखी विधान के माध्यम से डीपफेक के नुकसानों को पहले से ही संबोधित करने पर ध्यान केंद्रित करता है, जहाँ इन अभियानों का उद्देश्य आम लोगों को डीपफेक प्रौद्योगिकी से जुड़े जोखिमों के बारे में शिक्षित करना है।
• नैतिक AI को बढ़ावा देना:
  • नैतिक सिद्धांतों को सर्वोपरि रखते हुए AI प्रौद्योगिकियों के विकास को बढ़ावा देना, जहाँ पूर्वाग्रह को कम करने, निजता की रक्षा करने और पारदर्शिता को बढ़ावा देने जैसे उद्देश्यों को प्राथमिकता दी जाए।
  • राजनीतिक क्षेत्रों में AI के विवेकपूर्ण अनुप्रयोग को रेखांकित करने वाले संस्थागत मानदंड और प्रोटोकॉल स्थापित किये जाएँ।

अभ्यास प्रश्न: डीपफेक प्रौद्योगिकी चुनाव अभियानों की अखंडता को किस प्रकार प्रभावित कर सकती है? इसके प्रभाव को कम करने के लिये कौन-से उपाय लागू किये जा सकते हैं?

UPSC सिविल सेवा परीक्षा पिछले वर्ष प्रश्न   प्रिलिम्स: विकास की वर्तमान स्थिति में, कृत्रिम बुद्धिमत्ता (Artificial Intelligence), निम्नलिखित में से किस कार्य को प्रभावी रूप से कर सकती है? (2020) औद्योगिक इकाइयों में विद्युत् की खपत कम करना  सार्थक लघु कहानियों और गीतों की रचना   रोगों का निदान  टेक्स्ट से स्पीच (Text-to-Speech) में परिवर्तन  विद्युत् ऊर्जा का बेतार संचरण नीचे दिये गए कूट का प्रयोग करके सही उत्तर चुनिये: (a) केवल 1, 2, 3 और 5 (b) केवल 1, 3 और 4 (c) केवल 2, 4 और 5 (d) 1, 2, 3, 4 और 5 उत्तर: (b) मेन्स:  प्रश्न. भारत के प्रमुख शहरों में आईटी उद्योगों के विकास से उत्पन्न मुख्य सामाजिक-आर्थिक निहितार्थ क्या हैं? (2021)