डीपफेक

• 09 Nov 2023

प्रिलिम्स के लिये:

डीपफेक टेक्नोलॉजी, डीप सिंथेसिस टेक्नोलॉजी, आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी, ब्लॉकचेन टेक्नोलॉजी

मेन्स के लिये:

डीपफेक टेक्नोलॉजी का प्रभाव, डीपफेक संबंधी चुनौतियों का निपटान, नैतिक चिंताएँ 

स्रोत: द हिंदू

चर्चा में क्यों?

हाल ही में डीपफेक टेक्नोलॉजी के उपयोग से एक भारतीय अभिनेत्री की वास्तविक जैसी दिखने वाली लेकिन  नकली वीडियो के वायरल होने से कृत्रिम बुद्धिमत्ता (AI) के दुरुपयोग को लेकर देशभर में नाराज़गी और चिंता का माहौल बन गया है।

डीपफेक क्या है?

• परिचय:
  • "डीपफेक" कृत्रिम बुद्धिमत्ता (AI) के उपयोग से तैयार किया गया या मनोरंजन/मीडिया का वह अवास्तविक रूप है, जिसका उपयोग ऑडियो और विज़ुअल कंटेंट के माध्यम से लोगों को बहकाने अथवा गुमराह करने के लिये किया जा सकता है।
• डीपफेक बनाने की प्रक्रिया:
  • डीपफेक जेनरेटिव एडवरसैरियल नेटवर्क (GAN) नामक तकनीक का उपयोग करके तैयार किये जाते हैं, जिसमें जनरेटर/उत्पादक और डिस्क्रिमीनेटर/विभेदक नामक दो प्रतिस्पर्द्धी न्यूरल नेटवर्क शामिल होते हैं।
    • जनरेटर अवास्तविक छवियाँ अथवा वीडियो बनाने में मदद करता है, ये दिखने में वास्तविक जैसे होते हैं और डिस्क्रिमीनेटर जनरेटर द्वारा बनाए गए डेटा से वास्तविक डेटा को अलग करने का प्रयास करता है।
    • डिस्क्रिमीनेटर की प्रतिक्रिया से सीखते हुए जनरेटर अपने आउटपुट में सुधार करता है जब तक कि वह विभिन्न परिणाम प्रदर्शित करके डिस्क्रिमीनेटर को दुविधा की स्थिति में नहीं ला देता है।
    • डीपफेक बनाने के लिये स्रोत और लक्षित व्यक्ति के फोटो अथवा वीडियो के रूप में बड़ी मात्रा में डेटा की आवश्यकता होती है, जिसे अक्सर उस व्यक्ति की सहमति अथवा जानकारी के बिना इंटरनेट या सोशल मीडिया से एकत्र कर लिया जाता है।
  • डीपफेक डीप सिंथेसिस प्रौद्योगिकी का एक हिस्सा है, जो आभासी दृश्य बनाने के लिये टेक्स्ट, चित्र, ऑडियो तथा वीडियो बनाने के लिये डीप लर्निंग और संवर्द्धित वास्तविकता (Augmented Reality) सहित अन्य प्रौद्योगिकियों का उपयोग करता है।
• डीप लर्निंग के सकारात्मक अनुप्रयोग:
  • डीप लर्निंग तकनीक के कई सकारात्मक अनुप्रयोग हैं, इसका उपयोग ऑडियो कंटेंट को रिस्टोर करने और ऐतिहासिक कृतियों का पुनर्निर्माण करने आदि के लिये किया जा सकता है।
  • कलात्मक अभिव्यक्ति को बेहतर बनाने के लिये इसका उपयोग कॉमेडी, सिनेमा, संगीत और गेमिंग में भी किया जा रहा है।
  • शारीरिक अथवा मानसिक रूप से अक्षम लोग अपने ऑनलाइन आवश्यकताओं के लिये सिंथेटिक/कृत्रिम अवतारों का उपयोग कर सकते हैं।
  • यह चिकित्सा प्रशिक्षण और सिमुलेशन को बेहतर बनाता है। यह आभासी रोगियों और परिदृश्यों का निर्माण कर चिकित्सीय स्थितियों एवं प्रक्रियाओं तथा प्रशिक्षण दक्षता में सुधार करने में मदद करता करता है।
  • इसका उपयोग संवर्द्धित वास्तविकता (Augmented Reality) और गेमिंग अनुप्रयोगों को बेहतर बनाने के लिये भी किया जा सकता है।
• डीपफेक से संबंधित चिंताएँ:
  • डीपफेक का उपयोग विभिन्न दुर्भावनापूर्ण उद्देश्यों के लिये किया जा सकता है, जैसे-
    • फर्जी खबरों का प्रचार-प्रसार;
    • चुनावों और जनमत को प्रभावित करना;
    • व्यक्तियों अथवा संगठनों को ब्लैकमेल करना और जबरन वसूली करना;
    • मशहूर हस्तियों, राजनेताओं, कार्यकर्त्ताओं एवं पत्रकारों के मान-सम्मान तथा विश्वसनीयता को हानि पहुँचाना; और
    • अश्लील कंटेंट तैयार करना।
  • डीपफेक के विभिन्न नकारात्मक अनुप्रयोग हो सकते हैं, जैसे संस्थानों, मीडिया और लोकतंत्र में जनता के विश्वास कम करना तथा शासन व्यवस्था व मानवाधिकारों को क्षीण करना।
  • डीपफेक तकनीक व्यक्तियों की गोपनीयता, गरिमा व प्रतिष्ठा को नुकसान पहुँचा सकती है, और विशेषकर महिलाओं के मानसिक स्वास्थ्य तथा कल्याण पर प्रतिकूल प्रभाव डाल सकती है, क्योंकि वे इस प्रकार के दुर्भावनापूर्ण अनुप्रयोगों में सर्वाधिक लक्षित की जाती हैं।
• पता लगाने की प्रक्रिया:
  • ऑडियो और वीडियो कंटेंट में किसी प्रकार की विसंगतियों की जाँच करना।
  • मूल स्रोत अथवा समान छवियों को खोजने के लिये रिवर्स इमेज सर्च तकनीक का उपयोग करना।
  • छवियों अथवा वीडियो की गुणवत्ता, स्थिरता और प्रामाणिकता का विश्लेषण करने के लिये AI-आधारित टूल्स का उपयोग करना।
  • मीडिया के स्रोत और इसकी प्रमाणिकता के लिये डिजिटल वॉटरमार्किंग या ब्लॉकचेन का उपयोग करना।
  • डीपफेक तकनीक तथा इसके निहितार्थों के बारे में स्वयं और दूसरों को शिक्षित करना।

डीपफेक विनियमन से संबंधित वैश्विक दृष्टिकोण:

• भारत:
  • भारत में ऐसे विशिष्ट कानून या नियम नहीं हैं जो डीपफेक तकनीक के उपयोग पर प्रतिबंध या विनियमन निर्धारित करते हों।
  • भारत ने "एथिकल" AI उपकरणों के विस्तार पर एक वैश्विक ढाँचे का आह्वान किया है।
  • सूचना प्रौद्योगिकी अधिनियम (2000) की धारा 67 और 67A जैसे मौजूदा कानूनों में ऐसे प्रावधान हैं जो डीप फेक के कुछ पहलुओं पर लागू किये जा सकते हैं, जैसे मानहानि तथा स्पष्ट सामग्री प्रकाशित करना।
  • भारतीय दंड संहिता (1860) की धारा 500 मानहानि के लिये सज़ा का प्रावधान करती है।
  • डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, व्यक्तिगत डेटा के दुरुपयोग के खिलाफ सुरक्षा प्रदान करता है।
  • सूचना प्रौद्योगिकी नियम, 2021, दूसरों का प्रतिरूपण करने वाली सामग्री और कृत्रिम रूप से रूपांतरित छवियों को 36 घंटों के भीतर हटाने का आदेश देता है।
  • गोपनीयता, सामाजिक स्थिरता, राष्ट्रीय सुरक्षा और लोकतंत्र पर संभावित प्रभाव को देखते हुए भारत को विशेष रूप से डीपफेक को लक्षित करने के लिये एक व्यापक कानूनी ढाँचा विकसित करने की आवश्यकता है।
• वैश्विक:
  • हाल ही में विश्व के प्रथम AI सुरक्षा शिखर सम्मेलन- 2023 में अमेरिका, चीन और भारत सहित 28 प्रमुख देशों ने AI के संभावित जोखिमों को दूर करने के लिये वैश्विक कार्रवाई की आवश्यकता पर सहमति व्यक्त की।
    • बैलेचली पार्क में हुए पहले एआई शिखर सम्मेलन के घोषणापत्र में जानबूझकर किये गए
    • दुरुपयोग और AI प्रौद्योगिकियों पर नियंत्रण खोने के जोखिमों को स्वीकार किया गया।
  • यूरोपीय संघ:
    • दुष्प्रचार पर यूरोपीय संघ की आचार संहिता के तहत तकनीकी कंपनियों को संहिता पर हस्ताक्षर करने के छह माह के भीतर डीप फेक और नकली खातों का मुकाबला करने की आवश्यकता होती है।
      • गैर-अनुपालन में लिप्त पाए जाने पर, तकनीकी कंपनियों को अपने वार्षिक वैश्विक कारोबार का 6% तक जुर्माना भरना पड़ सकता है।
  • संयुक्त राज्य अमेरिका:
    • अमेरिका ने डीपफेक तकनीक का मुकाबला करने में होमलैंड सिक्योरिटी विभाग की सहायता के लिये द्विदलीय डीपफेक टास्क फोर्स अधिनियम पेश किया।
  • चीन:
    • चीन ने डीप सिंथेसिस पर व्यापक विनियमन पेश किया, जो जनवरी 2023 से प्रभावी है।
      • दुष्प्रचार पर अंकुश लगाने के उद्देश्य से विनियमन के लिये स्पष्ट लेबलिंग और गहन संश्लेषण सामग्री की ट्रेसबिलिटी की आवश्यकता होती है।
      • विनियम तथाकथित "डीप सिंथेसिस टेक्नोलॉजी" के प्रदाताओं और उपयोगकर्त्ताओं पर दायित्व थोपते हैं।
• तकनीकी क्षेत्र की बड़ी कंपनियों का लचीला सिस्टम:
  • मेटा तथा गूगल जैसी बड़ी तकनीकी कंपनियों ने डीप फेक कंटेंट की समस्या से निपटने के लिये उपायों की घोषणा की है।
    • हालाँकि उनके सिस्टम में अभी भी कमियाँ हैं जो इस प्रकार की सामग्री के प्रसार की अनुमति देती हैं।
  • गूगल ने वॉटरमार्किंग तथा मेटाडेटा (डेटा के एक या अधिक पहलुओं के बारे में जानकारी प्रदान करने वाला डेटा ) सहित सिंथेटिक सामग्री की पहचान करने के लिये उपकरण पेश किये हैं।
    • वॉटरमार्किंग जानकारी को सीधे सामग्री में एम्बेड करता है, ताकि इसे बदलने से रोका जा सके, जबकि मेटाडेटा मूल फाइलों को अतिरिक्त संदर्भ प्रदान करता है।

आगे की राह 

• व्यापक कानूनों तथा विनियमों को विकसित करना एवं उन्हें लागू करना जो विशेष रूप से भाषण व अभिव्यक्ति की स्वतंत्रता को संतुलित करते हुए डीपफेक के निर्माण और प्रसार का समाधान करते हैं।
• डीपफेक के संभावित जोखिमों तथा प्रभावों के बारे में सार्वजनिक जागरूकता के साथ-साथ मीडिया साक्षरता को बढ़ावा देना और मीडिया के विभिन्न स्रोतों एवं सामग्री की आलोचनात्मक सोच व सत्यापन को प्रोत्साहित करना।
• ऐसे तकनीकी समाधान व मानक स्थापित करना एवं अपनाना जो डिजिटल वॉटरमार्क और ब्लॉकचेन जैसे डीपफेक का पता लगा कर उनके प्रसार को रोक सकें तथा उससे प्रभावित सामग्री को हटा सकें।
• डीप लर्निंग टेक्नोलॉजी तथा सिंथेटिक मीडिया के नैतिक एवं ज़िम्मेदार उपयोग को बढ़ावा देना साथ ही डीपफेक के रचनाकारों व उपयोगकर्ताओं के लिये आचार संहिता और उपयुक्त प्रथाओं की स्थापना करना।
• डीपफेक द्वारा उत्पन्न चुनौतियों व अवसरों का समाधान करने के लिये सरकारों, मीडिया, नागरिक समाज, शिक्षा एवं उद्योग जैसे विभिन्न हितधारकों के बीच सहयोग तथा समन्वय को बढ़ावा देने की आवश्यकता है।

  UPSC सिविल सेवा परीक्षा, विगत वर्ष के प्रश्न  

मेन्स:

प्रश्न. भारत के प्रमुख शहरों में आईटी उद्योगों के विकास से उत्पन्न होने वाले मुख्य सामाजिक-आर्थिक प्रभाव क्या हैं? (2022)