हाल के महीनों में, “Deepfake ” तकनीक आम जनता के लिए एक महत्वपूर्ण चिंता बन गई है, खासकर उन लोगों के लिए जो स्मार्टफोन और इंटरनेट पर निर्भर हैं। Deepfake हेरफेर से जुड़े खतरों के बारे में बार-बार चेतावनियां दी गई हैं। दुर्भाग्य से, लोकप्रिय अभिनेत्री रश्मिका मंदाना, जिन्हें कभी भारत की “नेशनल क्रश” कहा जाता था, Deepfake तकनीक का शिकार हो गई हैं। रश्मिका दक्षिण भारतीय फिल्म उद्योग और बॉलीवुड में एक जानी-मानी हस्ती हैं, उनकी नई फिल्म “एनिमल” 1 दिसंबर को रिलीज होने वाली है। हालाँकि, फिल्म की रिलीज़ से ठीक पहले, एक दुर्भाग्यपूर्ण घटना घटी जब एक Deepfake वीडियो, विशेष रूप से अभिनेत्री का एक नकली स्पष्ट वीडियो, इंटरनेट पर प्रसारित किया गया।
इस घटना ने बॉलीवुड और उसके बाहर भी काफी ध्यान और चिंता पैदा की है। यहां तक कि बॉलीवुड सुपरस्टार अमिताभ बच्चन ने भी माइक्रोब्लॉगिंग प्लेटफॉर्म एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) पर अभिनेत्री रश्मिका मंदाना का एक Deepfake वीडियो साझा करके इस मामले पर निराशा व्यक्त की। इस मुद्दे ने फिल्म उद्योग में हलचल मचा दी है, कई सोशल मीडिया उपयोगकर्ताओं और साथी फिल्म सितारों ने अपनी चिंता व्यक्त की है। इस परेशान करने वाली घटना को लेकर खुद रश्मिका ने अपना डर और आशंका जाहिर की है।
कैसे वायरल हुआ रश्मिका का Deepfake वीडियो?
एक्स प्लेटफॉर्म पर अभिषेक नाम के यूजर ने रश्मिका मंदाना का Deepfake वीडियो शेयर किया है। हालाँकि, बाद में यह पुष्टि की गई कि मूल वीडियो में ब्रिटिश-भारतीय लड़की ज़ारा पटेल थी, जिसने 9 अक्टूबर को अपने इंस्टाग्राम अकाउंट पर वीडियो साझा किया था। इस स्थिति में, संपादन के माध्यम से ज़ारा के चेहरे पर रश्मिका का चेहरा लगाने के लिए Deepfake तकनीक का इस्तेमाल किया गया था। ज़ारा के चेहरे की जगह रश्मिका का चेहरा लगा दिया। दिग्गज अभिनेता अमिताभ बच्चन ने भी Deepfake घटना के जवाब में मूल वीडियो को फिर से साझा किया।
इस घटना ने देश में Deepfake तकनीक के खिलाफ कानूनी ढांचे की अनुपस्थिति और इस मुद्दे के समाधान के लिए सरकार वर्तमान में क्या कदम उठा रही है या क्या कदम उठाने की योजना बना रही है, इस बारे में चिंताएं बढ़ा दी हैं। जवाब में, रश्मिका ने प्रौद्योगिकी के दुरुपयोग पर आश्चर्य और डर व्यक्त करते हुए एक लंबा सोशल मीडिया पोस्ट साझा किया। केंद्रीय मंत्री राजीव चंद्रशेखर ने रश्मिका के वीडियो को रीशेयर करते हुए आश्वासन दिया कि सरकार अपने नागरिकों की सुरक्षा के लिए प्रतिबद्ध है।
उन्होंने इस बात पर जोर दिया कि फर्जी सूचना या वीडियो बनाने या फैलाने वालों के खिलाफ सख्त कार्रवाई की जाएगी। उन्होंने यह भी स्पष्ट किया कि, आईटी नियम, 2023 के अनुसार, सोशल मीडिया प्लेटफॉर्म को 36 घंटे के भीतर ऐसी फर्जी जानकारी को हटाना आवश्यक है। ऐसा करने में विफलता के परिणामस्वरूप प्लेटफ़ॉर्म के लिए कानूनी दायित्व होगा।
Deepfake वीडियो टेक्नोलॉजी क्या है?
Deepfake तकनीक एक प्रकार की कृत्रिम बुद्धिमत्ता (AI) और मशीन लर्निंग तकनीक है जिसका उपयोग अत्यधिक यथार्थवादी नकली वीडियो, चित्र या ऑडियो रिकॉर्डिंग बनाने के लिए किया जाता है। “डीपफेक” शब्द “डीप लर्निंग” और “फेक” का संयोजन है। डीप लर्निंग मशीन लर्निंग का एक सबसेट है जिसमें छवि और भाषण पहचान जैसे कार्यों को करने के लिए बड़ी मात्रा में डेटा के साथ तंत्रिका नेटवर्क को प्रशिक्षित करना शामिल है।
Deepfake तकनीक आम तौर पर एक प्रकार के तंत्रिका नेटवर्क का उपयोग करती है जिसे जेनरेटिव एडवरसैरियल नेटवर्क (GAN) के रूप में जाना जाता है। GAN में दो भाग होते हैं: एक जनरेटर और एक विवेचक। जनरेटर नकली सामग्री बनाता है, जबकि विवेचक सामग्री की प्रामाणिकता का मूल्यांकन करता है। ये दो घटक विरोध में काम करते हैं, जनरेटर लगातार ऐसी सामग्री बनाने की कोशिश करता है जो विवेचक को यह विश्वास दिला सके कि यह वास्तविक है।
Deepfake तकनीक का उपयोग वीडियो में एक व्यक्ति के चेहरे को दूसरे व्यक्ति के शरीर पर हेरफेर करने और आरोपित करने के लिए किया जा सकता है, जिससे ऐसा प्रतीत होता है जैसे वह व्यक्ति कुछ ऐसा कह रहा है या कर रहा है जो उन्होंने कभी नहीं किया। इसका उपयोग आवाज़ों को बदलने और सिंथेटिक ऑडियो रिकॉर्डिंग बनाने के लिए भी किया जा सकता है जो किसी के भाषण पैटर्न की नकल करती है।
हालाँकि Deepfake तकनीक के विभिन्न क्षेत्रों में संभावित अनुप्रयोग हैं, लेकिन इसके दुरुपयोग की संभावना के कारण इसने महत्वपूर्ण चिंताएँ पैदा कर दी हैं। Deepfake का उपयोग पहचान की चोरी, दुष्प्रचार फैलाने और दुर्भावनापूर्ण उद्देश्यों के लिए विश्वसनीय नकली सामग्री बनाने के लिए किया जा सकता है। परिणामस्वरूप, डीपफेक तकनीक के नैतिक और कानूनी निहितार्थों के साथ-साथ इसके हानिकारक प्रभावों का पता लगाने और उन्हें कम करने के लिए उपकरण विकसित करने के प्रयासों के बारे में चर्चा चल रही है।
