बॉलीवुड अभिनेत्री रश्मिका मंदाना के स्विमसूट पहने हुए एक वायरल वीडियो ने सोशल मीडिया पर काफी हलचल मचा दी। हालाँकि, बाद में पता चला कि यह एक deepfake video था, जिसे कृत्रिम बुद्धिमत्ता तकनीक (AI) का उपयोग करके बनाया गया था।
रश्मिका मंदाना के फर्जी वीडियो के बाद, डीपफेक वीडियो से जुड़ी एक और घटना सामने आई है, इस बार इसमें “टाइगर 3” से अभिनेत्री कैटरीना कैफ का तौलिया लड़ाई वाला दृश्य दिखाया गया है। ये मनगढ़ंत छवियां और वीडियो समान तकनीकों का उपयोग करके बनाए गए हैं। केंद्रीय सूचना और प्रसारण मंत्रालय ऐसी घटनाओं की एक श्रृंखला से निपट रहा है, और मंत्री अश्विनी वैष्णव ने उल्लेख किया कि सोशल मीडिया प्लेटफार्मों को चेतावनी नोटिस भेजे गए हैं।
सरकार की ओर से जारी नोटिस में कहा गया है कि ऐसे सोशल मीडिया प्लेटफॉर्म जो बिना सत्यापन के ऐसे फर्जी वीडियो के प्रसार की अनुमति देते हैं, उन्हें 1 करोड़ रुपये तक का जुर्माना भरना पड़ सकता है। । ऐसे मामलों में, व्यक्तियों को 3 साल तक की जेल की सजा हो सकती है दोषी पाए जाने पर 1 लाख रुपये तक का जुर्माना भरना पड़ सकता है।
फेसबुक, इंस्टाग्राम और अन्य प्लेटफार्मों को 24 घंटे के भीतर किसी भी आपत्तिजनक वीडियो को तुरंत हटाने या सूचना प्रौद्योगिकी अधिनियम के तहत कानूनी कार्रवाई का सामना करने की चेतावनी मिली है। यह फैसला हाल ही में हुई एक घटना के जवाब में आया है.
इस घटना के बाद, लोकप्रिय अभिनेत्री रश्मिका मंदाना ने अपनी चिंता व्यक्त की, और इस बात पर प्रकाश डाला कि अगर ऐसी घटनाएं किसी सामान्य व्यक्ति के साथ होती हैं तो इसके संभावित परिणाम क्या होंगे। उनका बयान अनुचित सामग्री को संबोधित करने और उसके खिलाफ त्वरित कार्रवाई करने के महत्व को रेखांकित करता है।
इसके अतिरिक्त, अनुभवी अभिनेता अमिताभ बच्चन ने घटना के जवाब में कानूनी कार्रवाई का आह्वान किया है। ये प्रतिक्रियाएँ सोशल मीडिया प्लेटफ़ॉर्मों को अपने प्लेटफ़ॉर्म पर साझा की गई सामग्री की ज़िम्मेदारी लेने और अपने उपयोगकर्ताओं की सुरक्षा और भलाई सुनिश्चित करने की आवश्यकता को दर्शाती हैं।