तमिलनाडु के सीएम सी जोसेफ विजय के एआई डीपफेक वीडियो से लोगों को ठगने की कोशिश का मामला सामने आया है। तमिलनाडु पुलिस की सीबी-सीआईडी ने 1 सितंबर को मामला दर्ज कर जांच शुरू कर दी है। वीडियो में विजय जैसे दिखने वाला शख्स हिंदी में लोगों से बात करते हुए आर्थिक मदद के लिए एक वॉट्सएप नंबर पर संपर्क करने को कह रहा था। इस फर्जी वीडियो को फेसबुक समेत कई सोशल मीडिया प्लेटफॉर्म पर फैलाकर लोगों को ठगने की कोशिश की गई। जांच में कुछ फर्जी वीडियो और सोशल मीडिया अकाउंट्स के पाकिस्तान से संचालित होने की आशंका सामने आई है।
मीडिया रिपोर्ट के मुताबिक सीबी-सीआईडी की शुरुआती जांच में विजय के नाम पर आर्थिक मदद का दावा करने वाले कई एआई डीपफेक वीडियो मिले हैं। ये अलग-अलग सोशल मीडिया प्लेटफॉर्म पर शेयर किए जा रहे थे। जांच के लिए फेसबुक की पेरेंट कंपनी मेटा से संपर्क किया गया है। पुलिस ने फर्जी अकाउंट्स और वीडियो अपलोड से जुड़े लॉग की जानकारी मांगी है। जांच में यह पता लगाया जा रहा है कि वीडियो किसने बनाया, किसने अपलोड किया और इसे फैलाने के लिए किन अकाउंट्स और नंबरों का इस्तेमाल किया गया। पुलिस ने सोशल मीडिया प्लेटफॉर्म्स से इन वीडियो को हटाने और उनका प्रसार रोकने को कहा है। साइबर टीम आरोपियों की पहचान में जुटी है।
तमिलनाडु पुलिस ने अपील की है कि ऐसे वीडियो में दिए फोन नंबरों पर संपर्क न करें और न ही बताए गए व्हाटसएप ग्रुप में जुड़ें। पुलिस ने साफ किया कि सीएम विजय की आर्थिक मदद का दावा करने वाले ये वीडियो फर्जी एआई डीपफेक हैं। लोगों से इन्हें नजरअंदाज करने और परिवार-रिश्तेदारों को भी सावधान करने की अपील की है। बता दें आज के डिजिटल दौर में एआई की मदद से असली फोटो, ऑडियो और वीडियो में बदलाव कर नकली कंटेंट बनाया जा सकता है। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान करना मुश्किल होता है। आसान शब्दों में, डीपफेक मॉर्फ वीडियो का एडवांस रूप है।
कई सेलिब्रिटीज एआई-डीपफेक का शिकार हो चुके जिसमें अभिनेत्री रश्मिका मंदाना का चेहरा लगाकर फर्जी वीडियो बनाया गया, दिल्ली पुलिस ने एफआईआर दर्ज कर 2024 में आरोपी को गिरफ्तार किया था। दूसरी महिला के वीडियो पर एआई से आलिया भट्ट का चेहरा लगाया गया, वीडियो वायरल होने के बाद विवाद हुआ। वहीं एआई से काजोल का चेहरा लगाकर आपत्तिजनक वीडियो बनाया गया, मामले ने डीपफेक के गलत इस्तेमाल पर चिंता बढ़ाई।
‘टाइगर 3’ की तस्वीर को एआई/डिजिटल एडिटिंग से आपत्तिजनक बनाया गया, सोशल मीडिया पर विवाद हुआ। चुनाव के दौरान एआई वीडियो में आमिर खान की फर्जी राजनीतिक अपील दिखाई गई; शिकायत के बाद मुंबई पुलिस ने एफआईआर दर्ज की। सचिन तेंदुलकर को एआई वीडियो में फर्जी गेमिंग ऐप का प्रचार करते दिखाया गया, शिकायत के बाद मुंबई साइबर पुलिस ने एफआईआर की गई। अनिल कपूर एआई के जरिए नाम, तस्वीर और आवाज के इस्तेमाल के खिलाफ दिल्ली हाईकोर्ट पहुंचे। कोर्ट ने अनधिकृत इस्तेमाल पर रोक लगाई।
