न्यूज़मीटर ने पाया कि दावा ग़लत है। नकली एआई-लिंक्ड पैसा बनाने वाले घोटालों को बढ़ावा देने के लिए शाहरुख खान का एक डीपफेक वीडियो प्रसारित किया गया था।
वीडियो के विश्लेषण से हमें क्या मिला?
पहली नज़र में हमने तय कर लिया कि वीडियो प्रामाणिक नहीं है।
पैसे कमाने के घोटालों को बढ़ावा देने के लिए उपयोग किए जाने वाले कई अन्य डीपफेक वीडियो की तरह, यह उसी परिचित स्क्रिप्ट का अनुसरण करता है। वीडियो यह दावा करके तात्कालिकता की भावना पैदा करता है कि केवल सीमित संख्या में स्पॉट उपलब्ध हैं, यह गलत तरीके से सरकारी समर्थन का सुझाव देता है और वादा करता है कि उपयोगकर्ता केवल कुछ हजार रुपये का निवेश करके कुछ दिनों या हफ्तों के भीतर लाखों रुपये कमा सकते हैं।
संबंधित कीवर्ड के साथ एक ऑनलाइन खोज से एसआरके द्वारा किसी एआई-आधारित पैसा बनाने वाले प्लेटफॉर्म को बढ़ावा देने की कोई विश्वसनीय रिपोर्ट नहीं मिली।
एआई-जनित सामग्री की विसंगतियाँ
जब हमने वीडियो की बारीकी से जांच की, तो हमें कई विसंगतियां मिलीं जो दर्शाती हैं कि एआई का उपयोग करके शाहरुख के बयानों में हेरफेर किया गया था।
यद्यपि क्लोन की गई आवाज अभिनेता की आवाज से मिलती-जुलती है, लेकिन इसमें वास्तविक भाषण की प्राकृतिक ताल, भावनात्मक उतार-चढ़ाव और सांस लेने के पैटर्न का अभाव है। सूक्ष्म रुकावटों, स्वर में बदलाव और गति में बदलाव के बिना, जो प्राकृतिक मानव वार्तालाप की विशेषता है, ऑडियो पूरे समय असामान्य रूप से सुसंगत रहता है।
हमने यह भी देखा कि होठों की हरकत बोले जाने वाले शब्दों की ध्वन्यात्मक ध्वनियों के साथ पूरी तरह से मेल नहीं खाती है। मुंह की हरकतें कभी-कभी थोड़ी धुंधली और रोबोटिक दिखाई देती हैं, जिससे पता चलता है कि मौजूदा साक्षात्कार फुटेज को नए उत्पन्न ऑडियो से मिलान करने के लिए हेरफेर किया गया था। ये विसंगतियां एआई-जनित या डीपफेक सामग्री के सामान्य संकेतक हैं।
मूल वीडियो 2017 का शाहरुख का इंटरव्यू है
वायरल डीपफेक का मूल स्रोत 20 जनवरी, 2017 को फिल्म कंपेनियन यूट्यूब चैनल पर प्रकाशित एक साक्षात्कार है।
यह इंटरव्यू फिल्म समीक्षक अनुपमा चोपड़ा ने लिया था। मूल वीडियो 27 मिनट लंबा है और हमने पूरी बातचीत देखी। इंटरव्यू में हम शाहरुख को एक जैसे कपड़े पहने और एक जैसी पृष्ठभूमि में बोलते हुए देख सकते हैं।
साक्षात्कार के दौरान, खान ने कई विषयों पर चर्चा की, जिसमें उनकी फिल्म रईस, साथी मशहूर हस्तियों के साथ उनके रिश्ते, सिनेमा का प्रभाव और उनके निजी जीवन के पहलू शामिल थे। उन्होंने इन विषयों पर खुलकर और विस्तार से बात की।
साक्षात्कार में किसी भी समय उन्होंने पैसा बनाने की किसी योजना, निवेश के अवसर या सरकार समर्थित वित्तीय परियोजना का उल्लेख नहीं किया।
ऐसा प्रतीत होता है कि मूल साक्षात्कार से एक छोटा सा खंड आर्टिफिशियल इंटेलिजेंस का उपयोग करके निकाला गया और हेरफेर किया गया ताकि यह गलत धारणा बनाई जा सके कि वह पैसा बनाने की योजना का समर्थन कर रहे थे।
गूगल जेमिनी ने इसे फर्जी बताया
हमने वीडियो को कई एआई-कंटेंट डिटेक्शन टूल के माध्यम से चलाया, लेकिन उनमें से अधिकांश को आत्मविश्वास से यह निर्धारित करने में संघर्ष करना पड़ा कि क्लिप प्रामाणिक थी या हेरफेर की गई थी।
Google के SynthID डिटेक्टर ने संकेत दिया कि वीडियो Google के AI-जनरेशन टूल का उपयोग करके नहीं बनाया गया था। हालाँकि, इसके विश्लेषण ने आमतौर पर एआई-जनरेटेड या हेरफेर की गई सामग्री से जुड़ी कई विसंगतियों को चिह्नित किया, जिससे पता चलता है कि क्लिप संभवतः एक डीपफेक है।
मूल्यांकन में यह भी कहा गया है कि वीडियो में कई क्लासिक घोटाले की रणनीति का इस्तेमाल किया गया है, जिसमें यह दावा करके तात्कालिकता की झूठी भावना पैदा करना भी शामिल है कि आवश्यक निवेश अगले दिन 22,000 रुपये से बढ़कर 1 लाख रुपये हो जाएगा। इस तरह की दबाव युक्तियों का उपयोग अक्सर दर्शकों को निवेश से पहले दावों को सत्यापित करने या स्वतंत्र शोध करने के लिए समय निकालने से हतोत्साहित करने के लिए किया जाता है।
वीडियो एक फर्जी वेबसाइट की ओर ले जाता है
इसी तरह के डीपफेक जिन्हें हमने अतीत में सत्यापित किया है, ने ‘क्वांटम एआई’ नामक एक प्लेटफॉर्म को बढ़ावा दिया है।
इस मामले में, वीडियो से जुड़ा लिंक उपयोगकर्ताओं को ‘नेक्सस.एआई’ नामक वेबसाइट पर रीडायरेक्ट करता है। पेज पर सुधा मूर्ति का 10 मिनट लंबा डीपफेक वीडियो है, जिसमें वह दावा करती नजर आती हैं कि मंच ने उन्हें पैसे कमाने में मदद की।
वीडियो के नीचे, पृष्ठ में एक फॉर्म है जिसमें उपयोगकर्ताओं से अपने व्यक्तिगत विवरण जमा करने के लिए कहा गया है, इस वादे के साथ कि प्लेटफ़ॉर्म की टीम का एक सदस्य उनसे संपर्क करेगा। वेबसाइट यूजर्स को 24,000 रुपये तैयार रखने का भी निर्देश देती है। प्रारंभिक भुगतान या निवेश करने के लिए धन की आवश्यकता होगी।
