लोकप्रिय प्रश्नमंजुषा कार्यक्रम कौन बनेगा करोडपतीच्या (KBC) स्पेशल एपिसोडमधून घेण्यात आलेला एक व्हिडिओ सोशल मीडियावर व्हायरल झाला आहे, ज्यात होस्ट अमिताभ बच्चन कॉमेडियन समय रैनासोबत दिसत आहेत.
हे काय दर्शवते?: व्हिडिओमध्ये रैना बच्चन यांना विचारतो की तो जोक करू शकतो का, ज्यावर बच्चन सहमती देतात.
रैना पुढे म्हणतो, "तुझ्यात आणि वर्तुळात काय साम्य आहे? तुमच्यापैकी कुणाकडेही रेखा नाही."
हिंदीतील एका रेखाची (ओळी) तुलना बॉलिवूडच्या ज्येष्ठ अभिनेत्री रेखा यांच्याशी करत हा विनोद दुहेरी वळणावर चालतो.
ही क्लिप शेअर करणार् या आणखी पोस्ट्सच्या संग्रहित आवृत्त्या येथे आणि येथे पाहू शकता.)
हे खरं आहे का?: नाही, आर्टिफिशियल इंटेलिजन्सचा (AI) वापर करून हा व्हिडिओ बदलण्यात आला आहे.
कौन बनेगा करोडपतीच्या एपिसोडमध्ये रैनाने हा विनोद केला नव्हता.
आम्हाला सत्य कसे कळले?: आम्ही सोनीलिव्हवर (Sony LIV) 'इन्फ्लुएंसर स्पेशल' म्हणून ओळखला जाणारा संपूर्ण एपिसोड पाहिला, जिथे केबीसी स्ट्रीमिंगसाठी उपलब्ध आहे.
कॉमेडियन आणि कंटेंट क्रिएटर तन्मय भटसोबत गेम खेळणाऱ्या रैनाने 31 जानेवारी 2025 रोजी प्रसारित झालेल्या एपिसोडमध्ये बच्चन यांचे चित्रपट, शो आणि स्वतःच्या बालपणाशी संबंधित अनेक जोक्स केले.
मात्र, संपूर्ण एपिसोडमध्ये अभिनेत्री रेखाचा उल्लेख आम्हाला आढळला नाही.
ही क्लिप स्वतंत्रपणे अपलोड करण्यात आली आहे की नाही हे पाहण्यासाठी आम्ही सोनी लिव्ह आणि सेट इंडियाच्या यूट्यूब चॅनेलवरही गेलो, परंतु कोणत्याही चॅनेलने व्हायरल क्लिप प्रसारित केली नाही.
काही दाव्यांवर 'ब्रेन.रॉट.इंडियन' वॉटरमार्क असल्याचे लक्षात येताच आम्ही सोशल मीडिया प्लॅटफॉर्मवर हे युजरनेम पाहिले.
या शोधामुळे आम्हाला याच नावाच्या एका इन्स्टाग्राम पेजवर नेण्यात आले, ज्याने 2 फेब्रुवारी रोजी ही क्लिप शेअर केली होती आणि ही बातमी लिहिण्यापर्यंत दोन कोटींहून अधिक व्ह्यूज मिळवले होते.
तो 'AI इन्फो' टॅगसह शेअर करण्यात आला होता, ज्यावर टॅप केल्यावर अकाऊंटने त्यांच्या पोस्टमध्ये एआय लेबल जोडले असल्याचे म्हटले होते.
आर्टिफिशल इंटेलिजन्सचा वापर करून व्हिडिओला बदल करण्यात आल्याचे यावरून दिसून येते.
या पोस्टच्या कॅप्शनमध्ये 'AI' हा हॅशटॅगही होता.
ही क्लिप अस्सल असल्याचा कोणताही पुरावा आम्हाला सापडला नसल्याने आम्ही ती हायव्ह मॉडरेशनच्या एआय डिटेक्शन टूलद्वारे चालवली, तसेच बेंगळुरूस्थित स्टार्टअप कॉन्ट्रेल्स डॉट एआयच्या टूलवर ही क्लिप सबमिट केली.
हायव्ह मॉडरेशनच्या विश्लेषणात व्हिडिओ एआय-जनरेट असण्यावर 99 टक्के आणि एआय वापरून तयार करण्यात येत असलेल्या ऑडिओबद्दल 94 टक्के विश्वास दिसून आला.
त्याचप्रमाणे, कॉन्ट्रेल्स डॉट एआयच्या अहवालात असेही नमूद केले आहे की ऑडिओ आणि व्हिडिओ दोन्ही "बनावट" आहेत.
"ऑडिओ आणि व्हिडिओ दोन्हीमध्ये एआय मॅनिपुलेशनची स्पष्ट चिन्हे आहेत," असे नमूद केले आहे, व्हॉइस क्लोनिंग किंवा रूपांतरण तंत्राचा वापर करून रैनाचा आवाज जुळवण्यात आला आहे.
व्हिडिओ घटकासाठी, अहवालात म्हटले आहे की त्यांच्या टूलने "स्पष्ट एआय मॅनिपुलेशन" ची भविष्यवाणी केली आहे आणि "फ्रेममधील ओठांवर क्लोन आवाज लादण्यासाठी लिपसिंक तंत्राचा वापर केला जातो."
निष्कर्ष: केबीसीमध्ये अमिताभ बच्चन यांच्यासमोर विनोद करतानाचा समय रैनाचा एक डीपफेक व्हिडिओ व्हायरल झाला आहे.
नोट- वरील तथ्य तपासणी अहवाल शक्ती कलेक्टिव्ह प्रोजेक्ट अंतर्गत पुनर्प्रकाशित करण्यात आला आहे. मुकनायक हा देखील शक्ती कलेक्टिव्हच्या तथ्य तपासणीचा एक भाग आहे. हा अहवाल मूळतः द क्विंट वेबसाइटने प्रकाशित केला होता.
All stories have been translated with the help of AI, and The Mooknayak Marathi is not responsible for any content errors.