डॉ। जोएल बर्वेल, एक चिकित्सक, जो सोशल मीडिया पर अपने सैकड़ों हजारों अनुयायियों को “मेडिकल मिथबस्टर” के रूप में जाना जाता है, ने झूठे स्वास्थ्य दावों को ऑनलाइन बहस करने के लिए एक प्रतिष्ठा बनाई है।
इस साल की शुरुआत में, उन अनुयायियों में से कुछ ने उन्हें एक अन्य खाते में एक वीडियो के लिए सचेत किया, जिसमें एक आदमी था जो बिल्कुल उसके जैसा दिखता था। चेहरा उसका था। आवाज नहीं थी।
“मैं सिर्फ ज्यादातर डरा हुआ महसूस करता था,” बर्वेल ने सीबीएस न्यूज को बताया। “यह मेरी तरह लग रहा था। यह मेरे जैसा नहीं था … लेकिन यह एक ऐसे उत्पाद को बढ़ावा दे रहा था जिसे मैंने अतीत में कभी भी प्रचारित नहीं किया था, एक आवाज में जो मेरी नहीं थी।”
यह एक दीपफेक था – ऐसी सामग्री का एक उदाहरण जिसमें गढ़े गए चिकित्सा पेशेवरों को शामिल किया गया है और साइबर सुरक्षा विशेषज्ञों के अनुसार, बढ़ते दर्शकों तक पहुंच रहा है। उन्होंने कहा कि बर्वेल की समानता के साथ वीडियो कई प्लेटफार्मों – टिकटोक, इंस्टाग्राम, फेसबुक और यूट्यूब पर दिखाई दिया।
पिछले एक महीने में एक सीबीएस समाचार जांच में दर्जनों खाते और सोशल मीडिया साइटों पर 100 से अधिक वीडियो मिले, जिसमें काल्पनिक डॉक्टर, कुछ वास्तविक चिकित्सकों की पहचान का उपयोग करते हुए, सलाह दी या उत्पादों को बेचने की कोशिश की, मुख्य रूप से सौंदर्य, कल्याण और वजन घटाने से संबंधित। उनमें से अधिकांश टिकटोक और इंस्टाग्राम पर पाए गए थे, और उनमें से कुछ को लाखों बार देखा गया था।
सीबीएस न्यूज द्वारा समीक्षा किए गए अधिकांश वीडियो उत्पादों को बेचने की कोशिश कर रहे थे, या तो स्वतंत्र वेबसाइटों या प्रसिद्ध ऑनलाइन मार्केटप्लेस के माध्यम से। उन्होंने अक्सर बोल्ड दावे किए। एक वीडियो ने एक उत्पाद को “ओजेम्पिक की तुलना में 96% अधिक प्रभावी” किया।
साइबर सुरक्षा कंपनी ईएसईटी ने भी हाल ही में इस तरह की सामग्री की जांच की। ईएसईटी में एक सुरक्षा शोधकर्ता मार्टिना लोपेज़ के अनुसार, एआई-जनित डॉक्टरों का उपयोग करके टिकटोक और इंस्टाग्राम पर 20 से अधिक खातों को देखा गया।
“चाहे वह कुछ वीडियो वायरल होने या अधिक अनुयायियों को प्राप्त करने वाले खातों के कारण हो, इस प्रकार की सामग्री तेजी से व्यापक दर्शकों तक पहुंच रही है,” उसने कहा।
सीबीएस न्यूज ने अपनी नीतियों पर स्पष्टता प्राप्त करने के लिए इंस्टाग्राम की मूल कंपनी टिकटोक और मेटा से संपर्क किया। दोनों कंपनियों ने सीबीएस न्यूज द्वारा ध्वजांकित वीडियो को हटा दिया, यह कहते हुए कि उन्होंने प्लेटफ़ॉर्म नीतियों का उल्लंघन किया। सीबीएस न्यूज भी YouTube पर पहुंच गया, जिसमें कहा गया कि इसकी गोपनीयता अनुरोध प्रक्रिया “उपयोगकर्ताओं को एआई-जनित सामग्री को हटाने का अनुरोध करने की अनुमति देती है जो वास्तविक रूप से उनकी अनुमति के बिना उन्हें अनुकरण करती है।”
YouTube ने कहा कि CBS News द्वारा प्रदान किए गए वीडियो ने अपने सामुदायिक दिशानिर्देशों का उल्लंघन नहीं किया और मंच पर बने रहेंगे। YouTube ने कहा, “हमारी नीतियां ऐसी सामग्री पर रोक लगाती हैं, जो विशिष्ट स्वास्थ्य प्राधिकरण (LHA) के मार्गदर्शन के विपरीत चिकित्सा गलत सूचना फैलाने से गंभीर नुकसान का एक गंभीर जोखिम पैदा करती है।”
टिकटोक का कहना है कि जनवरी और मार्च के बीच, इसने 94% से अधिक सामग्री को हटा दिया, जिसने एआई-जनित सामग्री पर अपनी नीतियों का उल्लंघन किया।
सीबीएस न्यूज ने मेटा से संपर्क करने के बाद, कंपनी ने कहा कि उसने ऐसे वीडियो को हटा दिया है, जिन्होंने इसके विज्ञापन मानकों का उल्लंघन किया और अन्य वीडियो को प्रतिबंधित कर दिया, जिन्होंने इसके स्वास्थ्य और कल्याण नीतियों का उल्लंघन किया, जिससे वे सिर्फ उन 18 और उससे अधिक उम्र के लिए सुलभ हो गए।
मेटा ने यह भी कहा कि बुरे अभिनेता लगातार प्रवर्तन से बचने के प्रयास के लिए अपनी रणनीति विकसित करते हैं।
स्कैमर्स आसानी से उपलब्ध एआई टूल का उपयोग कर रहे हैं ताकि उनकी सामग्री की गुणवत्ता में काफी सुधार हो सके, और छोटे उपकरणों पर वीडियो देखने से दृश्य विसंगतियों का पता लगाना कठिन हो जाता है, ईएसईटी के मुख्य सुरक्षा इंजीलवादी, टोनी अंसकोम्ब ने कहा।
ईसेट ने कहा कि कुछ लाल झंडे हैं जो किसी को एआई-जनित सामग्री का पता लगाने में मदद कर सकते हैं, जिसमें एक व्यक्ति के चेहरे के चारों ओर झिलमिलाहट, धुंधली किनारों या अजीब विकृतियों जैसे ग्लिट्स शामिल हैं। दृश्यों से परे, एक आवाज जो रोबोट या प्राकृतिक मानव भावना का अभाव करती है, वह एआई का एक संभावित संकेतक है।
अंत में, दर्शकों को स्वयं संदेश पर संदेह करना चाहिए और “चमत्कार इलाज” या “गारंटीकृत परिणाम” जैसे ओवरब्लाउन दावों पर सवाल उठाना चाहिए, जो डिजिटल घोटालों में सामान्य रणनीति हैं, एंसकोम्ब ने कहा।
“कुछ भी नहीं, सब कुछ सत्यापित करें,” Anscombe ने कहा। “तो यदि आप कुछ देखते हैं और यह दावा कर रहा है कि, आप जानते हैं, यह चमत्कार इलाज है और यह चमत्कार क्योर एक्स से आता है, जाएं और एक्स को बाहर की जाँच करें … और इसे स्वतंत्र रूप से करें। लिंक का पालन न करें। वास्तव में जाएं और इसके लिए ब्राउज़ करें, इसके लिए खोजें और अपने आप को सत्यापित करें।”
बर्वेल ने कहा कि उनकी समानता की विशेषता वाले डीपफेक वीडियो को नीचे ले जाया गया था, जब उन्होंने अपने अनुयायियों से उन्हें रिपोर्ट करने में मदद करने के लिए कहा।
सीबीएस न्यूज के माध्यम से डॉ। जोएल बर्वेल
उन्होंने यह भी कहा कि वह इस तरह के वीडियो हैं जैसे कि इस तरह की दवा में सार्वजनिक विश्वास को कम कर देगा।
“जब हमारे पास फिक्शन होता है, तो हमारे पास एक क्षेत्र में विशेषज्ञ होने के बारे में सोचा जाता है जो कुछ ऐसा कह रहा है जो सच नहीं हो सकता है,” उन्होंने कहा। “यह विकृत करता है कि तथ्य क्या है, और जनता के लिए यह मुश्किल है कि विज्ञान से बाहर आने वाली किसी भी चीज़ पर विश्वास करना, एक डॉक्टर से, स्वास्थ्य देखभाल प्रणाली से, समग्र रूप से।”
