डीपफेक स्कैमर्स फेसबुक पर शीर्ष समाचार एंकरों को निशाना बनाते हैं

हजारों लोगों द्वारा देखे गए एक फेसबुक वीडियो में, सीएनएन के वुल्फ ब्लिट्ज़र मधुमेह की दवा बेचते हुए दिखाई देते हैं। दूसरे में, “सीबीएस मॉर्निंग्स” के मेजबान गेल किंग वजन घटाने वाले उत्पादों का समर्थन करते नजर आते हैं।

लेकिन इन क्लिपों के साथ छेड़छाड़ की गई है – यह डीपफेक की श्रृंखला में नवीनतम है जो नकली विज्ञापनों में विश्वसनीय समाचार हस्तियों की छवियों को हाईजैक करता है, जिससे समाचार मीडिया में विश्वास कम होता है।

हाल के महीनों में इसी तरह के सोशल मीडिया पोस्ट ने फॉक्स न्यूज व्यक्तित्व जेसी वॉटर्स, सीबीसी होस्ट इयान हनोमानसिंग और बीबीसी स्टार मैथ्यू अमरोलीवाला और सैली बंडॉक को निशाना बनाया है।

कुछ मामलों में, पत्रकारों ने पीछे धकेलने के लिए अपने स्वयं के खातों का उपयोग किया है।

“मैंने इस उत्पाद के बारे में कभी नहीं सुना है या इसका उपयोग नहीं किया है! कृपया इन AI वीडियो से मूर्ख न बनें, ”किंग ने अक्टूबर में इंस्टाग्राम पर कहा था।

कथित तौर पर कैनबिस उत्पादों को बढ़ावा देने वाली अपनी क्लिप देखने के बाद, सीएनएन मेडिकल संवाददाता संजय गुप्ता ने भी एक चेतावनी पोस्ट की: “इन घोटालों का मुझसे कोई लेना-देना नहीं है… मेरी प्राथमिक चिंता आपके स्वास्थ्य के लिए है, और मुझे चिंता है कि यदि आप इन्हें लेते हैं तो आपको नुकसान हो सकता है।” उत्पाद।”

हेरफेर किए गए वीडियो अप्रमाणित उपचारों से लेकर निवेश योजनाओं तक सब कुछ धकेलते हैं – कई “गारंटी आय” या प्रतिष्ठित शेयरों तक पहुंच का वादा करते हैं। कुछ लोग टेस्ला और स्पेसएक्स के संस्थापक अरबपति एलोन मस्क के परिवर्तित फुटेज का भी उपयोग करते हैं।

कुछ में निवेश योजनाओं, अस्वीकृत उत्पादों या असंबद्ध ई-कॉमर्स वेबसाइटों के लिंक शामिल हैं जो कई दिनों के बाद गायब हो जाते हैं।

फेसबुक और इंस्टाग्राम की मूल कंपनी मेटा ने पैरोडी और व्यंग्य को कुछ अपवादों के साथ, 2020 की शुरुआत से डीपफेक पर प्रतिबंध लगा दिया है। अन्य प्लेटफार्मों की भी समान नीतियां हैं।

लेकिन ऐसे क्लिप – जिनमें से कई की एएफपी ने तथ्य-जांच की है – अभी भी ऑनलाइन फैल रहे हैं।

आवाज क्लोनिंग

“मैंने इस प्रकार के वीडियो में वृद्धि देखी है जहां किसी व्यक्ति की आवाज़ को उनकी आवाज़ के दो मिनट से भी कम समय में क्लोन किया जाता है, और फिर उनके किसी अन्य वीडियो को संशोधित किया जाता है ताकि मुंह नए ऑडियो के अनुरूप हो,” हनी फ़रीद डिजिटल फोरेंसिक में विशेषज्ञता रखने वाले कैलिफ़ोर्निया-बर्कले विश्वविद्यालय के एक प्रोफेसर ने पहले एएफपी को बताया था।

कुछ डीपफेक को उनकी खराब गुणवत्ता के कारण पहचानना आसान होता है। हालाँकि, विशेषज्ञों ने चेतावनी दी है कि तकनीक में सुधार हो रहा है – और टीवी हस्तियाँ आसान लक्ष्य हैं क्योंकि एआई कार्यक्रमों को प्रशिक्षित करने के लिए पर्याप्त फुटेज उपलब्ध है।

मिसिसिपी विश्वविद्यालय में पत्रकारिता के डीन एंड्रिया हिकर्सन के अनुसार, यह प्रवृत्ति चिंताजनक है क्योंकि “लोग अपने मित्र की तरह न्यूज़कास्टर पर भरोसा करने लगे हैं।”

“यह वास्तव में खतरनाक है क्योंकि लोग इस तरह से गलत सूचना और दुष्प्रचार की उम्मीद नहीं कर रहे हैं,” उसने कहा। “यह एक पारंपरिक समाचार आउटलेट जैसा दिखता है।”

‘विश्वास का संकट’

संघीय व्यापार आयोग के अनुसार, एआई-हेरफेर की गई सामग्री विशेष रूप से निवेश धोखाधड़ी का एक बढ़ता हिस्सा बन गई है, जिससे 2022 में अमेरिकियों को लगभग 3.8 बिलियन डॉलर का नुकसान हुआ।

ऐसी योजनाओं ने कथित तौर पर कनाडा, ऑस्ट्रेलिया और अन्य देशों में पीड़ितों को लक्षित किया है। कुछ मामलों में, उनकी कीमत व्यक्तियों को दसियों या सैकड़ों-हज़ारों डॉलर तक होती है।

वकील चेज़ कार्लसन ने इस साल की शुरुआत में एक ब्लॉग पोस्ट में कहा, “योजनाएं तेजी से जटिल होती जा रही हैं क्योंकि अपराधी पारंपरिक रणनीति को क्रिप्टोकरेंसी और कृत्रिम बुद्धिमत्ता से जुड़े ऑनलाइन घोटालों के साथ जोड़ रहे हैं।”

अमेरिकी एआई के ऑनलाइन उपयोग को लेकर चिंतित हैं – खासकर जब राजनीति की बात आती है।

एक्सियोस और बिजनेस इंटेलिजेंस फर्म मॉर्निंग कंसल्ट के सितंबर के सर्वेक्षण के अनुसार, 50 प्रतिशत से अधिक लोगों को उम्मीद है कि इस तरह के झूठ 2024 के चुनाव के नतीजों को प्रभावित करेंगे।

एएफपी ने पहले अमेरिकी राष्ट्रपति जो बिडेन द्वारा एक सैन्य मसौदे की घोषणा करने और पूर्व विदेश मंत्री हिलेरी क्लिंटन द्वारा राष्ट्रपति पद के लिए फ्लोरिडा के गवर्नर रॉन डेसेंटिस का समर्थन करने के डीपफेक वीडियो को खारिज कर दिया है।

जॉर्ज वाशिंगटन विश्वविद्यालय में इंस्टीट्यूट फॉर डेटा, डेमोक्रेसी एंड पॉलिटिक्स की निदेशक रिबका ट्रोम्बल ने कहा कि इस तरह की गलत सूचना “सूचना में विश्वास और संस्थानों में विश्वास के बारे में बड़ी चिंताओं को जन्म देती है।”

अक्टूबर गैलप पोल के अनुसार, केवल एक तिहाई अमेरिकियों के पास समाचार मीडिया में “बहुत अच्छा” या “उचित मात्रा” का विश्वास है, जो 2016 में दर्ज कम स्तर से मेल खाता है।

ट्रोम्बल ने कहा, ऑनलाइन प्रसारित होने वाली कई छेड़छाड़ की गई क्लिप निम्न-गुणवत्ता वाली “सस्ते नकली” हैं, लेकिन वे अभी भी “विश्वास के संकट” में योगदान करती हैं। उन्होंने समाचार उपभोक्ताओं से सोशल मीडिया पर ऐसी पोस्ट साझा करने से पहले सावधानी बरतने का आग्रह किया।

उन्होंने कहा, “वहां अभी भी बहुत सारी अच्छी जानकारी है, और संदेह की एक स्वस्थ खुराक के साथ हम उन चीजों को दूर कर सकते हैं जो दुष्प्रचार हैं।”

(यह कहानी News18 स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड समाचार एजेंसी फ़ीड से प्रकाशित हुई है – एएफपी)