AI के फोटो जेनरेशन फीचर की वजह से बड़ा खतरा मंडराने लगा है। लोगों के साथ KYC फ्रॉड हो सकता है। डीपफेक फोटो और वीडियो को लेकर सिक्योरिटी एक्सपर्ट्स ने इसे लेकर लोगों को आगाह किया है।
प्रेमानंद जी के कई वीडियोज सोशल मीडिया में वायरल हो रहे हैं, जिनमें उनकी आवाज और उपदेशों को मनचाहे तरीके से बदलकर उसका इस्तेमाल किया जा रहा है।
AI का सहारा लेकर जो डीपफेक वीडियो बनाए जाते हैं, उनमें जाने-पहचाने चेहरों का इस्तेमाल करके, उनकी आवाज की हूबहू नकल करके लोगों को गुमराह किया जाता है, लोगों को लूटा जाता है।
देश-दुनिया में धीरे-धीरे ही सही, लेकिन AI का इस्तेमाल बढ़ रहा है। वहीं दूसरी ओर, साइबर अपराधी भी साइबर फ्रॉड को अंजाम देने में जमकर AI का इस्तेमाल कर रहे हैं। सरकार की कोशिश है कि किसी भी तरह के साइबर फ्रॉड को रोका जाए और इसके लिए तमाम कोशिशें भी की जा रही हैं।
इडिया टीवी के चेयरमैन और एडिटर इन चीफ रजत शर्मा ने कहा कि समाज को इसके प्रति जागरूक करने की जरूरत है, यह चुनौती पूरी दुनिया के लिए बहुत बड़ा खतरा है।
ये मामला इसीलिए गंभीर है क्योंकि जो लोग बरसों से मुझे टीवी पर देख रहे हैं, जो मेरी बात पर भरोसा करते हैं, उन्हें गुमराह करने की कोशिश की गई।
दिल्ली हाई कोर्ट ने रजत शर्मा के पर्सनैलिटी राइट्स की रक्षा करते हुए डीपफेक कंटेंट हटाने का आदेश दिया। जस्टिस अमित बंसल ने इस बारे में अहम आदेश जारी किया।
इन दिनों एक नई तकनीकी चुनौती सामने आई है जिसका नाम डीपफेक है। लोग इसका गलत रूप से फायदा उठा रहे हैं। अब इंडिया टीवी के चेयरमैन एवं एडिटर-इन-चीफ रजत शर्मा का भी एक फर्जी वीडियो वायरल हो रहा है। उनके वीडियो और आवाज का इस्तेमाल करके लोग नकली दवाई बेच रहे हैं।
दिल्ली उच्च न्यायालय डीफफेक मामले की सुनवाई कर रहा है। डीपफेक के खतरों की जांच के लिए गठित समिति के सदस्यों को नामित करने को लेकर केंद्र सरकार को पीठ ने निर्देश भी जारी किया है।
दिल्ली हाई कोर्ट ने इंडिया टीवी के चेयरमैन एवं एडिटर-इन-चीफ रजत शर्मा की याचिका पर सुनवाई करते हुए केंद्र सरकार से डीपफेक टेक्नोलॉजी के बढ़ते खतरे से निपटने के लिए किये गए उपायों पर रिपोर्ट दाखिल करने का निर्देश दिया है।
पिछले कुछ समय में आर्टिफिशियल इंटेलिजेंस का सहारा लेकर फेक वीडियो के जरिए लोगों को ठगने के कई सारे मामले सामने आए हैं। गूगल ने अब अपने करोड़ों यूजर्स को बड़ी राहत दे दी है। गूगल ने डीपफेक और एआई जनरेटेड फोटोज की पहचान के लिए नया टूल लॉन्च कर दिया है।
धोखेबाज लोगों को संदिग्ध ऐप डाउनलोड करने के लिए लुभाते हैं। इसके लिये वे डीपफेक वीडियो का उपयोग कर रहे हैं। वे असली दिखने के लिए एक नकली प्ले स्टोर भी बना रहे हैं।
इस साल में यह दूसरी बार ऐसा है जब विराट कोहली का डीपफेक वीडियो सोशल मीडिया पर वायरल हुआ है। फरवरी में उनका पहला डीपफेक वीडियो वायरल हुआ था और अब एक और वीडियो वायरल हो रहा है।
डीपफेक तकनीक से अब दिल्ली हाईकोर्ट भी टेंशन में आ गया है। कोर्ट ने बुधवार को कहा कि डीपफेक तकनीक समाज में एक गंभीर खतरा बनने जा रही है और सरकार को इस बारे में सोचना शुरू कर देना चाहिए।
AI के आने के बाद से इंटरनेट पर फर्जी Deepfake फोटो और वीडियो की बाढ़ आ गई है। एआई का इस्तेमाल करके डीपफेक एडल्ट कॉन्टेंट इंटरनेट पर फैलाया जा रहा है। गूगल ने हाल में एक टूल पेश किया है, जो इन कॉन्टेंट को सर्च से हटाने में मदद करेगा।
Google ने इंटरनेट पर प्रसारित किए जाने वाले फर्जी फोटो और वीडियो पर लगाम लगाने के लिए नई पॉलिसी लागू कर दी है। यह नई पॉलिसी इस तरह के फर्जी और एआई जेनरेटेड कॉन्टेंट की सर्च रिजल्ट में रैंकिंग गिरा देगा, जिसकी वजह से यूजर्स को इस तरह के कॉन्टेंट नहीं दिखाई देंगे।
अभिजीत पाटिल नाम के शख्स ने कथित तौर पर यौन स्वास्थ्य से संबंधित प्रोडक्ट के प्रचार के लिए अमिताभ बच्चन के अश्लील डीपफेक वीडियो बनाया था। उसने इसे सोशल मीडिया पर शेयर भी किया।
Honor ने मोबाइल वर्ल्ड कांग्रेस में AI पावर्ड टेक्नोलॉजी पेश किया है, जिसमें आई प्रोटेक्शन से लेकर डीपफेक वीडियो एनालाइजर शामिल है। ऑनर की यह टेक्नोलॉजी रियल टाइम में AI जेनरेटेड वीडियो को एनालाइज कर सकती है, जिससे लोगों को फर्जी वीडियो की पहचान करने में आसानी होगी।
देश की आर्थिक राजधानी मुंबई में डीप फेक वीडियो के झांसे में आकर करीब 7 लाख रुपये गंवा बैठी। पुलिस ने इस संबंध में मामला दर्ज कर लिया है।
YouTube ने AI जेनरेटेड कॉन्टेंट यानी डीपफेक वीडियो पर लगाम लगाने की तैयारी कर ली है। गूगल के वीडियो स्ट्रीमिंग प्लेटफॉर्म ने नया प्राइवेसी रिक्वेस्ट प्रोसेस शुरू किया है, जिसमें यूजर्स किसी भी AI जेनरेटेड कॉन्टेंट को रिपोर्ट कर सकते हैं।
संपादक की पसंद
