अब डीपफेक Video तुरंत पकड़ेगा नया YouTube का AI टूल, यूजर्स हटवा सकेंगे अपने नकली वीडियो
अब YouTube पर कोई भी आपके चेहरे का AI वीडियो बनाकर बच नहीं पाएगा. कंपनी ने नया Deepfake Detection Tool लॉन्च किया है, जिससे आम यूजर्स भी अपने नकली वीडियो हटवा सकेंगे.
News24 AI द्वारा निर्मित • संपादकीय टीम द्वारा जांचा गया
यूट्यूब के नए AI डीपफेक डिटेक्शन टूल के बारे में
यूट्यूब ने 18 साल से अधिक उम्र के सभी उपयोगकर्ताओं के लिए नया AI डीपफेक डिटेक्शन टूल जारी किया है।
यह टूल उपयोगकर्ताओं के चेहरे की सुरक्षा के लिए बनाया गया है और यूट्यूब के कंटेंट आईडी सिस्टम की तरह काम करता है।
उपयोगकर्ता एक सेल्फी वीडियो रिकॉर्ड करके इस फीचर को सक्रिय कर सकते हैं, जिसके बाद AI सिस्टम उनके चेहरे के फर्जी इस्तेमाल को स्कैन करेगा।
YouTube Deepfake Detection Tool: YouTube पर अब AI से बनाए गए फर्जी वीडियो बनाना पहले जितना आसान नहीं रहेगा. कंपनी ने अपने प्लेटफॉर्म पर एक बड़ा बदलाव करते हुए नया AI Deepfake Detection Tool सभी 18 साल से ज्यादा उम्र के यूजर्स के लिए जारी कर दिया है. अब सिर्फ बड़े सेलिब्रिटी या सोशल मीडिया इन्फ्लुएंसर ही नहीं, बल्कि आम लोग भी अपने चेहरे का गलत इस्तेमाल होने पर कार्रवाई कर सकेंगे. YouTube का यह नया फीचर ऐसे समय में आया है जब इंटरनेट पर AI से बनाए गए नकली वीडियो तेजी से बढ़ रहे हैं और साइबर ठगी के मामले भी लगातार सामने आ रहे हैं.
क्या है YouTube का AI Deepfake Detection Tool?
YouTube का यह नया टूल यूजर्स के चेहरे की सुरक्षा के लिए बनाया गया है. यह काफी हद तक YouTube के Content ID सिस्टम की तरह काम करता है, जो कॉपीराइट वाले गाने और वीडियो क्लिप्स को पहचान लेता है. फर्क सिर्फ इतना है कि नया सिस्टम ऑडियो या म्यूजिक नहीं बल्कि इंसानी चेहरे और उनकी पहचान को स्कैन करता है. इसका मकसद यह पता लगाना है कि कहीं किसी यूजर के चेहरे का AI की मदद से फर्जी इस्तेमाल तो नहीं किया गया.
कैसे काम करेगा यह नया फीचर?
इस फीचर को शुरू करने के लिए यूजर को अपना एक छोटा सेल्फी वीडियो रिकॉर्ड करके देना होगा. इसके बाद YouTube का AI सिस्टम प्लेटफॉर्म पर अपलोड होने वाले नए वीडियो को लगातार स्कैन करेगा. अगर किसी वीडियो में यूजर के चेहरे का AI-जनरेटेड या मॉर्फ्ड वर्जन मिलता है, तो सिस्टम तुरंत अलर्ट भेज देगा. इसके बाद यूजर उस वीडियो की जांच कर उसे हटाने के लिए आधिकारिक रिक्वेस्ट कर सकता है.
AI Generated Image
आम यूजर्स को भी मिलेगी सुरक्षा
अब तक Deepfake वीडियो का खतरा ज्यादा तर नेताओं, फिल्म स्टार्स और बड़े इन्फ्लुएंसर्स तक सीमित माना जाता था, लेकिन AI टूल्स सस्ते और आसान होने के बाद आम लोग भी इसका शिकार बनने लगे हैं. कई मामलों में लोगों के चेहरे लगाकर फर्जी वीडियो बनाकर स्कैम और धोखाधड़ी की जा रही है. इसी वजह से YouTube ने इस फीचर को सभी यूजर्स के लिए उपलब्ध कराने का फैसला लिया है.
YouTube के प्रवक्ता जैक मैलोन ने कहा कि प्लेटफॉर्म पर मौजूद हर यूजर को समान स्तर की सुरक्षा मिलनी चाहिए. चाहे कोई क्रिएटर कई सालों से वीडियो बना रहा हो या अभी नया आया हो, सभी को यह सुविधा मिलेगी. कंपनी का कहना है कि इस फीचर का इस्तेमाल करने के लिए ज्यादा सब्सक्राइबर्स होना जरूरी नहीं है.
फर्जी वीडियो के साथ असली वीडियो भी हो सकते हैं फ्लैग
YouTube ने यह भी साफ किया है कि AI सिस्टम अभी पूरी तरह परफेक्ट नहीं है. ऐसे में कई बार असली वीडियो भी गलती से फ्लैग हो सकते हैं. उदाहरण के तौर पर अगर किसी पुराने इंटरव्यू या फैमिली वीडियो में आपका असली चेहरा मौजूद है, तो सिस्टम उसे भी संदिग्ध मान सकता है. हालांकि कंपनी ने कहा है कि ऐसे मामलों में वीडियो अपने-आप नहीं हटाए जाएंगे और उनकी अलग से समीक्षा की जाएगी.
क्यों जरूरी बन गया है यह फीचर?
AI टेक्नोलॉजी के बढ़ते इस्तेमाल के साथ Deepfake वीडियो का खतरा तेजी से बढ़ रहा है. कई साइबर अपराधी लोगों की तस्वीरें और वीडियो लेकर नकली कंटेंट तैयार कर रहे हैं. इससे पहचान चोरी, ब्लैकमेल और ऑनलाइन फ्रॉड जैसे खतरे भी बढ़े हैं. ऐसे में YouTube का यह नया टूल आने वाले समय में डिजिटल सुरक्षा के लिए बड़ा कदम माना जा रहा है.
YouTube Deepfake Detection Tool: YouTube पर अब AI से बनाए गए फर्जी वीडियो बनाना पहले जितना आसान नहीं रहेगा. कंपनी ने अपने प्लेटफॉर्म पर एक बड़ा बदलाव करते हुए नया AI Deepfake Detection Tool सभी 18 साल से ज्यादा उम्र के यूजर्स के लिए जारी कर दिया है. अब सिर्फ बड़े सेलिब्रिटी या सोशल मीडिया इन्फ्लुएंसर ही नहीं, बल्कि आम लोग भी अपने चेहरे का गलत इस्तेमाल होने पर कार्रवाई कर सकेंगे. YouTube का यह नया फीचर ऐसे समय में आया है जब इंटरनेट पर AI से बनाए गए नकली वीडियो तेजी से बढ़ रहे हैं और साइबर ठगी के मामले भी लगातार सामने आ रहे हैं.
क्या है YouTube का AI Deepfake Detection Tool?
YouTube का यह नया टूल यूजर्स के चेहरे की सुरक्षा के लिए बनाया गया है. यह काफी हद तक YouTube के Content ID सिस्टम की तरह काम करता है, जो कॉपीराइट वाले गाने और वीडियो क्लिप्स को पहचान लेता है. फर्क सिर्फ इतना है कि नया सिस्टम ऑडियो या म्यूजिक नहीं बल्कि इंसानी चेहरे और उनकी पहचान को स्कैन करता है. इसका मकसद यह पता लगाना है कि कहीं किसी यूजर के चेहरे का AI की मदद से फर्जी इस्तेमाल तो नहीं किया गया.
---विज्ञापन---
कैसे काम करेगा यह नया फीचर?
इस फीचर को शुरू करने के लिए यूजर को अपना एक छोटा सेल्फी वीडियो रिकॉर्ड करके देना होगा. इसके बाद YouTube का AI सिस्टम प्लेटफॉर्म पर अपलोड होने वाले नए वीडियो को लगातार स्कैन करेगा. अगर किसी वीडियो में यूजर के चेहरे का AI-जनरेटेड या मॉर्फ्ड वर्जन मिलता है, तो सिस्टम तुरंत अलर्ट भेज देगा. इसके बाद यूजर उस वीडियो की जांच कर उसे हटाने के लिए आधिकारिक रिक्वेस्ट कर सकता है.
AI Generated Image
आम यूजर्स को भी मिलेगी सुरक्षा
अब तक Deepfake वीडियो का खतरा ज्यादा तर नेताओं, फिल्म स्टार्स और बड़े इन्फ्लुएंसर्स तक सीमित माना जाता था, लेकिन AI टूल्स सस्ते और आसान होने के बाद आम लोग भी इसका शिकार बनने लगे हैं. कई मामलों में लोगों के चेहरे लगाकर फर्जी वीडियो बनाकर स्कैम और धोखाधड़ी की जा रही है. इसी वजह से YouTube ने इस फीचर को सभी यूजर्स के लिए उपलब्ध कराने का फैसला लिया है.
YouTube के प्रवक्ता जैक मैलोन ने कहा कि प्लेटफॉर्म पर मौजूद हर यूजर को समान स्तर की सुरक्षा मिलनी चाहिए. चाहे कोई क्रिएटर कई सालों से वीडियो बना रहा हो या अभी नया आया हो, सभी को यह सुविधा मिलेगी. कंपनी का कहना है कि इस फीचर का इस्तेमाल करने के लिए ज्यादा सब्सक्राइबर्स होना जरूरी नहीं है.
---विज्ञापन---
फर्जी वीडियो के साथ असली वीडियो भी हो सकते हैं फ्लैग
YouTube ने यह भी साफ किया है कि AI सिस्टम अभी पूरी तरह परफेक्ट नहीं है. ऐसे में कई बार असली वीडियो भी गलती से फ्लैग हो सकते हैं. उदाहरण के तौर पर अगर किसी पुराने इंटरव्यू या फैमिली वीडियो में आपका असली चेहरा मौजूद है, तो सिस्टम उसे भी संदिग्ध मान सकता है. हालांकि कंपनी ने कहा है कि ऐसे मामलों में वीडियो अपने-आप नहीं हटाए जाएंगे और उनकी अलग से समीक्षा की जाएगी.
क्यों जरूरी बन गया है यह फीचर?
AI टेक्नोलॉजी के बढ़ते इस्तेमाल के साथ Deepfake वीडियो का खतरा तेजी से बढ़ रहा है. कई साइबर अपराधी लोगों की तस्वीरें और वीडियो लेकर नकली कंटेंट तैयार कर रहे हैं. इससे पहचान चोरी, ब्लैकमेल और ऑनलाइन फ्रॉड जैसे खतरे भी बढ़े हैं. ऐसे में YouTube का यह नया टूल आने वाले समय में डिजिटल सुरक्षा के लिए बड़ा कदम माना जा रहा है.
