केंद्र सरकार ने इंटरनेट और सोशल मीडिया प्लेटफॉर्म पर AI से जनरेट किए जाने वाले फर्जी और भ्रामक कंटेंट पर लगाम लगाने के लिए इनफार्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस एंड डिजिटल मीडिया एथिक्स कोड) नियम, 2021 में बड़ा बदलाव किया गया है. नए संशोधन नियम 20 फरवरी 2026 से लागू होंगे. इन बदलावों के तहत डीपफेक और एआई से तैयार सामग्री को लेकर सोशल मीडिया कंपनियों और अन्य डिजिटल प्लेटफॉर्म की जिम्मेदारी काफी बढ़ा दी गई है.
सरकार ने अधिसूचना जारी कर अब ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ यानी कृत्रिम या एल्गोरिद्म के जरिए तैयार ऑडियो, वीडियो, फोटो या अन्य सामग्री को साफ तौर से परिभाषित किया है. ऐसे कंटेंट में वह सामग्री शामिल होगी जो वास्तविक दिखती हो और किसी व्यक्ति या घटना को इस तरह पेश करती हो कि उसे असली समझा जा सके.
यह भी पढ़ें : स्पेन में सोशल मीडिया को लेकर बड़ा फैसला, 16 साल से कम उम्र के बच्चों के लिए बैन होगा फेसबुक-व्हाट्एसेप
हालांकि, सरकार ने साफ किया है कि सामान्य एडिटिंग, रंग सुधार, टेक्निकल सुधार, अनुवाद या दस्तावेज तैयार करने जैसे कार्यों को सिंथेटिक कंटेंट नहीं माना जाएगा, बशर्ते वे भ्रामक या नकली रिकॉर्ड तैयार न करें.
3 घंटे में हटाना होगा
नए नियमों के तहत यदि किसी सोशल मीडिया प्लेटफॉर्म को अवैध या भ्रामक एआई कंटेंट की जानकारी मिलती है तो उसे तीन घंटे के भीतर हटाना अनिवार्य होगा. पहले इसके लिए 36 घंटे का समय दिया जाता था. इसके अलावा कानून-व्यवस्था से जुड़ी सूचना केवल डीआईजी या उससे ऊपर के स्तर के अधिकारी द्वारा ही दी जा सकेगी.
यह भी पढ़ें : अब Grok AI से नहीं बना पाएगा किसी की भी अश्लील फोटो, बवाल के बाद कई फीचर्स किए बंद, नियमों में बदलाव
यूजर्स को हर तीन महीने में चेतावनी
सरकार ने डिजिटल प्लेटफॉर्म को निर्देश दिया है कि वे हर तीन महीने में यूजर्स को नियमों और कानूनों की जानकारी दें. साथ ही यूजर्स को यह भी बताना होगा कि एआई से तैयार अवैध या आपत्तिजनक सामग्री साझा करने पर आईटी एक्ट, भारतीय न्याय संहिता 2023, पॉक्सो एक्ट, जनप्रतिनिधित्व कानून और महिलाओं के अशोभनीय चित्रण जैसे कानूनों के तहत कार्रवाई हो सकती है.
AI कंटेंट की पहचान अनिवार्य
नए नियमों के मुताबिक, सोशल मीडिया कंपनियों को एआई से तैयार सामग्री की पहचान के लिए तकनीकी उपकरण लगाने होंगे. ऐसे कंटेंट को स्पष्ट रूप से लेबल करना होगा और उसमें स्थाई डिजिटल पहचान या मेटाडेटा जोड़ना होगा, जिसे हटाया नहीं जा सकेगा.
इसके अलावा प्लेटफॉर्म को यह सुनिश्चित करना होगा कि ऐसे एआई कंटेंट को रोका जाए या हटाया जाए-
- बच्चों का यौन शोषण या अश्लील सामग्री
- बिना सहमति के निजी या आपत्तिजनक चित्र और वीडियो
- फर्जी दस्तावेज या इलेक्ट्रॉनिक रिकॉर्ड
- हथियार, विस्फोटक या हिंसा से जुड़ी सामग्री
- किसी व्यक्ति या घटना की डीपफेक प्रेजेंटेशन
कंपनियों की जवाबदेही बढ़ी
अहम सोशल मीडिया प्लेटफॉर्म को अब यूजर्स से यह घोषणा करवानी होगी कि वे जो सामग्री शेयर कर रहे हैं वह एआई से तैयार है या नहीं. कंपनियों को तकनीकी माध्यम से इसकी पुष्टि भी करनी होगी. नियमों का पालन नहीं करने पर प्लेटफॉर्म की कानूनी सुरक्षा समाप्त मानी जा सकती है.
यह भी पढ़ें : एक्स पर अब नहीं दिखेगा अश्लील कंटेंट, सरकार की सख्ती के बाद 600 से ज्यादा अकाउंट्स पर चला हंटर
पुराने कानूनों में भी बदलाव
सरकार ने नए नियमों में भारतीय दंड संहिता की जगह भारतीय न्याय संहिता 2023 को शामिल किया है. यह संशोधन देश के नए आपराधिक कानूनों के अनुरूप किया गया है.
सरकार का मानना है कि इन संशोधनों से डिजिटल प्लेटफॉर्म पर फैलने वाली फर्जी खबरों, डीपफेक और भ्रामक प्रचार पर प्रभावी नियंत्रण लगाया जा सकेगा और ऑनलाइन सुरक्षा को मजबूत किया जा सकेगा.
केंद्र सरकार ने इंटरनेट और सोशल मीडिया प्लेटफॉर्म पर AI से जनरेट किए जाने वाले फर्जी और भ्रामक कंटेंट पर लगाम लगाने के लिए इनफार्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस एंड डिजिटल मीडिया एथिक्स कोड) नियम, 2021 में बड़ा बदलाव किया गया है. नए संशोधन नियम 20 फरवरी 2026 से लागू होंगे. इन बदलावों के तहत डीपफेक और एआई से तैयार सामग्री को लेकर सोशल मीडिया कंपनियों और अन्य डिजिटल प्लेटफॉर्म की जिम्मेदारी काफी बढ़ा दी गई है.
सरकार ने अधिसूचना जारी कर अब ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ यानी कृत्रिम या एल्गोरिद्म के जरिए तैयार ऑडियो, वीडियो, फोटो या अन्य सामग्री को साफ तौर से परिभाषित किया है. ऐसे कंटेंट में वह सामग्री शामिल होगी जो वास्तविक दिखती हो और किसी व्यक्ति या घटना को इस तरह पेश करती हो कि उसे असली समझा जा सके.
यह भी पढ़ें : स्पेन में सोशल मीडिया को लेकर बड़ा फैसला, 16 साल से कम उम्र के बच्चों के लिए बैन होगा फेसबुक-व्हाट्एसेप
हालांकि, सरकार ने साफ किया है कि सामान्य एडिटिंग, रंग सुधार, टेक्निकल सुधार, अनुवाद या दस्तावेज तैयार करने जैसे कार्यों को सिंथेटिक कंटेंट नहीं माना जाएगा, बशर्ते वे भ्रामक या नकली रिकॉर्ड तैयार न करें.
3 घंटे में हटाना होगा
नए नियमों के तहत यदि किसी सोशल मीडिया प्लेटफॉर्म को अवैध या भ्रामक एआई कंटेंट की जानकारी मिलती है तो उसे तीन घंटे के भीतर हटाना अनिवार्य होगा. पहले इसके लिए 36 घंटे का समय दिया जाता था. इसके अलावा कानून-व्यवस्था से जुड़ी सूचना केवल डीआईजी या उससे ऊपर के स्तर के अधिकारी द्वारा ही दी जा सकेगी.
यह भी पढ़ें : अब Grok AI से नहीं बना पाएगा किसी की भी अश्लील फोटो, बवाल के बाद कई फीचर्स किए बंद, नियमों में बदलाव
यूजर्स को हर तीन महीने में चेतावनी
सरकार ने डिजिटल प्लेटफॉर्म को निर्देश दिया है कि वे हर तीन महीने में यूजर्स को नियमों और कानूनों की जानकारी दें. साथ ही यूजर्स को यह भी बताना होगा कि एआई से तैयार अवैध या आपत्तिजनक सामग्री साझा करने पर आईटी एक्ट, भारतीय न्याय संहिता 2023, पॉक्सो एक्ट, जनप्रतिनिधित्व कानून और महिलाओं के अशोभनीय चित्रण जैसे कानूनों के तहत कार्रवाई हो सकती है.
AI कंटेंट की पहचान अनिवार्य
नए नियमों के मुताबिक, सोशल मीडिया कंपनियों को एआई से तैयार सामग्री की पहचान के लिए तकनीकी उपकरण लगाने होंगे. ऐसे कंटेंट को स्पष्ट रूप से लेबल करना होगा और उसमें स्थाई डिजिटल पहचान या मेटाडेटा जोड़ना होगा, जिसे हटाया नहीं जा सकेगा.
इसके अलावा प्लेटफॉर्म को यह सुनिश्चित करना होगा कि ऐसे एआई कंटेंट को रोका जाए या हटाया जाए-
- बच्चों का यौन शोषण या अश्लील सामग्री
- बिना सहमति के निजी या आपत्तिजनक चित्र और वीडियो
- फर्जी दस्तावेज या इलेक्ट्रॉनिक रिकॉर्ड
- हथियार, विस्फोटक या हिंसा से जुड़ी सामग्री
- किसी व्यक्ति या घटना की डीपफेक प्रेजेंटेशन
कंपनियों की जवाबदेही बढ़ी
अहम सोशल मीडिया प्लेटफॉर्म को अब यूजर्स से यह घोषणा करवानी होगी कि वे जो सामग्री शेयर कर रहे हैं वह एआई से तैयार है या नहीं. कंपनियों को तकनीकी माध्यम से इसकी पुष्टि भी करनी होगी. नियमों का पालन नहीं करने पर प्लेटफॉर्म की कानूनी सुरक्षा समाप्त मानी जा सकती है.
यह भी पढ़ें : एक्स पर अब नहीं दिखेगा अश्लील कंटेंट, सरकार की सख्ती के बाद 600 से ज्यादा अकाउंट्स पर चला हंटर
पुराने कानूनों में भी बदलाव
सरकार ने नए नियमों में भारतीय दंड संहिता की जगह भारतीय न्याय संहिता 2023 को शामिल किया है. यह संशोधन देश के नए आपराधिक कानूनों के अनुरूप किया गया है.
सरकार का मानना है कि इन संशोधनों से डिजिटल प्लेटफॉर्म पर फैलने वाली फर्जी खबरों, डीपफेक और भ्रामक प्रचार पर प्रभावी नियंत्रण लगाया जा सकेगा और ऑनलाइन सुरक्षा को मजबूत किया जा सकेगा.
