AI content regulation: अब AI के दुरुपयोग पर लगेगी लगाम, नियमों में बड़े बदलाव कर रही सरकार

AI content regulation: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 22 अक्टूबर को इन्फोर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस एंड डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 में संशोधन का ड्राफ्ट जारी किया है। इसका मकसद जनरेटिव एआई और डीपफेक टेक्नोलॉजी के दुरुपयोग को रोकना है।

सिंथेटिक कंटेंट की पहचान जरूरी

ड्राफ्ट में 'सिंथेटिक रूप से जनरेट की गई जानकारी' की स्पष्ट परिभाषा दी गई है। सिंथेटिक का मतलब है वह कंटेंट जो इंसानों ने सीधे रिकॉर्ड या लिखा नहीं है, बल्कि कंप्यूटर या AI की मदद से बनाया गया हो। इसमें AI से लिखा गया टेक्स्ट, किसी की असली तस्वीर या वीडियो को बदलकर तैयार किया गया डीपफेक कंटेंट, या किसी की आवाज की नकली रिकॉर्डिंग शामिल हो सकती है।

इसके तहत प्लेटफॉर्म्स, खासकर महत्वपूर्ण सोशल मीडिया इंटरमीडियरी (SSMI) को ऐसे कंटेंट को मेटाडाटा और विजुअल या ऑडिबल मार्किंग के जरिए लेबल करना होगा। इसका मकसद इंसानों के कंटेंट और एआई कंटेंट के बीच के अंतर को स्पष्ट करना है। इससे यूजर्स को कंटेंट पहचानने में दिक्कत नहीं होगी।

महत्वपूर्ण सोशल मीडिया इंटरमीडियरी कौन हैं

महत्वपूर्ण सोशल मीडिया इंटरमीडियरी (SSMI) वे सोशल मीडिया प्लेटफॉर्म हैं जिनके भारत में 50 लाख से अधिक रजिस्टर्ड यूजर्स हैं। इसका मतलब है कि बड़ी यूजर बेस वाले प्लेटफॉर्म जैसे Facebook, YouTube, Snap आदि इस श्रेणी में आते हैं।

ऐसे प्लेटफॉर्म्स को सिर्फ सामान्य नियमों का पालन नहीं करना होता, बल्कि उन्हें अतिरिक्त नियमों और जिम्मेदारियों का पालन करना पड़ता है। ताकि उनके प्लेटफॉर्म पर फैलने वाली जानकारी सुरक्षित, भरोसेमंद और ट्रैक करने योग्य हो।

कंटेंट पर स्थायी पहचान जरूरी

प्रस्तावित नियम 3(3) के अनुसार, अगर कोई प्लेटफॉर्म एआई या सिंथेटिक कंटेंट बनाने की सुविधा देता है, तो उसे यह सुनिश्चित करना होगा कि उस कंटेंट पर स्पष्ट लेबलिंग या स्थायी पहचान (identifier) मौजूद हो। इसका मतलब है कि यह पहचान हमेशा कंटेंट के साथ बनी रहे और इसे बदला या हटाया न जा सके।

विजुअल कंटेंट (जैसे वीडियो या इमेज) में यह लेबल कम से कम 10 प्रतिशत स्क्रीन पर दिखाई देना चाहिए। वहीं, ऑडियो कंटेंट में यह पहचान कंटेंट की शुरुआत के 10 प्रतिशत समय में सुनाई देनी चाहिए। इससे यूजर्स आसानी से पहचान सकते हैं कि कंटेंट AI या सिंथेटिक तरीके से बनाया गया है।

मेटाडाटा बदलना या हटाना नहीं होगा

ड्राफ्ट में कहा गया है कि किसी भी कंटेंट पर जो मेटाडाटा या आइडेंटिफायर लगा हो, उसे बदला, हटाया या दबाया नहीं जा सकेगा। यानी यह पहचान हमेशा कंटेंट के साथ स्थायी रहेगी।

इसके अलावा, ऐसे प्लेटफॉर्म जो सिंथेटिक या AI कंटेंट बनाने या बदलने की सुविधा देते हैं, उन्हें यह सुनिश्चित करना होगा कि अपलोड कंटेंट वास्तव में AI से बनाया गया है या नहीं। इसके लिए तकनीकी उपाय अपनाना अनिवार्य है। इससे यूजर्स और कानूनी एजेंसियों दोनों के लिए कंटेंट की सत्यता और स्रोत को ट्रैक करना आसान होगा।

इंटरनेट को सुरक्षित बनाने की कोशिश

MeitY के मुताबिक, यह कदम इसलिए उठाया गया है ताकि इंटरनेट खुला, सुरक्षित, भरोसेमंद और जवाबदेह बना रहे। इसका मकसद यह सुनिश्चित करना है कि जनरेटिव AI के कारण फैलने वाली भ्रामक जानकारी, फेक पहचान और चुनावी हेरफेर जैसी समस्याओं पर काबू पाया जा सके।

साथ ही, मंत्रालय ने सभी हितधारकों से इस ड्राफ्ट पर अपने सुझाव भेजने का अनुरोध किया है। सुझाव 6 नवंबर 2025 तक ईमेल के जरिए भेजे जा सकते हैं: itrules.consultation@meity.gov.in।

CERT-In alert: Chrome और Firefox यूजर्स का डेटा हो सकता है चोरी, CERT-In ने जारी की चेतावनी, बचने के लिए अभी करें ये काम