AI content regulation: अब AI के दुरुपयोग पर लगेगी लगाम, नियमों में बड़े बदलाव कर रही सरकार

महत्वपूर्ण सोशल मीडिया इंटरमीडियरी कौन हैं

महत्वपूर्ण सोशल मीडिया इंटरमीडियरी (SSMI) वे सोशल मीडिया प्लेटफॉर्म हैं जिनके भारत में 50 लाख से अधिक रजिस्टर्ड यूजर्स हैं। इसका मतलब है कि बड़ी यूजर बेस वाले प्लेटफॉर्म जैसे Facebook, YouTube, Snap आदि इस श्रेणी में आते हैं।

ऐसे प्लेटफॉर्म्स को सिर्फ सामान्य नियमों का पालन नहीं करना होता, बल्कि उन्हें अतिरिक्त नियमों और जिम्मेदारियों का पालन करना पड़ता है। ताकि उनके प्लेटफॉर्म पर फैलने वाली जानकारी सुरक्षित, भरोसेमंद और ट्रैक करने योग्य हो।

कंटेंट पर स्थायी पहचान जरूरी

प्रस्तावित नियम 3(3) के अनुसार, अगर कोई प्लेटफॉर्म एआई या सिंथेटिक कंटेंट बनाने की सुविधा देता है, तो उसे यह सुनिश्चित करना होगा कि उस कंटेंट पर स्पष्ट लेबलिंग या स्थायी पहचान (identifier) मौजूद हो। इसका मतलब है कि यह पहचान हमेशा कंटेंट के साथ बनी रहे और इसे बदला या हटाया न जा सके।

विजुअल कंटेंट (जैसे वीडियो या इमेज) में यह लेबल कम से कम 10 प्रतिशत स्क्रीन पर दिखाई देना चाहिए। वहीं, ऑडियो कंटेंट में यह पहचान कंटेंट की शुरुआत के 10 प्रतिशत समय में सुनाई देनी चाहिए। इससे यूजर्स आसानी से पहचान सकते हैं कि कंटेंट AI या सिंथेटिक तरीके से बनाया गया है।

मेटाडाटा बदलना या हटाना नहीं होगा

ड्राफ्ट में कहा गया है कि किसी भी कंटेंट पर जो मेटाडाटा या आइडेंटिफायर लगा हो, उसे बदला, हटाया या दबाया नहीं जा सकेगा। यानी यह पहचान हमेशा कंटेंट के साथ स्थायी रहेगी।

इसके अलावा, ऐसे प्लेटफॉर्म जो सिंथेटिक या AI कंटेंट बनाने या बदलने की सुविधा देते हैं, उन्हें यह सुनिश्चित करना होगा कि अपलोड कंटेंट वास्तव में AI से बनाया गया है या नहीं। इसके लिए तकनीकी उपाय अपनाना अनिवार्य है। इससे यूजर्स और कानूनी एजेंसियों दोनों के लिए कंटेंट की सत्यता और स्रोत को ट्रैक करना आसान होगा।

इंटरनेट को सुरक्षित बनाने की कोशिश

MeitY के मुताबिक, यह कदम इसलिए उठाया गया है ताकि इंटरनेट खुला, सुरक्षित, भरोसेमंद और जवाबदेह बना रहे। इसका मकसद यह सुनिश्चित करना है कि जनरेटिव AI के कारण फैलने वाली भ्रामक जानकारी, फेक पहचान और चुनावी हेरफेर जैसी समस्याओं पर काबू पाया जा सके।

साथ ही, मंत्रालय ने सभी हितधारकों से इस ड्राफ्ट पर अपने सुझाव भेजने का अनुरोध किया है। सुझाव 6 नवंबर 2025 तक ईमेल के जरिए भेजे जा सकते हैं: itrules.consultation@meity.gov.in।

CERT-In alert: Chrome और Firefox यूजर्स का डेटा हो सकता है चोरी, CERT-In ने जारी की चेतावनी, बचने के लिए अभी करें ये काम