Grok के दुरुपयोग को लेकर भारत सरकार हुई सख्त, एलॉन मस्क के X से मांगी रिपोर्ट

सोशल मीडिया प्लेटफॉर्म X और ग्रोक (Grok) के मिसयूज को लेकर भारत सरकार सख्त हो गई है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म X को एक आधिकारिक नोटिस भेजा है। सरकार ने Grok और xAI की अन्य सेवाओं जैसी AI-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री की होस्टिंग, निर्माण, पोस्ट और शेयर करने या अपलोड किए जाने को लेकर रिपोर्ट मांगी है।

अश्लीलता पर सख्त हुई सरकार 

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने नोटिस में X के आर्टिफिशियल इंटेलिजेंस टूल Grok के गलत इस्तेमाल को लेकर जारी किया गया है। मंत्रालय का कहना है कि इस मामले में सूचना प्रौद्योगिकी अधिनियम और आईटी नियमों के तहत जरूरी सावधानियों का सही तरह से पालन नहीं किया गया है। नोटिस में मंत्रालय ने चिंता जताई है कि ग्रोक का उपयोग अश्लील, यौन रूप से आपत्तिजनक और अपमानजनक कंटेंट बनाने व फैलाने में किया जा रहा है। खास तौर पर महिलाओं और बच्चों को निशाना बनाए जाने को लेकर गंभीर आपत्ति दर्ज की गई है। मंत्रालय ने इसे लोगों की गरिमा, निजता और डिजिटल सुरक्षा का बड़ा उल्लंघन बताया है और साफ चेतावनी दी है कि अगर तुरंत सुधार के कदम नहीं उठाए गए, तो प्लेटफॉर्म के खिलाफ सख्त कार्रवाई की जा सकती है।

सरकार ने X को दिए ये निर्देश 

सरकार ने सोशल मीडिया प्लेटफॉर्म X को निर्देश दिया है कि वह अपने एआई टूल Grok के टेक्निकल डिजाइन और गवर्नेंस सिस्टम की तुरंत समीक्षा करे। इसके साथ ही प्लेटफॉर्म से सभी गैर-कानूनी कंटेंट हटाने, दोषी यूजर्स के खिलाफ कार्रवाई करने और 72 घंटे के भीतर की गई कार्रवाई की रिपोर्ट जमा करने को कहा गया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने चेतावनी दी है कि अगर नियमों का पालन लगातार नहीं किया गया, तो आईटी अधिनियम के तहत मिलने वाली “सेफ हार्बर” सुरक्षा खत्म की जा सकती है। इसके अलावा साइबर कानूनों, आपराधिक कानूनों और बाल संरक्षण से जुड़े नियमों के तहत भी कार्रवाई हो सकती है।

यह नोटिस शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी की शिकायत के बाद जारी किया गया है। उन्होंने केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव को पत्र लिखकर इस मामले में तुरंत दखल देने की मांग की थी।

 प्रियंका चतुर्वेदी  ने नए ट्रेंड पर उठाए थे सवाल 

अपने पत्र में प्रियंका चतुर्वेदी ने सोशल मीडिया प्लेटफॉर्म X पर सामने आ रहे एक “नए ट्रेंड” को लेकर चिंता जताई है। उन्होंने बताया कि कुछ लोग X के एआई टूल Grok का गलत इस्तेमाल कर रहे हैं। उनके अनुसार, कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें अपलोड कर रहे हैं और एआई बॉट से तस्वीरों में छेड़छाड़ करने वाले निर्देश दे रहे हैं। इसमें कपड़े कम दिखाने या महिलाओं को आपत्तिजनक तरीके से पेश करने जैसे प्रॉम्प्ट शामिल हैं। उन्होंने इसे महिलाओं की गरिमा और सुरक्षा के लिए गंभीर खतरा बताया।

प्रियंका चतुर्वेदी ने अपने पत्र में लिखा कि यह एआई फीचर का पूरी तरह अस्वीकार्य और गंभीर दुरुपयोग है। उन्होंने कहा कि इससे भी ज़्यादा चिंता की बात यह है कि Grok ऐसे अनुरोधों को स्वीकार कर रहा है, जिससे इस गलत व्यवहार को बढ़ावा मिल रहा है। उनका कहना है कि यह महिलाओं की निजता के अधिकार का साफ उल्लंघन है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है, जो न सिर्फ अनैतिक बल्कि आपराधिक भी है।

संसदीय सूचना प्रौद्योगिकी और संचार की स्थायी समिति की सदस्य के तौर पर उन्होंने सरकार से अपील की कि इस मुद्दे को X के सामने सख्ती से उठाया जाए। साथ ही यह भी सुनिश्चित किया जाए कि एआई एप्लिकेशन में मज़बूत सुरक्षा उपाय हों। प्रियंका चतुर्वेदी ने कहा कि “क्रिएटिव और इनोवेशन” के नाम पर महिलाओं की गरिमा का सार्वजनिक और डिजिटल रूप से अपमान किया जा रहा है और भारत ऐसे मामलों में मूकदर्शक नहीं बना रह सकता।