Grok पर चला केंद्र सरकार का 'हथौड़ा', आपत्तिजनक और अश्लील कंटेंट को लेकर X ने मानी गलती; 600 से ज्यादा अकाउंट्स किए ब्लॉक

Grok AI: सोशल मीडिया प्लेटफॉर्म X ने भारत सरकार के सख्त रुख के बाद अपनी गलती स्वीकार कर ली है। X के एआई 'Grok' के जरिए अश्लील और आपत्तिजनक कंटेंट जनरेट करने के मामले में कंपनी ने आश्वासन दिया है कि वह भविष्य में भारतीय कानूनों का पूरी तरह पालन करेगा। सरकार के दबाव के बाद प्लेटफॉर्म ने बड़े पैमाने पर सफाई अभियान भी शुरू किया है।

ब्लॉक हुए अकाउंट्स और अश्लील कंटेंट

आईटी मंत्रालय की सख्ती के बाद X ने 600 से ज्यादा अकाउंट्स को प्लेटफॉर्म से पूरी तरह हटा दिया है। लगभग 3,500 आपत्तिजनक फोटो, वीडियो और पोस्ट को ब्लॉक किया गया है। X ने लिखित में भरोसा दिया है कि भविष्य में ऐसे कंटेंट को प्लेटफॉर्म पर जगह नहीं दी जाएगी और कंटेंट मॉडरेशन की प्रक्रिया को और मजबूत किया जाएगा।

सरकार का अल्टीमेटम और X का जवाब

2 जनवरी को आईटी मंत्रालय ने X को अल्टीमेटम दिया था कि अश्लील कंटेंट तुरंत हटाएं, वरना आईटी एक्ट के तहत दंडात्मक कार्रवाई की जाएगी। साथ ही 72 घंटे की डेडलाइन में X को एक विस्तृत 'एक्शन टेकन रिपोर्ट' (ATR) जमा करने को कहा गया था। 8 जनवरी को X ने मंत्रालय को एक लंबा जवाब भेजा, जिसे सरकार ने 'विस्तृत लेकिन अपर्याप्त' करार दिया था, जिसके बाद अब ये बड़ा कदम देखने को मिला है।

क्या है पूरा मामला?

आईटी मंत्रालय (MeitY) ने पाया कि X की एआई सर्विस Grok का इस्तेमाल गंभीर अपराधों के लिए किया जा रहा था। एआई के जरिए महिलाओं की असली तस्वीरों को एडिट कर 'सिंथेटिक' या 'डीपफेक' अश्लील कंटेंट बनाए जा रहे थे। फर्जी आईडी बनाकर महिलाओं को परेशान करने और उनकी गरिमा को ठेस पहुंचाने के लिए Grok का दुरुपयोग हो रहा था। सरकार ने सवाल उठाया कि X के चीफ कंप्लायंस ऑफिसर इस पर नजर रखने में क्यों विफल रहे।