Grok पर चला केंद्र सरकार का 'हथौड़ा', आपत्तिजनक और अश्लील कंटेंट को लेकर X ने मानी गलती; 600 से ज्यादा अकाउंट्स किए ब्लॉक

2 जनवरी को आईटी मंत्रालय ने X को अल्टीमेटम दिया था कि अश्लील कंटेंट तुरंत हटाएं, वरना आईटी एक्ट के तहत दंडात्मक कार्रवाई की जाएगी। साथ ही 72 घंटे की डेडलाइन में X को एक विस्तृत 'एक्शन टेकन रिपोर्ट' (ATR) जमा करने को कहा गया था। 8 जनवरी को X ने मंत्रालय को एक लंबा जवाब भेजा, जिसे सरकार ने 'विस्तृत लेकिन अपर्याप्त' करार दिया था, जिसके बाद अब ये बड़ा कदम देखने को मिला है।

क्या है पूरा मामला?

आईटी मंत्रालय (MeitY) ने पाया कि X की एआई सर्विस Grok का इस्तेमाल गंभीर अपराधों के लिए किया जा रहा था। एआई के जरिए महिलाओं की असली तस्वीरों को एडिट कर 'सिंथेटिक' या 'डीपफेक' अश्लील कंटेंट बनाए जा रहे थे। फर्जी आईडी बनाकर महिलाओं को परेशान करने और उनकी गरिमा को ठेस पहुंचाने के लिए Grok का दुरुपयोग हो रहा था। सरकार ने सवाल उठाया कि X के चीफ कंप्लायंस ऑफिसर इस पर नजर रखने में क्यों विफल रहे।