केंद्र ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 का हवाला देते हुए सोशल मीडिया प्लेटफॉर्म
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलोन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म के मुख्य अनुपालन अधिकारी को लिखे एक पत्र में, ग्रोक की तत्काल व्यापक समीक्षा की और गैरकानूनी सामग्री तक पहुंच को हटा दिया या अक्षम कर दिया।
“यह विशेष रूप से देखा गया है कि आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर एकीकृत और उपलब्ध कराई गई सेवा “ग्रोक एआई” का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए फर्जी खाते बनाने के लिए दुरुपयोग किया जा रहा है ताकि उन्हें अशोभनीय रूप से बदनाम किया जा सके।
इसमें कहा गया है, “इस तरह का आचरण मंच-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है, और लागू कानूनों के उल्लंघन में कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों का घोर दुरुपयोग है।”
मंत्रालय ने ‘ग्रोक’ जैसी एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अश्लील और यौन रूप से स्पष्ट सामग्री की मेजबानी, प्रकाशन, साझा करने या अपलोड करने की रोकथाम के लिए तत्काल अनुपालन की दिशा में कार्रवाई रिपोर्ट मांगी है।
