मामले की जानकारी रखने वाले लोगों ने बताया कि इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) अपने एआई टूल ग्रोक का उपयोग करके उत्पन्न अश्लील और स्पष्ट यौन सामग्री पर एक्स के खिलाफ कार्रवाई के लिए कानूनी राय मांग रहा है।
2 जनवरी को, MeitY ने एक्स को एक पत्र लिखकर इस तरह की सामग्री को रोकने में गंभीर विफलताओं को चिह्नित किया, चेतावनी दी कि निरंतर गैर-अनुपालन से भारतीय कानून के तहत कानूनी सुरक्षा का नुकसान हो सकता है।
एक अधिकारी ने कहा कि “विपरीत पक्ष” बहुत बड़ा और शक्तिशाली है, इसलिए उनका रुख स्पष्ट होना चाहिए। अधिकारी ने कहा, “देश का कानून लागू होना चाहिए।” उन्होंने कहा कि यदि उनके एआई बॉट गैरकानूनी सामग्री उत्पन्न करते हैं तो अन्य प्लेटफार्मों पर भी यही दृष्टिकोण लागू होगा। “ग्रोक के मामले में, प्रभाव तेज हो गया है क्योंकि यह एक्स जैसे प्लेटफॉर्म पर काम करता है।”
अधिकारियों ने कहा कि मंत्रालय ने यह स्पष्ट कर दिया है कि ग्रोक को एक तटस्थ मंच उपकरण के रूप में नहीं माना जा सकता है। अधिकारी ने कहा, “मानसिकता अब बदल गई है। पहले, वे उच्च पद से काम कर रहे थे, लेकिन हमने इस मुद्दे को कानून के स्तर पर ला दिया है। ग्रोक को एक मंच के रूप में नहीं माना जा सकता है। यह एक सामग्री निर्माता, एक कृत्रिम सामग्री निर्माता है। जैसे मैं एक मानव सामग्री निर्माता हूं, वैसे ही ग्रोक एक कृत्रिम है।”
MeitY ने एक्स को बताया है कि वह सरकार के 2 जनवरी के पत्र पर कंपनी के जवाब से संतुष्ट नहीं है। एक्स ने 7 जनवरी को अपना जवाब प्रस्तुत किया।
आंतरिक चर्चा से परिचित लोगों ने कहा कि सरकार ने बताया है कि एक्स की प्रस्तुति में उठाई गई मुख्य चिंताओं का समाधान नहीं किया गया है। एक अधिकारी ने जवाब का वर्णन करते हुए कहा कि कंपनी “अनिवार्य रूप से अपनी उपयोगकर्ता नीति को पांच पृष्ठों में पुन: प्रस्तुत कर रही है और इसे मंत्रालय को भेज रही है।”
ऊपर उद्धृत पहले अधिकारी ने कहा कि मंत्रालय ने अब एक्स से “स्पष्ट रूप से पहले यह बताने के लिए कहा है कि ग्रोक द्वारा उत्पन्न सामग्री के जवाब में उसने क्या कार्रवाई की है”, जिसमें आपत्तिजनक सामग्री और उपयोगकर्ताओं के खिलाफ उठाए गए कदम भी शामिल हैं।
भारत के लिए एक्स के मुख्य अनुपालन अधिकारी (सीसीओ) को संबोधित 2 जनवरी के पत्र में कहा गया है कि ग्रोक का दुरुपयोग महिलाओं की अश्लील छवियों या वीडियो को होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए अपमानजनक या अश्लील तरीके से उन्हें अभद्र तरीके से बदनाम करने के लिए किया जा रहा है।
मंत्रालय ने कहा कि दुरुपयोग केवल फर्जी खातों तक ही सीमित नहीं था और इसमें महिलाओं द्वारा अपलोड की गई वैध तस्वीरें और वीडियो भी शामिल थे जिन्हें एआई संकेतों और सिंथेटिक आउटपुट के माध्यम से हेरफेर किया गया था। इसने एक्स को एक विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने का निर्देश दिया, जिसमें ग्रोक के लिए तकनीकी उपायों, सीसीओ की भूमिका, आपत्तिजनक उपयोगकर्ताओं और सामग्री के खिलाफ की गई कार्रवाई और अनिवार्य अपराध-रिपोर्टिंग आवश्यकताओं को पूरा करने के लिए सिस्टम की रूपरेखा दी गई।
मामले से परिचित लोगों ने कहा कि 2 जनवरी के पत्र से पहले के दिनों में, MeitY ने राजनीतिक और धार्मिक प्रश्नों पर ग्रोक की प्रतिक्रियाओं पर एक्स की अनुपालन टीमों के साथ चर्चा की थी। उन्होंने कहा कि पत्र में उद्धृत यौन रूप से स्पष्ट और अपमानजनक सामग्री को उन नियमित बैठकों के दौरान नहीं उठाया गया था।
मंत्रालय ने चेतावनी दी कि अनुपालन में विफलता के परिणामस्वरूप सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मध्यस्थ प्रतिरक्षा का नुकसान हो सकता है और मंच, इसके जिम्मेदार अधिकारियों और उपयोगकर्ताओं के खिलाफ “कड़े कानूनी परिणाम” हो सकते हैं। इसने एक्स से ग्रोक की व्यापक तकनीकी और शासन-स्तरीय समीक्षा के लिए कहा ताकि यह सुनिश्चित किया जा सके कि यह गैरकानूनी या कामुक सामग्री उत्पन्न या बढ़ावा नहीं देता है।
2 जनवरी के पत्र में MeitY की 29 दिसंबर की सलाह के बाद मध्यस्थों को चेतावनी दी गई थी कि कुछ सोशल मीडिया सामग्री शालीनता और अश्लीलता कानूनों का उल्लंघन कर सकती है। एक अधिकारी ने कहा था, ”सामान्य धारणा है कि अश्लील सामग्री और एसएसएमआई में वृद्धि हुई है।” [significant social media intermediaries] इसे नियंत्रित करने के लिए पर्याप्त प्रयास नहीं कर रहे हैं।”
