इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) अपने एआई टूल ग्रोक द्वारा उत्पन्न आपत्तिजनक सामग्री पर एक्स के खिलाफ संभावित कार्रवाई पर कानूनी राय मांग रहा है। यह एक संभावित वृद्धि का संकेत देता है जो भारतीय कानून में अज्ञात क्षेत्र का परीक्षण कर सकता है: क्या जेनेरिक एआई सिस्टम को तटस्थ प्लेटफ़ॉर्म टूल के बजाय सामग्री निर्माता के रूप में उत्तरदायी ठहराया जाना चाहिए।
यह कदम तब उठाया गया है जब मंत्रालय ने ग्रोक द्वारा बनाए गए स्पष्ट यौन डीपफेक पर कार्रवाई की मांग करने वाले 2 जनवरी के पत्र पर एक्स की प्रतिक्रिया को खारिज कर दिया है, अधिकारियों ने कंपनी की प्रस्तुति को अपर्याप्त बताया है।
मामला एक नियामक चुनौती पेश करता है जो एक्स से आगे तक फैली हुई है। सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत, प्लेटफ़ॉर्म उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए दायित्व से “सुरक्षित आश्रय” प्रतिरक्षा का आनंद लेते हैं, बशर्ते वे उचित परिश्रम आवश्यकताओं का अनुपालन करते हैं। लेकिन ग्रोक जैसे जेनेरिक एआई सिस्टम एक अस्पष्ट स्थान घेरते हैं – वे न तो उपयोगकर्ता सामग्री प्रसारित करने वाले निष्क्रिय प्लेटफ़ॉर्म हैं और न ही पारंपरिक उपयोगकर्ता स्वतंत्र रूप से सामग्री बनाते हैं। MeitY की स्थिति कि ग्रोक को एक सामग्री निर्माता के रूप में वर्गीकृत किया जाना चाहिए, अगर बरकरार रखा जाता है, तो यह एक मिसाल कायम कर सकता है कि भारत विभिन्न प्लेटफार्मों पर AI-जनित सामग्री को कैसे नियंत्रित करता है।
आईटी मंत्रालय के एक वरिष्ठ अधिकारी ने कहा, “विपरीत पक्ष बहुत बड़ा और बहुत शक्तिशाली है, यही कारण है कि हमारा रुख स्पष्ट होना चाहिए। देश का कानून प्रबल होना चाहिए।” उन्होंने कहा कि यही दृष्टिकोण अन्य प्लेटफार्मों पर भी लागू होगा यदि उनके एआई बॉट गैरकानूनी सामग्री उत्पन्न करते हैं। “हालांकि, ग्रोक के मामले में, प्रभाव तेज हो गया है क्योंकि यह एक्स जैसे प्लेटफॉर्म पर काम करता है।”
अधिकारियों ने कहा कि मंत्रालय ने स्पष्ट कर दिया है कि ग्रोक को एक तटस्थ मंच उपकरण के रूप में नहीं माना जा सकता है। अधिकारी ने कहा, “मानसिकता अब बदल गई है। पहले, वे उच्च पद से काम कर रहे थे, लेकिन हम इस मुद्दे को कानून के स्तर पर ले आए हैं।” “ग्रोक को एक मंच के रूप में नहीं माना जा सकता है। यह एक सामग्री निर्माता है, एक कृत्रिम सामग्री निर्माता है। जैसे मैं एक मानव सामग्री निर्माता हूं, ग्रोक एक कृत्रिम है।”
MeitY ने एक्स को बताया है कि वह सरकार के पत्र पर कंपनी की 7 जनवरी की प्रतिक्रिया से संतुष्ट नहीं है। आंतरिक चर्चा से परिचित लोगों के अनुसार, सरकार ने बताया है कि एक्स की प्रस्तुति में मुख्य चिंताओं का समाधान नहीं किया गया है। एक अधिकारी ने जवाब का वर्णन करते हुए कहा कि कंपनी “अनिवार्य रूप से अपनी उपयोगकर्ता नीति को पांच पृष्ठों में पुन: प्रस्तुत कर रही है और उन्हें मंत्रालय को भेज रही है”।
ग्रोक की छवि हेरफेर का मुद्दा एक वैश्विक विवाद में बदल गया है, यूरोप और अन्य जगहों पर कई नियामकों ने जांच शुरू कर दी है। एक्स ने शुक्रवार को घोषणा की कि वह छवि-निर्माण क्षमताओं को केवल भुगतान किए गए उपयोगकर्ताओं तक ही सीमित कर रहा है क्योंकि प्रतिक्रिया बढ़ गई है।
भारत सरकार ने एक्स से “स्पष्ट रूप से पहले यह बताने के लिए कहा है कि ग्रोक द्वारा उत्पन्न सामग्री के जवाब में उसने क्या कार्रवाई की है”, जिसमें आपत्तिजनक सामग्री और उपयोगकर्ताओं के खिलाफ उठाए गए कदम भी शामिल हैं।
MeitY के 2 जनवरी के पत्र ने ग्रोक का उपयोग करके उत्पन्न अश्लील और यौन रूप से स्पष्ट सामग्री को रोकने में गंभीर विफलताओं को चिह्नित किया, चेतावनी दी कि निरंतर गैर-अनुपालन से भारतीय कानून के तहत कानूनी सुरक्षा का नुकसान हो सकता है।
भारत के लिए एक्स के मुख्य अनुपालन अधिकारी को संबोधित पत्र में कहा गया है, “यह विशेष रूप से देखा गया है कि ‘ग्रोक एआई’ नाम की सेवा का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।”
मंत्रालय ने कहा कि दुरुपयोग केवल फर्जी खातों तक सीमित नहीं था और इसमें महिलाओं द्वारा अपलोड की गई वैध तस्वीरें और वीडियो भी शामिल थे जिन्हें बाद में एआई संकेतों और सिंथेटिक आउटपुट के माध्यम से हेरफेर किया गया था। इसने एक्स को ग्रोक के लिए तकनीकी उपायों, मुख्य अनुपालन अधिकारी की भूमिका, आपत्तिजनक उपयोगकर्ताओं और सामग्री के खिलाफ की गई कार्रवाई और अनिवार्य अपराध-रिपोर्टिंग आवश्यकताओं को पूरा करने के लिए सिस्टम को रेखांकित करते हुए एक विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने का निर्देश दिया।
मामले से परिचित लोगों ने कहा कि 2 जनवरी के पत्र से पहले के दिनों में, MeitY ने राजनीतिक और धार्मिक प्रश्नों पर ग्रोक की प्रतिक्रियाओं पर एक्स की अनुपालन टीमों के साथ चर्चा की थी, और कहा कि पत्र में उद्धृत यौन रूप से स्पष्ट और अपमानजनक सामग्री को उन नियमित बैठकों के दौरान नहीं उठाया गया था।
मंत्रालय ने चेतावनी दी कि अनुपालन में विफलता के परिणामस्वरूप सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मध्यस्थ प्रतिरक्षा का नुकसान हो सकता है और मंच, इसके जिम्मेदार अधिकारियों और उपयोगकर्ताओं के खिलाफ “कड़े कानूनी परिणाम” हो सकते हैं। इसने एक्स को ग्रोक की व्यापक तकनीकी और शासन-स्तरीय समीक्षा करने के लिए भी कहा है ताकि यह सुनिश्चित किया जा सके कि यह गैरकानूनी या कामुक सामग्री उत्पन्न या बढ़ावा नहीं देता है।
2 जनवरी के पत्र में MeitY की 29 दिसंबर की सलाह के बाद मध्यस्थों को चेतावनी दी गई थी कि कुछ सोशल मीडिया सामग्री शालीनता और अश्लीलता कानूनों का उल्लंघन कर सकती है। उस समय, एक वरिष्ठ अधिकारी ने कहा कि “सामान्य धारणा थी कि अश्लील सामग्री बढ़ गई है और महत्वपूर्ण सोशल मीडिया मध्यस्थ इसे नियंत्रित करने के लिए पर्याप्त प्रयास नहीं कर रहे हैं”।
एक्स ने टिप्पणी के अनुरोधों का जवाब नहीं दिया।
