नई दिल्ली: मामले की जानकारी रखने वाले अधिकारियों ने रविवार को कहा कि माइक्रोब्लॉगिंग प्लेटफॉर्म
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) द्वारा चैटबॉट से जुड़ी अश्लील और यौन रूप से स्पष्ट सामग्री पर पहली बार चिंता जताए जाने के लगभग एक हफ्ते बाद यह विकास हुआ।
भारत का कदम व्यापक अंतरराष्ट्रीय कार्रवाई का हिस्सा था, जिसके तहत इंडोनेशिया ने पहले ही यूरोपीय संघ और ब्रिटेन द्वारा ग्रोक तक पहुंच और जांच को निलंबित करने का आदेश दे दिया था।
ऊपर उद्धृत अधिकारियों द्वारा साझा किए गए एक हिंदी संचार में कहा गया है, “एक्स ने अपनी गलती स्वीकार कर ली है। कंपनी ने कहा कि वह भारत के कानूनों के अनुसार काम करेगी… आगे से, एक्स अश्लील चित्रण की अनुमति नहीं देगा।”
इस मुद्दे पर MeitY या X द्वारा कोई आधिकारिक टिप्पणी नहीं की गई। X द्वारा की गई कार्रवाई या जिस अवधि के दौरान यह कार्रवाई की गई थी, उस पर अधिक विवरण के लिए HT के अनुरोध पर MeitY से कोई प्रतिक्रिया नहीं मिली।
मस्क के xAI द्वारा विकसित और X में एकीकृत AI चैटबॉट ग्रोक गहन वैश्विक जांच के दायरे में आ गया है, जब उपयोगकर्ताओं ने महिलाओं और नाबालिगों सहित वास्तविक लोगों की गैर-सहमति वाली, कामुक डीपफेक छवियों को बनाने और साझा करने के लिए इसकी छवि-उत्पादन और संपादन क्षमताओं का उपयोग किया है। ये छवियां, जो अक्सर नग्न या यौन रूप से विचारोत्तेजक सामग्री का चित्रण करती हैं, एक्स और चिंतित नियामकों और अधिकार समूहों पर व्यापक रूप से फैल गईं। यूरोप, एशिया और उससे आगे की सरकारों ने टूल के सुरक्षा उपायों की आलोचना की है और पूछताछ शुरू की है, जबकि एक्स ने व्यापक प्रतिक्रिया के बीच इस सुविधा को आंशिक रूप से भुगतान करने वाले उपयोगकर्ताओं तक ही सीमित कर दिया है।
एमईआईटीवाई ने 2 जनवरी को एक्स को लिखा, जिसमें ग्रोक का उपयोग करके उत्पन्न अश्लील और स्पष्ट यौन सामग्री को रोकने में गंभीर विफलताओं को दर्शाया गया। मंत्रालय ने चेतावनी दी कि लगातार गैर-अनुपालन से भारतीय कानून के तहत एक्स की कानूनी सुरक्षा समाप्त हो सकती है। एक्स ने बीच की दो छुट्टियों – क्रिसमस और नए साल के दिन – का हवाला देते हुए विस्तार का अनुरोध किया, क्योंकि उसे अतिरिक्त समय की आवश्यकता थी।
2 जनवरी के पत्र से पहले दो दिनों में, एमईआईटीवाई ने राजनीतिक और धार्मिक मुद्दों पर ग्रोक की प्रतिक्रियाओं पर एक्स की अनुपालन टीमों के साथ चर्चा की थी, एचटी ने 3 जनवरी को रिपोर्ट दी थी। प्रतिक्रिया की समय सीमा 7 जनवरी को शाम 5 बजे थी।
सरकार द्वारा 7 जनवरी को एक्स की प्रतिक्रिया पर अपना असंतोष व्यक्त करने के बाद सामग्री हटाने का ताज़ा विवरण MeitY के साथ साझा किया गया था, अधिकारियों ने कहा कि यह विशिष्ट जानकारी प्रदान करने में विफल रहा और कंपनी की मौजूदा उपयोगकर्ता नीतियों को काफी हद तक दोहराया गया। यह स्पष्टीकरण मंत्रालय द्वारा 2 जनवरी के नोटिस पर एक्स की प्रारंभिक प्रतिक्रिया को अपर्याप्त पाए जाने के बाद मांगा गया था। इसके बाद मंत्रालय ने आपत्तिजनक सामग्री और उपयोगकर्ताओं के खिलाफ की गई ठोस कार्रवाई की रूपरेखा बताते हुए एक विस्तृत रिपोर्ट मांगी।
ऊपर उद्धृत अधिकारियों ने सरकार की स्थिति को भी रेखांकित किया कि ग्रोक को केवल एक प्लेटफ़ॉर्म टूल के बजाय एक सामग्री निर्माता के रूप में माना जाएगा, एक ऐसा वर्गीकरण जिसका मध्यस्थ दायित्व पर प्रभाव पड़ सकता है। MeitY ने एक्स को बताया था कि सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत सुरक्षित बंदरगाह संरक्षण केवल तभी लागू होता है जब उचित परिश्रम दायित्वों का सख्ती से पालन किया जाता है।
एक्स के मुख्य अनुपालन अधिकारी विनय प्रकाश को संबोधित अपने पत्र में, एमईआईटीवाई ने कहा, “यह विशेष रूप से देखा गया है कि ‘ग्रोक एआई’ नाम की सेवा का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए फर्जी खाते बनाने के लिए दुरुपयोग किया जा रहा है ताकि उन्हें अशोभनीय रूप से बदनाम किया जा सके।”
मंत्रालय ने कहा कि दुरुपयोग केवल फर्जी खातों तक ही सीमित नहीं है। यह उन महिलाओं को भी लक्षित करता है जो अपनी तस्वीरें या वीडियो अपलोड करती हैं, जिन्हें बाद में एआई संकेतों और सिंथेटिक आउटपुट के माध्यम से हेरफेर किया जाता है।
MeitY पत्र में कई कानूनी उल्लंघनों का हवाला दिया गया है, जिसमें अश्लील सामग्री से संबंधित आईटी अधिनियम की धाराएं, भारतीय न्याय संहिता (बीएनएस), महिलाओं का अश्लील प्रतिनिधित्व (निषेध) अधिनियम, 1986 और यौन अपराधों से बच्चों का संरक्षण (पोक्सो) अधिनियम, 2012 शामिल हैं।
मंत्रालय ने विशेष रूप से एक्स को निर्देश दिया कि वह ग्रोक के “त्वरित-प्रसंस्करण, आउटपुट-जनरेशन (बड़े भाषा मॉडल का उपयोग करके उत्पन्न प्रतिक्रियाएं), छवि-हैंडलिंग और सुरक्षा रेलिंग” की व्यापक समीक्षा करे ताकि यह सुनिश्चित किया जा सके कि एप्लिकेशन “नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री” वाली सामग्री उत्पन्न, बढ़ावा या सुविधा प्रदान नहीं करता है।
नोटिस में कहा गया है कि एक्स को अपने उपयोगकर्ता की सेवा की शर्तों को “उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे मजबूत निवारक उपायों” के साथ लागू करना होगा, और बिना किसी देरी के सभी उल्लंघन करने वाली सामग्री को हटाना होगा।
इस मुद्दे ने राजनीतिक ध्यान भी खींचा. वैश्विक प्रतिक्रिया के बीच मंच द्वारा ग्रोक की छवि-निर्माण सुविधा को भुगतान किए गए उपयोगकर्ताओं तक सीमित करने के बाद शिव सेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने एक्स पर “हानिकारक व्यवहार से कमाई” करने का आरोप लगाया।
MeitY के अधिकारियों ने HT को बताया कि मंत्रालय X और अन्य प्लेटफार्मों द्वारा अनुपालन की बारीकी से निगरानी करना जारी रखेगा, चेतावनी दी है कि उल्लंघन की किसी भी पुनरावृत्ति पर भारतीय कानून के तहत आगे की कार्रवाई हो सकती है।
आईटी अधिनियम के तहत, एक्स जैसे मध्यस्थों को उपयोगकर्ता-जनित सामग्री के दायित्व से सुरक्षित बंदरगाह सुरक्षा का आनंद मिलता है, लेकिन ये सुरक्षा उचित परिश्रम दायित्वों के सख्त पालन पर सशर्त हैं।
इस विवाद ने एआई छवि निर्माण टूल के सामने आने वाली व्यापक चुनौतियों पर भी प्रकाश डाला। ब्लूमबर्ग की रिपोर्ट के अनुसार, इंटरनेट वॉच फाउंडेशन, एक गैर-लाभकारी संस्था जो ऑनलाइन बाल यौन शोषण सामग्री की पहचान करती है, ने 2025 के पहले छह महीनों में एआई-जनित बाल दुर्व्यवहार चित्रण में 400% की वृद्धि दर्ज की है।
एआई ने ग्रोक को अन्य मुख्यधारा एआई मॉडलों की तुलना में अधिक अनुमेय के रूप में स्थान दिया है और पिछली गर्मियों में “स्पाइसी मोड” नामक एक सुविधा पेश की है जो आंशिक वयस्क नग्नता और यौन विचारोत्तेजक सामग्री की अनुमति देती है। यह सेवा वास्तविक लोगों की समानता वाली अश्लीलता और नाबालिगों से जुड़ी यौन सामग्री पर प्रतिबंध लगाती है, जिसे बनाना या वितरित करना अवैध है।
