सरकार ने एलोन मस्क की एक्स को 72 घंटे का अल्टीमेटम जारी किया क्योंकि ग्रोक ने कामुक तस्वीरें जारी कीं| भारत समाचार

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने एक्स को ग्रोक की व्यापक तकनीकी समीक्षा करने और सभी उल्लंघनकारी सामग्री को हटाने का निर्देश दिया, चेतावनी दी कि अनुपालन में विफलता के परिणामस्वरूप सूचना प्रौद्योगिकी (आईटी) अधिनियम के तहत कानूनी सुरक्षा का नुकसान हो सकता है और संभावित आपराधिक मुकदमा चलाया जा सकता है।

MeitY नोटिस में कई कानूनी उल्लंघनों का हवाला दिया गया है, जिसमें अश्लील सामग्री से संबंधित आईटी अधिनियम की धाराएं, भारतीय न्याय संहिता (बीएनएस), महिलाओं का अश्लील प्रतिनिधित्व (निषेध) अधिनियम, 1986 और यौन अपराधों से बच्चों का संरक्षण (पोक्सो) अधिनियम, 2012 शामिल हैं।

मंत्रालय ने भारतीय परिचालन के लिए एक्स के मुख्य अनुपालन अधिकारी को लिखे एक पत्र में कहा, “यह विशेष रूप से देखा गया है कि आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर एकीकृत और उपलब्ध कराई गई ‘ग्रोक एआई’ सेवा का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।”

यह कार्रवाई तब हुई जब शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने हस्तक्षेप की मांग की, जिसमें बताया गया कि कैसे पुरुष एक्स पर महिलाओं की तस्वीरें पोस्ट करने के लिए फर्जी खातों का उपयोग कर रहे हैं और उनके कपड़ों को कम करने और उन्हें कामुक बनाने के लिए ग्रोक संकेतों का उपयोग कर रहे हैं।

इलेक्ट्रॉनिक्स और आईटी मंत्री अश्विनी वैष्णव को लिखे पत्र में, चतुर्वेदी ने कहा कि यह प्रवृत्ति “एआई फ़ंक्शन के अस्वीकार्य और घोर दुरुपयोग” का प्रतिनिधित्व करती है।

“यह है [a] महिलाओं की निजता के अधिकार का उल्लंघन और साथ ही उनकी तस्वीरों का अनधिकृत उपयोग, जो न केवल अनैतिक है, बल्कि आपराधिक भी है।” राज्यसभा सांसद ने कहा, ”हमारा देश रचनात्मकता और नवीनता की आड़ में शून्य परिणामों के साथ सार्वजनिक और डिजिटल रूप से महिलाओं की गरिमा के उल्लंघन का मूकदर्शक नहीं बन सकता।”

दिल्ली में एक कार्यक्रम में बोलते हुए वैष्णव ने इस मुद्दे पर बात की. “आज सोशल मीडिया का हमारे समाज में इतना बड़ा प्रभाव है…उन्हें सामग्री की जिम्मेदारी लेनी होगी।” [parliamentary] स्थायी समिति [on communications and information technology] ने बहुत दृढ़ता से सिफारिश की है कि सोशल मीडिया को जवाबदेह बनाने के लिए मजबूत कानून होने चाहिए।

ब्लूमबर्ग की रिपोर्ट के अनुसार, अलग से, चैटबॉट ने हाल के दिनों में नाबालिगों की कामुक छवियां बनाने की बात भी स्वीकार की है, जो उसकी अपनी स्वीकार्य उपयोग नीति का उल्लंघन है।

चैटबॉट ने इस सप्ताह एक्स पर पोस्ट की एक श्रृंखला में कहा कि ग्रोक ने पिछले कुछ दिनों में उपयोगकर्ता के संकेतों के जवाब में न्यूनतम कपड़ों में नाबालिगों की छवियां बनाईं। ग्रोक ने शुक्रवार को पोस्ट किया, “हमने सुरक्षा उपायों में खामियों की पहचान की है और उन्हें तत्काल ठीक कर रहे हैं।” ब्लूमबर्ग के अनुसार, बाल यौन शोषण सामग्री “अवैध और निषिद्ध” है। आपत्तिजनक तस्वीरें हटा दी गईं.

एक्स और केंद्र सरकार पिछले एक साल से सहयोग पोर्टल पर कानूनी लड़ाई में उलझे हुए हैं, जो कंटेंट मॉडरेशन ऑर्डर प्रसारित करता है – एक तंत्र जिसे अमेरिकी कंपनी “सेंसरशिप पोर्टल” कहती है।

मामले से परिचित लोगों के अनुसार, एक्स और मंत्रालय व्यापक उद्योग-सरकारी जुड़ाव के हिस्से के रूप में नियमित आधार पर बैठकें करते हैं। दो दिन पहले, मंत्रालय और एक्स ने हाल के दिनों में ग्रोक द्वारा प्रस्तुत राजनीतिक और कुछ धार्मिक सामग्री पर मिलने का फैसला किया।

इस व्यक्ति ने कहा कि शनिवार को एक बैठक निर्धारित की गई है लेकिन कंपनी संभवतः इसे स्थगित करने की मांग करेगी।

एमईआईटीवाई सचिव एस कृष्णन ने एचटी से पुष्टि की कि मंत्रालय ने राज्यसभा सदस्य चतुर्वेदी सहित कई शिकायतों के नोट के बाद कार्रवाई की।

संयुक्त सचिव अजीत कुमार द्वारा हस्ताक्षरित कंपनी को भेजे गए नोटिस में कहा गया है कि दुरुपयोग “फर्जी खातों के निर्माण तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी लक्षित किया जाता है जो संकेतों, छवि हेरफेर और सिंथेटिक आउटपुट के माध्यम से अपनी छवियों या वीडियो को होस्ट या प्रकाशित करती हैं”।

मंत्रालय ने विशेष रूप से एक्स को निर्देश दिया कि वह ग्रोक के “त्वरित-प्रसंस्करण, आउटपुट-जनरेशन (बड़े भाषा मॉडल का उपयोग करके उत्पन्न प्रतिक्रियाएं), छवि-हैंडलिंग और सुरक्षा रेलिंग” की व्यापक समीक्षा करे ताकि यह सुनिश्चित किया जा सके कि एप्लिकेशन “नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री” वाली सामग्री उत्पन्न, बढ़ावा या सुविधा प्रदान नहीं करता है।

नोटिस में कहा गया है कि एक्स को अपने उपयोगकर्ता की सेवा की शर्तों को “उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे मजबूत निवारक उपायों” के साथ लागू करना होगा, और बिना किसी देरी के सभी उल्लंघन करने वाली सामग्री को हटाना होगा।

कंपनी को ग्रोक के लिए अपनाए गए विशिष्ट तकनीकी और संगठनात्मक उपायों, मुख्य अनुपालन अधिकारी की भूमिका, आपत्तिजनक सामग्री और खातों के खिलाफ की गई कार्रवाई और आपराधिक कानून के तहत अनिवार्य रिपोर्टिंग सुनिश्चित करने के तंत्र को कवर करते हुए 72 घंटों के भीतर एक विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने का आदेश दिया गया है।

नोटिस में चेतावनी दी गई है कि “उपरोक्त आवश्यकताओं का अनुपालन न करने को गंभीरता से लिया जाएगा और इसके परिणामस्वरूप आपके प्लेटफ़ॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफ़ॉर्म पर कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ सख्त कानूनी परिणाम हो सकते हैं”।

आईटी अधिनियम के तहत, एक्स जैसे मध्यस्थों को उपयोगकर्ता-जनित सामग्री के दायित्व से सुरक्षित बंदरगाह सुरक्षा का आनंद मिलता है, लेकिन ये सुरक्षा उचित परिश्रम दायित्वों के सख्त पालन पर सशर्त हैं। मंत्रालय के नोटिस से स्पष्ट है कि अनुपालन में विफलता के परिणामस्वरूप इन छूटों का नुकसान हो सकता है।

विवाद एआई छवि निर्माण टूल के सामने आने वाली व्यापक चुनौतियों को उजागर करते हैं। ब्लूमबर्ग की रिपोर्ट के अनुसार, इंटरनेट वॉच फाउंडेशन, एक गैर-लाभकारी संस्था जो ऑनलाइन बाल यौन शोषण सामग्री की पहचान करती है, ने 2025 के पहले छह महीनों में एआई-जनित बाल दुर्व्यवहार चित्रण में 400% की वृद्धि दर्ज की है।

एक्सएआई ने ग्रोक को अन्य मुख्यधारा एआई मॉडलों की तुलना में अधिक अनुमेय के रूप में स्थान दिया है और पिछली गर्मियों में “स्पाइसी मोड” नामक एक सुविधा पेश की है जो आंशिक वयस्क नग्नता और यौन विचारोत्तेजक सामग्री की अनुमति देती है। यह सेवा वास्तविक लोगों की समानता वाली अश्लीलता और नाबालिगों से जुड़ी यौन सामग्री पर प्रतिबंध लगाती है, जिसे बनाना या वितरित करना अवैध है।

MeitY नोटिस गृह मंत्रालय, महिला एवं बाल विकास मंत्रालय, सूचना एवं प्रसारण मंत्रालय, राष्ट्रीय महिला आयोग, राष्ट्रीय बाल अधिकार संरक्षण आयोग के सचिवों और सभी राज्य सरकारों और केंद्र शासित प्रदेशों के मुख्य सचिवों को भी भेजा गया था।