शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने शनिवार को एक्स पर अपने एआई टूल ग्रोक के माध्यम से कामुक छवियों की पीढ़ी को रोकने के बजाय हानिकारक व्यवहार का मुद्रीकरण करने का आरोप लगाया, उन्होंने कहा कि प्लेटफ़ॉर्म ने अंतर्निहित समस्या को संबोधित करने के बजाय इस सुविधा को भुगतान किए गए उपयोगकर्ताओं तक ही सीमित कर दिया है।
यौन छवियों को बनाने और प्रकाशित करने के लिए एआई के टूल के उपयोग पर व्यापक प्रतिक्रिया के बाद, ग्रोक ने शुक्रवार को एक्स उपयोगकर्ताओं को बताया कि छवि निर्माण और संपादन सुविधाएं केवल भुगतान करने वाले ग्राहकों के लिए उपलब्ध थीं।
चतुर्वेदी ने एक्स पर एक पोस्ट में कहा, “यह देखना दुर्भाग्यपूर्ण है कि ग्रोक के माध्यम से समस्याग्रस्त, कामुक छवि निर्माण को पूरी तरह से रोकने के बजाय, मंच ने इसका उपयोग भुगतान किए गए उपयोगकर्ताओं तक ही सीमित कर दिया है।” उन्होंने कहा कि इससे महिलाओं और बच्चों की छवियों का अनधिकृत दुरुपयोग हो सकता है। उन्होंने इस कदम को “एआई का शर्मनाक उपयोग” बताया और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) और आईटी मंत्री अश्विनी वैष्णव को टैग किया।
चतुर्वेदी ने उसी दिन यह टिप्पणी की जब इंडोनेशिया ने इस चिंता के कारण ग्रोक को अस्थायी रूप से अवरुद्ध कर दिया कि एआई उपकरण अश्लील सामग्री उत्पन्न कर सकता है, और इस तक पहुंच को प्रतिबंधित करने वाला पहला देश बन गया। यह कदम पूरे यूरोप और एशिया में सरकारों और नियामकों की आलोचना के बाद उठाया गया है, जिसमें कुछ अधिकारियों ने कामुक सामग्री के निर्माण में ग्रोक की भूमिका की जांच शुरू की है।
भारत में, MeitY और X इसी मुद्दे पर विवाद में हैं। मंत्रालय ने 2 जनवरी को एक पत्र में एक्स से प्रतिक्रिया मांगी थी और उसे एक कार्रवाई रिपोर्ट प्रस्तुत करने और ग्रोक की व्यापक तकनीकी, प्रक्रियात्मक और शासन-स्तरीय समीक्षा करने के लिए कहा था। उस समय चतुर्वेदी ने केंद्रीय एमईआईटीवाई मंत्री अश्विनी वैष्णव को भी पत्र लिखकर कार्रवाई करने के लिए कहा था।
इस पत्र पर एक्स की प्रतिक्रिया प्राप्त करने के बाद, MeitY ने एक्स को बताया कि वह कंपनी की प्रतिक्रिया से संतुष्ट नहीं है। जैसा कि पहले एचटी द्वारा रिपोर्ट किया गया था, मंत्रालय कानूनी राय मांग रहा है और उसका विचार है कि ग्रोक को एक प्लेटफ़ॉर्म टूल के बजाय एक सामग्री निर्माता के रूप में माना जाना चाहिए, जिससे कंपनी को गैरकानूनी सामग्री और उपयोगकर्ताओं के खिलाफ की गई कार्रवाई को स्पष्ट रूप से बताने के लिए कहा जा सके।
भारत सरकार ने एक्स को यह भी याद दिलाया है कि सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत सुरक्षित बंदरगाह संरक्षण केवल तभी लागू होता है जब उचित परिश्रम दायित्वों का सख्ती से पालन किया जाता है। धारा 79 के तहत, एक्स जैसे प्लेटफ़ॉर्म को उनकी सेवाओं पर होस्ट की गई उपयोगकर्ता-जनित सामग्री के लिए कानूनी रूप से उत्तरदायी नहीं ठहराया जाता है, जब तक कि वे सरकार द्वारा निर्धारित उचित परिश्रम आवश्यकताओं का पालन करते हैं।
MeitY और X ने टिप्पणी के अनुरोधों का जवाब नहीं दिया।
