एक वरिष्ठ अधिकारी ने एचटी को बताया कि सरकार ने मंगलवार को एक्स कॉर्प को उसके ग्रोक एआई चैटबॉट को अश्लील और यौन रूप से स्पष्ट सामग्री उत्पन्न करने से रोकने के लिए की गई कार्रवाई पर एक विस्तृत अनुपालन रिपोर्ट प्रस्तुत करने के लिए 48 घंटे का विस्तार दिया।
शुक्रवार को, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने अपने प्लेटफॉर्म पर ग्रोक एआई के दुरुपयोग पर प्रतिक्रिया देने के लिए एक्स (पूर्व में ट्विटर) को 72 घंटे का समय दिया था।
एलोन मस्क के स्वामित्व वाले माइक्रोब्लॉगिंग प्लेटफॉर्म के पास अब MeitY के पत्र का जवाब देने के लिए 7 जनवरी, शाम 5 बजे तक का समय है।
यह भी पढ़ें | ‘बिकनी को पतला बनाएं’, ‘उसके पैर फैलाएं’: ग्रोक पर कपड़े उतारने की होड़ चिंताजनक है
मंत्रालय ने 2 जनवरी को एक्स को कड़े शब्दों में एक पत्र लिखा था, जिसमें उसने अपने एआई टूल ग्रोक का उपयोग करके उत्पन्न अश्लील और यौन रूप से स्पष्ट सामग्री को रोकने में गंभीर विफलताओं को चिह्नित किया था, और चेतावनी दी थी कि लगातार गैर-अनुपालन से भारतीय कानून के तहत कानूनी सुरक्षा का नुकसान हो सकता है।
48 घंटे का विस्तार तब दिया गया जब एक्स ने एमईआईटीवाई को सूचित किया कि उसके कर्मचारी दो मध्यवर्ती सार्वजनिक छुट्टियों – क्रिसमस और नए साल – का हवाला देते हुए छुट्टी पर थे, क्योंकि उसे जवाब देने के लिए अतिरिक्त समय की आवश्यकता थी। 2 जनवरी के पत्र से पहले दो दिनों में, MeitY राजनीतिक और धार्मिक मुद्दों पर ग्रोक की प्रतिक्रियाओं पर एक्स की अनुपालन टीमों के साथ चर्चा कर रहा था, जैसा कि एचटी ने 3 जनवरी को पहली बार रिपोर्ट किया था।
ऊपर उद्धृत व्यक्ति ने एचटी को बताया कि ये चर्चाएं अश्लील या अश्लील सामग्री से संबंधित नहीं थीं, यही कारण है कि एमईआईटीवाई के पत्र ने एक्स को आश्चर्यचकित कर दिया था।
यह भी पढ़ें | ग्रोक के ‘कपड़े उतारने’ की होड़ पर हंगामे के बाद एलोन मस्क, एक्स ने ‘परिणामों’ की चेतावनी दी
3 जनवरी को होने वाली बैठक एक्स द्वारा स्थगित करने के अनुरोध के बाद नहीं हुई।
भारत के लिए एक्स के मुख्य अनुपालन अधिकारी (सीसीओ) विनय प्रकाश को संबोधित पत्र में कहा गया है, “यह विशेष रूप से देखा गया है कि उपयोगकर्ताओं द्वारा ‘ग्रोक एआई’ नाम की सेवा का दुरुपयोग महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए किया जा रहा है ताकि उन्हें अभद्रता से बदनाम किया जा सके।” इसमें कहा गया है कि दुरुपयोग केवल नकली खातों तक ही सीमित नहीं है और यह उन महिलाओं को भी लक्षित करता है जो वैध रूप से अपनी तस्वीरें या वीडियो अपलोड करती हैं, जिन्हें बाद में एआई संकेतों और सिंथेटिक आउटपुट के माध्यम से हेरफेर किया जाता है।
MeitY ने एक्स को एक विस्तृत एक्शन टेकन रिपोर्ट (एटीआर) प्रस्तुत करने का निर्देश दिया है, जिसमें ग्रोक के लिए उठाए गए तकनीकी उपायों, सीसीओ द्वारा निभाई गई भूमिका, आपत्तिजनक उपयोगकर्ताओं और सामग्री के खिलाफ कार्रवाई और अनिवार्य अपराध रिपोर्टिंग आवश्यकताओं को पूरा करने के लिए लगाए गए सिस्टम का विवरण होना चाहिए।
मंत्रालय ने चेतावनी दी कि अनुपालन में विफलता से धारा 79 प्रतिरक्षा का नुकसान हो सकता है और मंच, इसके जिम्मेदार अधिकारियों और उपयोगकर्ताओं के खिलाफ बिना किसी पूर्व सूचना के “कड़े कानूनी परिणाम” हो सकते हैं।
यह पत्र तब जारी किया गया जब राज्यसभा सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को एमईआईटीवाई मंत्री अश्विनी वैष्णव को एक पत्र लिखा, जिसमें बताया गया कि ग्रोक महिलाओं की कामुक छवियां कैसे उत्पन्न करता है और सरकार से इस मामले को मंच के साथ उठाने का आग्रह किया।
एक कार्यक्रम में अलग से वैष्णव ने कहा, “आज सोशल मीडिया हमारे समाज में इतना बड़ा प्रभाव है…उन्हें सामग्री की जिम्मेदारी लेनी होगी।” [parliamentary] स्थायी समिति [on communications and information technology] ने बहुत दृढ़ता से सिफारिश की है कि सोशल मीडिया को जवाबदेह बनाने के लिए मजबूत कानून होने चाहिए।
एक्स ने टिप्पणी के लिए एचटी के अनुरोध का तुरंत जवाब नहीं दिया।
