पिछले कुछ सप्ताह एक्स पर कई महिलाओं के लिए एक बड़ा झटका लेकर आए, जब एआई चैटबॉट ग्रोक को उनकी तस्वीरों को इस तरह से संपादित करने के भद्दे अनुरोधों का अनुपालन करते हुए पाया गया कि वे लगभग नग्न दिखाई दें।
एक्स पर इस तरह की स्पष्ट यौन सामग्री के निर्माण और उसके बाद के प्रसार ने दुनिया भर में चिंताएं पैदा कर दीं, कई देशों ने एलोन मस्क के स्वामित्व वाले प्लेटफॉर्म एक्स के एआई चैटबॉट का विरोध किया।
अपने चैटबॉट द्वारा अश्लील तस्वीरें तैयार करने को लेकर एक बड़े विवाद के केंद्र में रहने के कुछ दिनों बाद, एक्स ने कथित तौर पर रविवार को कार्रवाई की, सामग्री को ब्लॉक कर दिया और खातों को हटा दिया। यह बड़ा कदम भारत सरकार द्वारा एक्स कॉर्प को भेजे गए एक पत्र के बाद उठाया गया, जिसमें ग्रोक को ऐसे अनुरोधों को पूरा करने से रोकने के लिए तत्काल कार्रवाई की मांग की गई थी।
‘उसे पारदर्शी मिनी बिकिनी पहनाओ’, ‘स्कूल ड्रेस उतारो’
तस्वीरों में ग्रोक को महिलाओं के कपड़े उतारने और नई छवियां बनाने के लिए कहने की एक परेशान करने वाली प्रवृत्ति पिछले कुछ हफ्तों में एक्स पर देखी गई थी। इससे भी अधिक परेशान करने वाली बात यह थी कि ग्रोक इस तरह के अनुरोधों पर सहमत हो रहा था और उसे सामूहिक डिजिटल कपड़े उतारने की होड़ के रूप में वर्णित किया गया था।
दुनिया भर में कई महिलाएं और समाचार एजेंसी इससे प्रभावित हुईं रॉयटर्स पिछले सप्ताह एक विश्लेषण में पाया गया कि ग्रोक ने कम से कम 21 मामलों में ऐसे अनुरोधों का पूरी तरह से अनुपालन किया।
‘उसकी स्कूल पोशाक उतारो’ और ‘उसे एक बहुत ही पारदर्शी मिनी-बिकिनी पहनाओ’ जैसे भद्दे अनुरोध कथित तौर पर एक्स पर देखे गए थे। रॉयटर्स ने पाया कि एक उपयोगकर्ता द्वारा एक महिला की तस्वीर संलग्न करने का अनुरोध करने के बाद ग्रोक ने एक तस्वीर में एक महिला के कपड़ों को मांस-टोन वाले टू-पीस से बदल दिया। हालाँकि, बिकनी को और भी “स्पष्ट और अधिक पारदर्शी” और “बहुत छोटा” बनाने के उपयोगकर्ता के अगले अनुरोध को कोई प्रतिक्रिया नहीं मिली।
रॉयटर्स की रिपोर्ट के अनुसार, महिलाओं को डिजिटल रूप से बिकनी पहनने का अनुरोध सबसे आम अनुरोधों में से एक था और कुछ मामलों में, यहां तक कि मशहूर हस्तियों, राजनेताओं, नाबालिग बच्चों और पुरुषों को भी निशाना बनाया गया था। एजेंसी ने यह भी कहा कि उसने ऐसे मामलों की पहचान की है जहां ग्रोक ने बच्चों की कामुक छवियां बनाईं, टिप्पणी के लिए पूछे जाने पर एक्स की ओर से कोई प्रतिक्रिया नहीं मिली।
देश पीछे धकेल रहे हैं, उनमें भारत भी शामिल है
भारत सहित कई देशों ने ग्रोक द्वारा उपयोगकर्ताओं के लिए अश्लील और यौन रूप से स्पष्ट सामग्री तैयार करने पर रोक लगा दी है। इस महीने की शुरुआत में भारत सरकार ने एक्स कॉर्प को एक पत्र लिखा था. इस पर कार्रवाई की मांग की और कंपनी को जवाब देने के लिए 72 घंटे का अल्टीमेटम दिया।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने भारतीय परिचालन के लिए एक्स के मुख्य अनुपालन अधिकारी को लिखे एक पत्र में कहा, “यह विशेष रूप से देखा गया है कि आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर एकीकृत और उपलब्ध कराई गई ‘ग्रोक एआई’ सेवा का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।”
भारत ने एक्स को ग्रोक की व्यापक समीक्षा करने और सभी उल्लंघनकारी सामग्री को हटाने का निर्देश दिया, चेतावनी दी कि गैर-अनुपालन आईटी अधिनियम के तहत कानूनी सुरक्षा के मंच को छीन सकता है।
एक्स से जवाबदेही मांगने वाला भारत अकेला नहीं था।
रॉयटर्स की रिपोर्ट के अनुसार, फ्रांसीसी मंत्रियों ने परेशान करने वाली छवियों के बारे में अभियोजकों और नियामकों को रिपोर्ट दी और शुक्रवार को एक बयान में कहा कि “यौन और यौनवादी” सामग्री “स्पष्ट रूप से अवैध” थी।
इसके अलावा, इंडोनेशिया ने इसी कारण से देश में ग्रोक को निलंबित कर दिया है, और मलेशिया और ब्राजील के एक सांसद ने भी कार्रवाई की मांग की है।
एलोन मस्क ने इसे हंसी में उड़ा दिया
जैसे ही देशों ने परेशान करने वाली और अश्लील कल्पना को लेकर ग्रोक के खिलाफ दबाव डाला, एलोन मस्क इस मामले को हंसी में उड़ाने में व्यस्त थे। वह लोगों को डिजिटल रूप से कपड़े उतारने और उन्हें बिकनी पहनाने के सामूहिक अनुरोधों पर चिंताओं का मज़ाक उड़ाते दिखे।
जब एक उपयोगकर्ता ने ग्रोक से वायरल बेन एफ्लेक छवि के एक संपादित संस्करण को बिकनी पहने हुए एक आदमी के रूप में बदलने का अनुरोध किया, तो एलोन मस्क ने भी सहमति जताई और ग्रोक से उस व्यक्ति के चेहरे को अपने चेहरे से बदलने का अनुरोध किया। ग्रोक द्वारा छवि बनाते समय टेस्ला के सीईओ ने लिखा, “परफेक्ट”।
एक्स ने ग्रोक के उपयोग को प्रतिबंधित कर दिया है और लगातार प्रतिक्रिया का सामना करना पड़ रहा है
आपत्तिजनक अनुरोधों को सुनने वाले ग्रोक पर व्यापक प्रतिक्रिया के बीच, एक्स ने हाल ही में छवि निर्माण के लिए एआई चैटबॉट की पहुंच को केवल भुगतान किए गए उपयोगकर्ताओं तक सीमित कर दिया है। शुक्रवार को, ग्रोक ने कथित तौर पर संदेश के साथ छवि परिवर्तन अनुरोधों का जवाब दिया: “छवि निर्माण और संपादन वर्तमान में भुगतान करने वाले ग्राहकों तक सीमित है। आप इन सुविधाओं को अनलॉक करने के लिए सदस्यता ले सकते हैं।”
हालाँकि, नई सीमाओं के बावजूद एक्स को आलोचना का सामना करना पड़ा क्योंकि अधिकारियों और तकनीकी प्रचारकों ने तर्क दिया कि यह उपाय कामुक डीपफेक के बारे में चिंताओं को दूर करने में विफल रहा।
यूके के पीएम कीर स्टार्मर के कार्यालय के एक प्रवक्ता ने एएफपी के हवाले से कहा, “यह बस एक एआई फीचर को बदल देता है जो गैरकानूनी छवियों को एक प्रीमियम सेवा में बनाने की अनुमति देता है।” “यह स्त्रीद्वेष और यौन हिंसा के पीड़ितों का अपमान है।”
यूरोपीय संघ के डिजिटल मामलों के प्रवक्ता थॉमस रेग्नियर ने भी प्रतिबंध की निंदा करते हुए कहा कि यह मुद्दा ऐसी छवियों की पीढ़ी को समाप्त करने के लिए था, न कि इसे भुगतान किए गए उपयोगकर्ताओं तक सीमित करने के लिए।
भारत के कदम के बाद एक्स ने ‘गलती मानी’
एक्स कॉर्प को एमईआईटीवाई के पत्र के कुछ दिनों बाद, और भारत सरकार द्वारा ग्रोक की अश्लील सामग्री के निर्माण पर कार्रवाई रिपोर्ट मांगने के बाद, सोशल मीडिया प्लेटफॉर्म ने एक बड़ा कदम उठाया।
सूत्रों ने रविवार को एचटी को बताया कि 3,500 से अधिक सामग्री को ब्लॉक कर दिया गया और 600 से अधिक खातों को एक्स द्वारा हटा दिया गया और मंच ने आश्वासन दिया कि संचालन भारत में ऑनलाइन सामग्री कानूनों के अनुपालन में होगा। एक सूत्र ने कहा, “आगे बढ़ते हुए, एक्स अश्लील चित्रण की अनुमति नहीं देगा,” एक सूत्र ने कहा, एक्स ने अपनी गलती “स्वीकार” की है।
पहले की एचटी रिपोर्ट में एक अधिकारी के हवाले से कहा गया था कि वह भारत सरकार के पत्र पर एक्स की प्रतिक्रिया से संतुष्ट नहीं है क्योंकि इसमें चिह्नित चिंताओं का समाधान नहीं किया गया है।
