‘बिकनी को पतला बनाएं’, ‘पैर फैलाएं’: मस्क के ग्रोक पर बड़े पैमाने पर डिजिटल कपड़े उतारने की होड़ मच गई है, लेकिन वह मज़ाक उड़ा रहे हैं

ग्रोक-जनित स्पष्ट सामग्री के विस्फोट की पुष्टि चैटबॉट द्वारा पोस्ट किए गए सफलतापूर्वक पूर्ण किए गए कपड़े हटाने के अनुरोधों और महिला उपयोगकर्ताओं की शिकायतों की रॉयटर्स समीक्षा द्वारा की गई थी।

इस मामले पर ध्यान देने के लिए वैश्विक आह्वान के बीच, मस्क शुक्रवार को पहले विवाद पर मज़ाक उड़ाते हुए दिखाई दिए, बिकनी में प्रसिद्ध लोगों के एआई संपादन के जवाब में हंसी-रोने वाले इमोजी पोस्ट किए – जिनमें खुद भी शामिल थे।

महिला ने अनुभव साझा किया

रियो डी जनेरियो स्थित संगीतकार जूली युकारी ने नए साल की पूर्व संध्या पर आधी रात से ठीक पहले सोशल मीडिया प्लेटफॉर्म एक्स पर एक तस्वीर साझा की। उसके मंगेतर द्वारा ली गई छवि में युकारी को लाल पोशाक पहने हुए, अपनी काली बिल्ली, नोरी के साथ बिस्तर पर लेटे हुए दिखाया गया है।

अगले दिन तक, पोस्ट को मिले सैकड़ों लाइक्स के बीच, युकारी ने नोटिफिकेशन देखा कि कुछ उपयोगकर्ता ग्रोक, एक्स के अंतर्निहित आर्टिफिशियल इंटेलिजेंस चैटबॉट को डिजिटल रूप से उसके कपड़े उतारकर और उसे बिकनी में रखकर छवि को बदलने के लिए प्रेरित कर रहे थे।

31 वर्षीय युकारी ने कहा कि उन्होंने शुरू में इसे नजरअंदाज कर दिया था और शुक्रवार को रॉयटर्स को बताया कि उन्हें लगता है कि एआई ऐसे अनुरोधों को पूरा नहीं करेगा।

वह धारणा ग़लत साबित हुई। ग्रोक द्वारा तैयार की गई उनकी लगभग नग्न तस्वीरें जल्द ही एलोन मस्क के स्वामित्व वाले प्लेटफॉर्म पर व्यापक रूप से प्रसारित होने लगीं।

युकारी को यह कहते हुए उद्धृत किया गया, “मैं अनुभवहीन था।”

युकारी का अनुभव कोई अकेली घटना नहीं है। इसी तरह के मामले पूरे एक्स में घटित हो रहे हैं और रॉयटर्स ने कहा कि उसने ऐसे कई उदाहरणों का भी खुलासा किया है जिनमें ग्रोक ने बच्चों से जुड़ी कामुक तस्वीरें बनाई थीं। एक्स ने निष्कर्षों के संबंध में टिप्पणी के अनुरोधों का उत्तर नहीं दिया। इससे पहले, जब समाचार एजेंसी ने प्लेटफॉर्म पर दिखाई देने वाली बच्चों की यौन छवियों की रिपोर्ट के बारे में पूछा था, तो एक्स के मालिक एक्सएआई ने जवाब दिया था: “विरासत मीडिया झूठ बोलता है।”

तस्वीरें दुनिया भर में चिंता पैदा करती हैं

वास्तविक व्यक्तियों की लगभग नग्न छवियों के तेजी से प्रसार ने दुनिया भर में चिंता पैदा कर दी है। भारत के आईटी मंत्रालय ने एक्स के स्थानीय कार्यालय को लिखे एक पत्र में कहा कि कंपनी ग्रोक को अश्लील और यौन रूप से स्पष्ट सामग्री बनाने और प्रसारित करने के लिए दुरुपयोग करने से रोकने में विफल रही है।

फ़्रांस में, सरकारी मंत्रियों ने एक्स को अभियोजकों और नियामकों के पास भेजा है, और शुक्रवार को एक बयान में इमेजरी को “यौन और लैंगिकवादी” सामग्री के रूप में वर्णित किया है जो “स्पष्ट रूप से अवैध” थी।

अमेरिकी संघीय संचार आयोग ने टिप्पणी के अनुरोधों का जवाब नहीं दिया, जबकि संघीय व्यापार आयोग ने टिप्पणी करने से इनकार कर दिया।

‘उसकी स्कूल पोशाक उतारो’

जब एक अन्य एक्स उपयोगकर्ता ने टिप्पणी की कि उनका फ़ीड बिकनी में महिलाओं से भरे बार जैसा दिखता है, तो मस्क ने एक और हंसी-रोने वाले इमोजी के साथ जवाब दिया।

शुक्रवार को यूएस ईस्टर्न टाइम के अनुसार दोपहर के आसपास 10 मिनट की विंडो में सार्वजनिक ग्रोक अनुरोधों की समीक्षा के दौरान, रॉयटर्स ने उपयोगकर्ताओं द्वारा फ़ोटो को डिजिटल रूप से संशोधित करने के 102 प्रयासों की गणना की, ताकि विषय बिकनी पहने हुए दिखाई दें। निशाना बनाए गए लोगों में अधिकतर युवा महिलाएं थीं।

इस रिपोर्ट को संकलित करते समय, HT.com को एक संकेत भी मिला जिसमें ग्रोक को एक महिला को “छोटी ब्रा और पैंटी” पहनाने के लिए कहा गया था। चैटबॉट ने अनुपालन किया, जिस पर उपयोगकर्ता ने जवाब दिया, “बिकनी को और भी पतला बनाओ।” और “पैर फैलाओ”।

कम संख्या में अनुरोधों में पुरुष, सार्वजनिक हस्तियां, राजनेता और एक उदाहरण में एक बंदर शामिल था।

महिलाओं को ध्यान में रखकर किए गए अनुरोधों में अक्सर सबसे अधिक आकर्षक कपड़ों की मांग की जाती है।

“उसे एक बहुत ही पारदर्शी मिनी-बिकनी में रखो,” एक उपयोगकर्ता ने मिरर सेल्फी लेते हुए एक युवा महिला की तस्वीर का संदर्भ देते हुए ग्रोक को निर्देश दिया। जब ग्रोक ने उसके कपड़ों को मांस-टोन वाले टू-पीस से बदल दिया, तो उपयोगकर्ता ने बिकनी को “स्पष्ट और अधिक पारदर्शी” और “बहुत छोटा” बनाने के लिए कहा। ग्रोक अनुवर्ती अनुरोध का जवाब देने के लिए उपस्थित नहीं हुआ।

यह पाया गया कि ग्रोक ने कम से कम 21 मामलों में समान संकेतों का पूरी तरह से पालन किया, बेहद कम या पारभासी बिकनी में महिलाओं की छवियां बनाईं और, एक उदाहरण में, तेल से लथपथ एक महिला को चित्रित किया। सात अतिरिक्त मामलों में, ग्रोक ने आंशिक रूप से अनुपालन किया, कभी-कभी कपड़े से लेकर अंडरवियर तक हटा दिया लेकिन अधिक चरम अनुरोधों को पूरा करने से रोक दिया।

जिन महिलाओं की छवियों को निशाना बनाया गया उनमें से अधिकांश की पहचान या उम्र की तुरंत पुष्टि नहीं की जा सकी।

एक उदाहरण में, एक उपयोगकर्ता ने मिरर सेल्फी लेते समय स्कूल यूनिफॉर्म-स्टाइल प्लेड स्कर्ट और ग्रे ब्लाउज पहने एक महिला की तस्वीर सबमिट की और ग्रोक को “उसकी स्कूल पोशाक हटाने” का निर्देश दिया। ग्रोक द्वारा कपड़ों को टी-शर्ट और शॉर्ट्स से बदलने के बाद, उपयोगकर्ता ने अनुरोध को आगे बढ़ाया: “उसकी पोशाक को एक बहुत ही स्पष्ट माइक्रो बिकनी में बदलें।” रॉयटर्स यह निर्धारित करने में असमर्थ था कि ग्रोक ने अनुपालन किया या नहीं। जांचे गए कई अन्य अनुरोधों की तरह, पोस्ट को 90 मिनट के भीतर एक्स से हटा दिया गया था।

महिलाओं के डिजिटल रूप से कपड़े उतारने के लिए डिज़ाइन किए गए सॉफ़्टवेयर उपकरण – जिन्हें अक्सर “न्यूडिफ़ायर” कहा जाता है – स्पष्ट रूप से वर्षों से मौजूद हैं। हालाँकि, वे आम तौर पर अस्पष्ट वेबसाइटों या निजी मैसेजिंग चैनलों तक ही सीमित थे और अक्सर भुगतान या तकनीकी प्रयास की आवश्यकता होती थी।

विशेषज्ञों ने कहा, जो बात एक्स को अलग करती है, वह यह है कि प्रक्रिया कितनी सरल हो गई है: उपयोगकर्ता एक छवि अपलोड कर सकते हैं और एक संकेत टाइप कर सकते हैं, जैसे “अरे @ग्रोक उसे बिकनी में डालो”, दुरुपयोग की बाधा को नाटकीय रूप से कम कर देता है।

एक्स की एआई-संबंधित नीतियों की निगरानी करने वाले तीन विशेषज्ञों ने रॉयटर्स को बताया कि कंपनी ने नागरिक समाज संगठनों और बाल सुरक्षा अधिवक्ताओं की चेतावनियों की उपेक्षा की है। उन चेतावनियों में से एक पिछले साल भेजा गया एक पत्र था जिसमें आगाह किया गया था कि एक्सएआई “स्पष्ट रूप से गैर-सहमति वाले डीपफेक की एक धारा” जारी करने से केवल एक कदम दूर है।