एलोन मस्क के एक्स और एक्सएआई ने ग्रोक चैटबॉट को “बिकनी जैसे खुले कपड़ों” में मानव विषयों की छवियां उत्पन्न करने के लिए उपयोगकर्ता के अनुरोधों का जवाब देने से रोकने के उपायों की घोषणा की है, कंपनी की सेवाओं का उपयोग महिलाओं, अक्सर बच्चों को वस्तुतः निर्वस्त्र करने के लिए किए जाने के बाद हफ्तों की नाराजगी का जवाब देते हुए किया है।
गुरुवार को एक पोस्ट में, एक्स सेफ्टी ने जोर देकर कहा कि कंपनी “एक्स को सभी के लिए एक सुरक्षित मंच बनाने के लिए प्रतिबद्ध है और बाल यौन शोषण, गैर-सहमति वाली नग्नता और अवांछित यौन सामग्री के किसी भी रूप के लिए शून्य सहिष्णुता जारी रखेगी”। घोषणा में प्रतीत होता है कि तीन सूत्रीय योजना की रूपरेखा दी गई है।
एलोन मस्क के स्वामित्व वाले एक्सएआई द्वारा विकसित ग्रोक, एलोन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स पर मानव छवियों के गैर-सहमतिपूर्ण मॉर्फिंग की बाढ़ के बाद विश्व स्तर पर गहन कानूनी जांच का सामना कर रहा है। उपयोगकर्ताओं को केवल एक फोटो और “उसे बिकनी में रखो” जैसे निर्देशों के साथ @ग्रोक को टैग करने की आवश्यकता है।
रिपोर्टों से पता चलता है कि कई देश ग्रोक या एक्स पर पूरी तरह से प्रतिबंध लगाने पर विचार कर रहे थे। सप्ताहांत में, मलेशिया और इंडोनेशिया अपने भौगोलिक क्षेत्रों में ग्रोक एआई टूल पर प्रतिबंध लगाने वाले पहले देश बन गए।
अमेरिकी नियामकों ने Apple और Google से उनके संबंधित एप्लिकेशन स्टोर पर इन ऐप्स को प्रतिबंधित करने के बारे में भी पूछताछ की।
पहले चरण में यह बदलाव शामिल है कि एक्स पर ग्रोक चैटबॉट को कैसे निर्देश दिया जा सकता है। एक्स सेफ्टी अकाउंट में कहा गया है, “हमने ग्रोक खाते को बिकनी जैसे खुले कपड़ों में वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह प्रतिबंध भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।”
इसके अतिरिक्त, कंपनी ने नोट किया कि ग्रोक का उपयोग करके छवि निर्माण और संपादन – यह एआई चैटबॉट से प्रतिक्रिया प्राप्त करने के लिए @grok पर चिह्नित किसी भी नियमित क्वेरी से अलग है, जो पहले भुगतान किए गए ग्राहकों तक ही सीमित था।
दूसरे उपाय में स्थान-आधारित अद्यतन शामिल है जो ग्रोक के प्रतिबंधों को स्थानीय न्यायालयों से जोड़ता है। पोस्ट में कहा गया है, “अब हम उन न्यायक्षेत्रों में ग्रोक खाते और ग्रोक इन एक्स के माध्यम से बिकनी, अंडरवियर और इसी तरह की पोशाक में वास्तविक लोगों की छवियां उत्पन्न करने के लिए सभी उपयोगकर्ताओं की क्षमता को जियोब्लॉक करते हैं।”
पूरे विवाद के दौरान, मस्क ने ग्रोक और जेनरेटिव एआई के स्वच्छंद व्यवहार पर इनकार का रुख बनाए रखा है। मंगलवार को एक पोस्ट में उन्होंने लिखा, ”मैं [am] ग्रोक द्वारा बनाई गई किसी भी नग्न कम उम्र की छवि के बारे में जानकारी नहीं है। वस्तुतः शून्य. जाहिर है, ग्रोक स्वचालित रूप से छवियां उत्पन्न नहीं करता है, यह केवल उपयोगकर्ता के अनुरोधों के अनुसार ऐसा करता है।
हालाँकि, मस्क के एक बच्चे की माँ एशले सेंट क्लेयर ने पिछले हफ्ते बीबीसी न्यूज़ऑवर को बताया था कि ग्रोक ने बचपन में उनकी कामुक तस्वीरें बनाई थीं। सेंट क्लेयर ने तब से एक अलग पोस्ट में दावा किया है कि एक्स ने उसके खाते को प्रीमियम योजनाओं की सदस्यता लेने से प्रतिबंधित कर दिया है।
मस्क ने आगे जिम्मेदारी से बचने का प्रयास करते हुए कहा: “जब छवियों को उत्पन्न करने के लिए कहा जाएगा, तो यह कुछ भी अवैध उत्पादन करने से इनकार कर देगा, क्योंकि ग्रोक के लिए संचालन सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है। ऐसे समय हो सकते हैं जब ग्रोक संकेतों की प्रतिकूल हैकिंग कुछ अप्रत्याशित करती है। यदि ऐसा होता है, तो हम बग को तुरंत ठीक कर देते हैं।”
अरबपति विशेष रूप से यूके के प्रौद्योगिकी सचिव लिज़ केंडल के आलोचक थे, जो नियामक संस्था ऑफकॉम के साथ काम कर रहे हैं। यदि आवश्यक हो तो यूके में एक्स को अवरुद्ध करने के लिए केंडल द्वारा सरकारी समर्थन व्यक्त करने के बाद, मस्क ने टिप्पणी की: “वे केवल मुक्त भाषण को दबाना चाहते हैं।”
एक्स का कहना है कि हाल की घटनाएं और नई नीति उसके मौजूदा सुरक्षा प्रोटोकॉल में बदलाव नहीं करती है, जो यह निर्देश देती है कि सभी एआई संकेत और उत्पन्न सामग्री को सामग्री नीति दिशानिर्देशों का पालन करना होगा।
“भले ही सामग्री बनाई गई हो या चाहे उपयोगकर्ता मुफ़्त हों या सशुल्क ग्राहक, हमारी सुरक्षा टीम अतिरिक्त सुरक्षा उपाय जोड़ने, उल्लंघनकारी और अवैध सामग्री को हटाने के लिए त्वरित और निर्णायक कार्रवाई करने, जहां उचित हो, खातों को स्थायी रूप से निलंबित करने और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ सहयोग करने के लिए चौबीसों घंटे काम कर रही है,” एक्स ने कहा।
कंपनी ने कुछ कठिनाइयों के लिए प्रौद्योगिकी की प्रकृति को जिम्मेदार ठहराया। “जेनरेटिव एआई का तेजी से विकास पूरे उद्योग में चुनौतियां पेश करता है। हम उपयोगकर्ताओं, हमारे भागीदारों, शासी निकायों और अन्य प्लेटफार्मों के साथ सक्रिय रूप से काम कर रहे हैं ताकि मुद्दों के उत्पन्न होने पर उन्हें और अधिक तेजी से संबोधित किया जा सके,” पोस्ट ने निष्कर्ष निकाला।
वर्चुअल अनड्रेसिंग के लिए उपयोगकर्ताओं द्वारा साझा की गई छवियों में वास्तविक मनुष्यों की पहचान करने के लिए xAI अपने मॉडल को कैसे प्रशिक्षित करने का इरादा रखता है, यह स्पष्ट नहीं है।
