कैलिफ़ोर्निया ने बुधवार को इस बात की जांच शुरू कर दी कि क्या एलन मस्क की कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक उपयोगकर्ताओं को महिलाओं और लड़कियों की तस्वीरों को कामुक छवियों में बदलने दे रही है।
राज्य के शीर्ष वकील ने कहा कि मस्क के एक्सएआई द्वारा बनाया गया ग्रोक, सोशल मीडिया प्लेटफॉर्म एक्स और अन्य जगहों पर ऑनलाइन डीपफेक छवियों के साथ महिलाओं और लड़कियों को परेशान करना आसान बना रहा है।
कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने एक बयान में कहा, “हाल के हफ्तों में एक्सएआई द्वारा उत्पादित और ऑनलाइन पोस्ट की गई गैर-सहमति वाली, स्पष्ट यौन सामग्री का विवरण देने वाली रिपोर्टों की बाढ़ चौंकाने वाली है।”
“मैं एक्सएआई से यह सुनिश्चित करने के लिए तत्काल कार्रवाई करने का आग्रह करता हूं कि यह आगे न बढ़े।”
अटॉर्नी जनरल के अनुसार, बोंटा का कार्यालय इस बात की जांच कर रहा है कि एक्सएआई ने राज्य कानून का उल्लंघन किया है या नहीं।
बोंटा ने कहा, हाल के हफ्तों में ऐसी रिपोर्टों की बाढ़ आ गई है कि ग्रोक उपयोगकर्ता ऑनलाइन पाई जाने वाली महिलाओं या बच्चों की तस्वीरें ले रहे हैं और उन्हें वस्तुतः निर्वस्त्र करने के लिए xAI बॉट का उपयोग कर रहे हैं।
अटॉर्नी जनरल के कार्यालय के अनुसार, ग्रोक के छवि निर्माण मॉडल में वह शामिल है जिसे xAI चित्रों को संपादित करने के लिए “मसालेदार मोड” के रूप में प्रचारित करता है।
पिछले हफ्ते, पेरिस गैर-लाभकारी एआई फोरेंसिक द्वारा 20,000 से अधिक ग्रोक-जनरेटेड छवियों के विश्लेषण में पाया गया कि आधे से अधिक में “न्यूनतम पोशाक में व्यक्तियों” को दर्शाया गया है – उनमें से ज्यादातर महिलाएं हैं, और दो प्रतिशत 18 साल से कम उम्र के प्रतीत होते हैं।
बोंटा के अनुसार, ग्रोक द्वारा उत्पन्न छवियों का उपयोग सार्वजनिक हस्तियों के साथ-साथ विशिष्ट सोशल मीडिया उपयोगकर्ताओं को परेशान करने के लिए किया जा रहा है।
xAI को कामुक डीपफेक छवियों पर वैश्विक प्रतिक्रिया का सामना करना पड़ा है।
इंडोनेशिया शनिवार को ग्रोक तक पहुंच को पूरी तरह से अवरुद्ध करने वाला पहला देश बन गया, इसके बाद रविवार को पड़ोसी देश मलेशिया बना।
भारत ने रविवार को कहा कि एक्स ने उसकी शिकायतों के जवाब में हजारों पोस्ट और सैकड़ों उपयोगकर्ता खाते हटा दिए हैं।
ब्रिटेन के ऑफकॉम मीडिया नियामक ने सोमवार को कहा कि वह इस बात की जांच शुरू कर रहा है कि क्या एक्स यौन छवियों पर यूके के कानून का पालन करने में विफल रहा है।
और फ्रांस की बच्चों के लिए आयुक्त सारा एल हेरी ने मंगलवार को कहा कि उन्होंने ग्रोक की बनाई गई छवियों को फ्रांसीसी अभियोजकों, अरकॉम मीडिया नियामक और यूरोपीय संघ को भेजा था।
यूरोपीय आयोग, जो यूरोपीय संघ के डिजिटल निगरानीकर्ता के रूप में कार्य करता है, ने हंगामे के जवाब में एक्स को 2026 के अंत तक ग्रोक से संबंधित सभी आंतरिक दस्तावेजों और डेटा को बनाए रखने का आदेश दिया है।
