एलोन मस्क के एक्स ने अपने ग्रोक टूल की इमेज-जनरेशन सुविधाओं को सोशल मीडिया प्लेटफॉर्म पर भुगतान किए गए ग्राहकों तक सीमित कर दिया है। महिलाओं और बच्चों की यौन छवियाँ बनाने के लिए इस उपकरण का दुरुपयोग किए जाने के बाद यह बदलाव व्यापक आलोचना के बाद हुआ है।
पहले, एक्स उपयोगकर्ता दैनिक उपयोग सीमा के साथ, ग्रोक की छवि निर्माण और संपादन टूल को मुफ्त में एक्सेस कर सकते थे। ब्लूमबर्ग ने बताया कि स्टैंडअलोन ग्रोक ऐप, जो सोशल नेटवर्क से जुड़ा नहीं है, बिना सब्सक्रिप्शन के छवि निर्माण की अनुमति देता है।
ये भी पढ़ें| ग्रोक एआई ने स्वीकार किया कि सुरक्षा उपायों में चूक के कारण एक्स पर अनुचित सामग्री आई
ग्रोक हाल ही में आलोचना के घेरे में आ गया है क्योंकि उपयोगकर्ताओं ने लोगों, मुख्य रूप से महिलाओं, को बिकनी में दिखाने वाली तस्वीरों को बदलने के लिए टूल का फायदा उठाया है। कुछ लोग और भी आगे बढ़ गए, उन्होंने महिलाओं और बच्चों दोनों की कामुक छवियां बनाईं। कथित तौर पर, प्रति घंटे हजारों ऐसी छवियां उत्पन्न की गईं, अक्सर विषयों की सहमति के बिना।
इंटरनेट वॉच फ़ाउंडेशन, ब्रिटेन की एक संस्था जो बाल यौन शोषण सामग्री पर नज़र रखती है, ने कहा कि उसे डार्क वेब पर “आपराधिक” छवियां मिलीं जो कथित तौर पर ग्रोक का उपयोग करके बनाई गई थीं।
ये भी पढ़ें| केंद्र ने एक्स को ‘अश्लील, यौन रूप से स्पष्ट’ सामग्री तुरंत हटाने का आदेश दिया
ब्रिटेन सरकार की प्रतिक्रिया
ब्रिटेन के प्रधान मंत्री कीर स्टार्मर ने छवियों को “अपमानजनक” कहा और आश्वासन दिया कि ब्रिटिश नियामक ऑफकॉम को कार्रवाई करने के लिए सरकार का पूर्ण समर्थन प्राप्त है। इस बीच, यूरोपीय संघ ने एक्स को वर्ष के अंत तक ग्रोक से संबंधित आंतरिक दस्तावेजों को संरक्षित करने का निर्देश दिया। यूरोपीय संघ ने पहले बच्चों की कुछ स्पष्ट यौन छवियों को अवैध बताते हुए इसकी निंदा की थी।
एलोन मस्क ने जवाब दिया
एलन मस्क ने पिछले सप्ताह एक्स पर पोस्ट किया था, “अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
भारत की प्रतिक्रिया
इससे पहले, केंद्र ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 का हवाला देते हुए, ग्रोक जैसे एआई-आधारित प्लेटफार्मों के दुरुपयोग के माध्यम से सोशल मीडिया प्लेटफॉर्म
सरकार ने एक्स को आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ कार्रवाई करने का भी निर्देश दिया। इसने सोशल मीडिया प्लेटफॉर्म को आदेश जारी होने की तारीख से 72 घंटे के भीतर एक विस्तृत कार्रवाई रिपोर्ट (एटीआर) जमा करने का भी निर्देश दिया।
(ब्लूमबर्ग से इनपुट के साथ)
