मलेशिया ने रविवार को अस्थायी रूप से ग्रोक तक पहुंच को अवरुद्ध कर दिया, जो जेनेरिक आर्टिफिशियल इंटेलिजेंस चैटबॉट द्वारा उपयोगकर्ताओं को कामुक छवियां बनाने और प्रकाशित करने की अनुमति देकर वैश्विक प्रतिक्रिया उत्पन्न करने के बाद कार्रवाई करने वाले देशों की बढ़ती सूची में शामिल हो गया।
ग्रोक के पीछे एलोन मस्क की अगुवाई वाली कंपनी एक्सएआई ने गुरुवार को कहा कि वह भुगतान करने वाले ग्राहकों के लिए छवि निर्माण और संपादन को प्रतिबंधित करेगी क्योंकि इसने उन खामियों को संबोधित किया है जो एक्स पर उपयोगकर्ताओं को अक्सर सहमति के बिना दूसरों की कामुक सामग्री का उत्पादन करने की अनुमति देती हैं।
शनिवार को, इंडोनेशिया अस्थायी रूप से बॉट तक पहुंच से इनकार करने वाला पहला देश बन गया।
रविवार को एक बयान में, मलेशियाई संचार और मल्टीमीडिया आयोग (एमसीएमसी) ने कहा कि यह “महिलाओं और नाबालिगों से जुड़ी सामग्री सहित अश्लील, यौन रूप से स्पष्ट, अश्लील, घोर आक्रामक और गैर-सहमति से हेरफेर की गई छवियों को उत्पन्न करने के लिए” टूल के बार-बार दुरुपयोग के बाद ग्रोक तक पहुंच को प्रतिबंधित करेगा।
एमसीएमसी ने कहा कि उसने प्रभावी तकनीकी और मॉडरेशन सुरक्षा उपायों के कार्यान्वयन की मांग के लिए इस महीने एक्स और एक्सएआई को नोटिस जारी किया था, लेकिन प्राप्त प्रतिक्रियाएं मुख्य रूप से उपयोगकर्ता द्वारा शुरू की गई रिपोर्टिंग तंत्र पर निर्भर थीं और एआई टूल के डिजाइन और संचालन से उत्पन्न जोखिमों को संबोधित करने में विफल रहीं।
उसने कहा, “एमसीएमसी इसे नुकसान रोकने या कानूनी अनुपालन सुनिश्चित करने के लिए अपर्याप्त मानती है।”
xAI ने एक रॉयटर्स ईमेल का जवाब दिया जिसमें टिप्पणी मांगी गई थी, जो एक स्वचालित प्रतिक्रिया प्रतीत होती थी: “विरासत मीडिया झूठ।” एक्स ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
एमसीएमसी ने कहा कि प्रभावी सुरक्षा उपाय लागू होने तक ग्रोक तक पहुंच प्रतिबंधित रहेगी, साथ ही यह भी कहा कि वह कंपनियों के साथ जुड़ने के लिए खुला है।
मुस्लिम-बहुल मलेशिया में ऑनलाइन सामग्री को नियंत्रित करने वाले सख्त कानून हैं, जिनमें अश्लील और अश्लील सामग्री पर प्रतिबंध भी शामिल है। इसने हाल के वर्षों में हानिकारक सामग्री में वृद्धि के जवाब में इंटरनेट कंपनियों को अधिक जांच के दायरे में रखा है। मलेशिया 16 वर्ष से कम उम्र के उपयोगकर्ताओं को सोशल मीडिया तक पहुंचने से रोकने पर विचार कर रहा है।
