सोशल मीडिया पर साझा किए गए एक भयावह अकाउंट में, एक माता-पिता ने अपनी 4 वर्षीय बेटी और उनके अमेज़ॅन एलेक्सा के बीच एक विचित्र बातचीत का दावा किया। माँ ने आरोप लगाया कि जब बच्चा डिवाइस के साथ एक कहानी साझा कर रहा था, तो एआई ने कथित तौर पर उसे यह पूछने के लिए काट दिया कि क्या यह “उसकी पैंट देख सकता है।हिली हुई माँ अब अन्य माता-पिता से स्मार्ट होम असिस्टेंट की “अप्रत्याशित” प्रकृति के बारे में अत्यधिक सतर्क रहने का आग्रह कर रही है।
“माता-पिता कृपया सावधान रहें जब आपका बच्चा एलेक्सा से बात करता है। मैंने शकरकंद पकाने में मेरी मदद करने के लिए अपने एलेक्सा को प्लग इन किया। फिर स्टेला ने उसे एक मूर्खतापूर्ण कहानी सुनाने के लिए कहा और उसने ऐसा ही किया। फिर स्टेला ने उससे पूछा कि क्या वह उसे एक कहानी सुना सकती है। इसने हाँ कहा और स्टेला ने इसे एक कहानी सुनाना शुरू कर दिया और फिर मध्य कहानी ने उसे रोक दिया और उससे पूछा कि उसने क्या पहना है और क्या यह उसकी पैंट को देख सकता है, दो बच्चों की माँ क्रिस्टी होस्टमैन ने लिखा फेसबुक.
उन्होंने आगे कहा, “मैंने एलेक्सा को पलट दिया, उसने कहा कि उसने गलती की है और इसमें दृश्य क्षमताएं नहीं हैं, लेकिन मैं उस पर विश्वास नहीं करती। हमारे घर में अब कोई एलेक्सा नहीं है।” उन्होंने एआई सहायक के साथ बातचीत की एक प्रतिलिपि भी साझा की।
सोशल मीडिया ने कैसी प्रतिक्रिया दी?
यह पोस्ट तेजी से वायरल हो गई, जिस पर सोशल मीडिया यूजर्स की ओर से प्रतिक्रियाओं की झड़ी लग गई। एक व्यक्ति ने लिखा, “यह बहुत डरावना है।” एक अन्य ने कहा, “अगर मैं गलत नहीं हूं, तो आपके एलेक्सा पर ऊपरी दाएं कोने में एक कैमरा है! इसे पूरी तरह से कवर करने का एक तरीका होना चाहिए, जिस पर मुझे भी पूरा भरोसा नहीं होगा। कितना डरावना है!!!!!!” होस्टमैन ने जवाब दिया, “हां, हमने हमेशा कैमरा बंद रखा है, और मैं आमतौर पर इसे केवल तभी प्लग करता हूं जब मैं इससे मदद मांगना चाहता हूं, लेकिन एलेक्सा के साथ मेरा काम पूरा हो गया है।”
एक तीसरे ने टिप्पणी की, “इसे ऐसे मत छोड़ो! आप अनुचित व्यवहार के लिए अमेज़ॅन पर मुकदमा कर सकते हैं। दावा या कुछ और दर्ज करें।” होस्टमैन ने उत्तर दिया, “मैं यह पता लगाने जा रहा हूं कि मुझे किससे संपर्क करने की आवश्यकता है। यह कहीं से भी नहीं हुआ था। स्टेला एक राजकुमारी के बारे में एक कहानी बता रही थी, और यह अचानक रुक गई और उसने ऐसा कहा। मुझे नहीं पता कि क्यों, लेकिन मुझे खुशी है कि जब ऐसा हुआ तो मैं आसपास थी।”
एक चौथे ने पोस्ट किया, “मैंने कई साल पहले अपना सामान बाहर फेंक दिया था जब पति और मैं एक रात लगभग 11:00 बजे सोफे पर बैठे टीवी देख रहे थे, और हमने किसी को हमसे बात करते हुए सुना। यह एक महिला की आवाज़ थी जो सवाल पूछ रही थी – मैं आपको यह भी नहीं बता सका कि वह क्या पूछ रही थी क्योंकि मैंने तुरंत उसका प्लग अनप्लग कर दिया और उसे कूड़ेदान में फेंक दिया।”
अमेज़न ने क्या कहा?
अमेज़न के प्रवक्ता ने डेलीमेल को बताया कि डिवाइस ने बच्चे के अनुरोध को गलत समझा। इसने “दिखाओ और बताओ” सुविधा लॉन्च करने का प्रयास किया, लेकिन यह विफल हो गया। व्यक्ति ने कहा कि यह सुविधा बच्चों के लिए अक्षम है।
“चूँकि हमारे पास ऐसे सुरक्षा उपाय हैं जो चाइल्ड प्रोफ़ाइल के उपयोग में होने पर इस सुविधा को अक्षम कर देते हैं, कैमरा कभी चालू नहीं हुआ – और एलेक्सा ने बताया कि यह सुविधा उपलब्ध नहीं थी।अमेज़ॅन ने दावा किया कि इस विशेष मामले में, “एक फीचर मिसफायर हुआ जिसे हमारे सुरक्षा उपायों ने लॉन्च होने से रोक दिया”।
हालाँकि, होस्टमैन अमेज़न के स्पष्टीकरण से संतुष्ट नहीं थे और उन्होंने दावा किया कि इससे उनकी चिंताओं का समाधान नहीं हुआ।
“मेरी चिंता यह है कि शुरुआत में यह माना गया कि वह एक बच्ची थी – और बच्चे की प्रोफ़ाइल के साथ या उसके बिना, उसे ऐसा नहीं पूछना चाहिए था,” उसने आउटलेट को बताया।
क्या यह AI था या इंसान?
टेक एक्सपर्ट डेव हैटर ने बताया दुकान“यह मुझे एक संभावित शिकारी की तरह लगता है – यह देखकर कि एक बच्चा इस तक पहुँच रहा है और यह पता लगा रहा है कि बातचीत कहाँ जा रही है – यह एक इंसान की तरह है जो इस दिशा में आगे बढ़ने की कोशिश कर रहा है।”
हालाँकि, अमेज़ॅन ने आरोपों से इनकार किया और कहा, “अमेज़ॅन कर्मचारियों के लिए खुद को बातचीत में शामिल करना और एलेक्सा के रूप में प्रतिक्रियाएं उत्पन्न करना कार्यात्मक रूप से असंभव है। सभी तकनीकी साक्ष्य एक फीचर मिसफायर की ओर इशारा करते हैं जिसे हमारे सुरक्षा उपायों ने लॉन्च होने से रोक दिया।”
