दुनिया में एआई सुरक्षा का परीक्षण करने के लिए कठोर वैज्ञानिक तरीकों का अभाव है: रुम्मन चौधरी| भारत समाचार

उन्होंने कहा, “इन सभी शिखर सम्मेलनों में होने वाली बड़ी चीजों में से एक नई स्वैच्छिक प्रतिबद्धताएं हैं।” “यह सुंदर पीआर और महान प्रकाशिकी है, लेकिन इसका वास्तविक, मौलिक अर्थ क्या है? ये संगठन कंपनियों या राजनीतिक संगठनों की दया पर नहीं रह सकते हैं। संहिताबद्ध या ठोस होने के लिए, इसे वास्तव में कानून द्वारा आवश्यक कुछ होना चाहिए।”

चौधरी के पास प्रत्यक्ष होने का कारण है। उन्होंने एक्स (पूर्व में ट्विटर) में एमएल एथिक्स, ट्रांसपेरेंसी और अकाउंटेबिलिटी (एमईटीए) टीम का निर्देशन किया, जिसने राजनीतिक सामग्री के एल्गोरिदमिक प्रवर्धन पर एक अध्ययन प्रकाशित किया। एलोन मस्क के अधिग्रहण के बाद टीम को भंग कर दिया गया था। बाद में उन्होंने अमेरिकी रक्षा विभाग के जिम्मेदार एआई डिवीजन का नेतृत्व किया, उन्हें एआई के लिए अमेरिकी विज्ञान दूत नामित किया गया, और ट्रम्प प्रशासन द्वारा कार्यालय को पुनर्गठित करने और बिडेन-युग के सुरक्षा उपायों को रद्द करने के बाद उन्होंने पद छोड़ दिया। दो जिम्मेदार एआई टीमें, दो पतन – एक कॉर्पोरेट, एक राजनीतिक।

एआई सुरक्षा गैर-लाभकारी ह्यूमेन इंटेलिजेंस के सीईओ और सह-संस्थापक चौधरी के लिए, ट्विटर एल्गोरिदम विश्लेषण – एक बिग टेक कंपनी द्वारा किया गया एकमात्र विश्लेषण जिसमें अभी तक स्वतंत्र, बाहरी शोधकर्ता शामिल हैं – ने आज एआई सुरक्षा विनियमन में प्रासंगिक समस्या को उजागर किया है। विश्लेषण में पाया गया कि ट्विटर अधिक दक्षिणपंथी सामग्री को व्यवस्थित रूप से सामने ला रहा है।

चौधरी की कामकाजी परिकल्पना यह थी कि यह “एल्गोरिदमिक पूर्वाग्रह नहीं, बल्कि मानव व्यवहार का एल्गोरिथम सुदृढीकरण” था – वह प्रणाली जो लोगों को पहले से ही संलग्न कर रही थी।

उन्होंने कहा, “अगर हर कोई दक्षिणपंथी सामग्री के साथ बातचीत कर रहा है, तो हम अधिक दक्षिणपंथी सामग्री सामने ला रहे हैं – फिर से, डिज़ाइन के अनुसार।” दूसरे शब्दों में, एल्गोरिथ्म ख़राब नहीं था – यह जुड़ाव के लिए अनुकूलन कर रहा था, जो तीव्र राजनीतिक ध्रुवीकरण की अवधि के दौरान सही तिरछा हो गया था। इससे एक ऐसा प्रश्न खड़ा हुआ जिसका उत्तर टीम तकनीकी रूप से नहीं दे सकी, क्योंकि यह कोई तकनीकी प्रश्न नहीं था: “कौन तय करता है कि क्या उचित है? क्या जैक डोर्सी निर्णय लेते हैं? कोई नियामक संस्था नहीं है।”

भारत एआई प्रभाव शिखर सम्मेलन, ‘सात-चक्र’ दृष्टिकोण अपनाते हुए, सुरक्षित और विश्वसनीय एआई को प्रमुख विषयों में से एक के रूप में सूचीबद्ध करता है।

सुरक्षा को संस्थागत बनाना

चौधरी ने कहा कि यहां तक ​​कि जहां जिम्मेदार एआई टीमें नेतृत्व परिवर्तन से बच जाती हैं, उनकी प्रभावशीलता इस बात पर निर्भर करती है कि वे किसी संगठन में कहां बैठते हैं – उन्होंने कहा कि एक सवाल पर शायद ही कभी चर्चा की जाती है।

एक्स में उनकी एथिक्स टीम मुख्य उत्पाद में एक इंजीनियरिंग इकाई थी। उनके अनुभव में, विकल्प कम प्रभावी है। उन्होंने कहा, “बहुत सी कंपनियां, जब आप थिएटर या ऑप्टिक्स का उल्लेख करते हैं – यह एक शुद्ध नीति या अनुसंधान शाखा के रूप में काम करती है, जो व्यक्तिगत रूप से इसके बैठने के लिए मेरी सबसे कम पसंदीदा जगह है।” “आप केवल बाहरी चेहरे वाले हैं। आपको उत्पाद तालिका में आमंत्रित किया जाना है। आप डिज़ाइन द्वारा वहां नहीं हैं।”

यह रूपरेखा सरकार पर लागू होगी। भारत के बारे में पूछे जाने पर, जहां एआई प्रशासन इलेक्ट्रॉनिक्स और आईटी मंत्रालय (एमईआईटीवाई) के अंतर्गत आता है, चौधरी ने गुणों पर कोई टिप्पणी किए बिना, कॉर्पोरेट खरीद के साथ एक समानांतर रेखा खींची: एक कंपनी में पारंपरिक आईटी फ़ंक्शन का संबंध “लागत-लाभ विश्लेषण और गणना और पासवर्ड भंडारण” से है, न कि व्यापक जोखिम से। “क्या आईटी और प्रौद्योगिकी मंत्री बच्चों और शिक्षा, या मानसिक स्वास्थ्य और भलाई, या परसामाजिक संबंधों, या पूर्वाग्रह और भेदभाव पर राय देने के लिए सही लोग हैं?” उसने पूछा. “यह उनके सुविधा क्षेत्र में नहीं है।”

निश्चित रूप से, भारत का एआई विनियमन क्षेत्रीय नियामकों पर निर्भर करता है, हालांकि अधिकांश दंडात्मक कार्रवाई और प्रवर्तन Meity के माध्यम से होता है।

परीक्षण उपकरण काम नहीं करते

चौधरी ने तर्क दिया कि एआई सिस्टम का मूल्यांकन करने के लिए उपलब्ध उपकरण उद्देश्य के लिए उपयुक्त नहीं हैं – और उद्योग इसे जानता है। उन्होंने कहा, “मैं इस बात पर ज्यादा जोर नहीं दे सकती कि जनरल एआई मॉडल के लिए हमारे परीक्षण तंत्र अपर्याप्त हैं। हमारे पास वास्तव में इन एआई मॉडल के परीक्षण के लिए कठोर वैज्ञानिक तरीके नहीं हैं।” “फ्रंटियर मॉडल कंपनियां इस पर हाथ उठाती हैं क्योंकि उन्हें सुरक्षा का मतलब तैयार करना होता है, वैज्ञानिक कठोरता अनुपस्थित होती है।” उन्होंने कहा, बेंचमार्क वास्तव में केवल प्रश्न-उत्तर युग्म हैं। उन्हें कौन बनाता है? कौन तय करता है कि ये प्रतिनिधि हैं?

रेड टीमिंग, जहां विशेषज्ञ टूल ब्रेक सेफगार्ड बनाने की कोशिश करते हैं, ने कोई बेहतर प्रदर्शन नहीं किया: “एक कमरे में लोगों का एक समूह एक मॉडल को हैक कर रहा है। यह वास्तव में कठोर नहीं है।” उन्होंने दोनों तरफ से चेरी-पिकिंग का वर्णन किया – कंपनियां केवल उन नुकसानों के लिए परीक्षण करती हैं जिन्हें वे ढूंढना चाहते हैं, आलोचक तब तक खुदाई करते हैं जब तक कि उन्हें वह परिणाम नहीं मिल जाता जो वे तलाश रहे थे। अंतर्निहित समस्या यह है कि नियतात्मक मशीन-लर्निंग मॉडल से संभाव्य जनरेटिव एआई में बदलाव ने प्रौद्योगिकी की पिछली पीढ़ी के लिए बनाए गए मूल्यांकन तरीकों को पीछे छोड़ दिया है। उन्होंने कहा, “हमने संभाव्य प्रणालियों के परीक्षण के लिए स्केलेबल, कठोर तकनीक विकसित नहीं की है”। इसका परिणाम यह है कि उद्योग इसे “पायलट पुर्गेटरी” कहता है – मॉडल नियंत्रित प्रदर्शनों में फंस गए हैं क्योंकि मूल्यांकन उपकरण वास्तविक दुनिया की स्थितियों से अलग हो गए हैं।

नौकरियों के बारे में ग़लत बातचीत

इस साक्षात्कार से दो दिन पहले, माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान ने घोषणा की थी कि सभी सफेदपोश नौकरियां 18 महीने के भीतर स्वचालित हो जाएंगी। चौधरी ने स्पष्ट कहा: दावा तथ्यात्मक रूप से गलत और राजनीतिक रूप से खतरनाक है।

उन्होंने कहा, “मानव विकास के इतिहास में कभी भी हमने कम काम नहीं किया जब हमने अधिक प्रौद्योगिकी का निर्माण किया। हमारे पास हमेशा अधिक था।” कीन्स ने 15 घंटे के कार्य सप्ताह और आराम के जीवन की भविष्यवाणी की थी। चौधरी ने कहा, “यह एक पुरानी कहानी है जो कभी सच नहीं हुई।” उन्होंने कहा कि एआई सुधार रैखिक नहीं है – उन्होंने वैकल्पिक आर्किटेक्चर की जांच करने वाले यान लेकन और फी-फी ली का हवाला दिया क्योंकि वर्तमान दृष्टिकोण कम रिटर्न का सामना कर रहे हैं, जो एआई-जनित सामग्री विषाक्तता प्रशिक्षण डेटा से जुड़ा हुआ है।

लेकिन समस्या यह है कि प्रलय का दिन नीति पर क्या प्रभाव डालता है। वास्तविक विस्थापन युवा लोगों के बीच हो रहा है – इंटर्नशिप और प्रवेश स्तर के पदों को निचोड़ा जा रहा है। उन्होंने कहा, “हम युवा लोगों को विफल कर रहे हैं क्योंकि यह सच है कि इंटर्न के रूप में नौकरी पाना कठिन है, क्योंकि एआई आपके लिए वह काम कर सकता है।” “हम क्या बना सकते हैं ताकि आज के बच्चे खोई हुई पीढ़ी न बनें? यह अब से 18 महीने बाद की कहानी नहीं है। यह आज के लिए एक कहानी है।”

“हम वैश्विक बेरोजगारी के बारे में व्यापक नीतिगत निर्णय नहीं ले सकते। हम युवा लोगों या प्रवेश स्तर के श्रमिकों की मदद के बारे में नीतिगत निर्णय ले सकते हैं। यह वास्तव में एक समस्या है जिससे हम निपट सकते हैं और निपटना चाहिए।” लेकिन उन्होंने तर्क दिया कि एपोकैलिप्टिक फ़्रेमिंग, सुगम्य समस्याओं को भी संबोधित करना असंभव बना देती है – इसकी तुलना फिल्म डोन्ट लुक अप से की जाती है, जिसमें आपदा की निश्चितता किसी भी प्रतिक्रिया को पंगु बना देती है। “जब आप उस तरह की भाषा बोलते हैं, तो आप कुछ नहीं कर सकते। आपने कुछ भी करने की संभावना को पूरी तरह से ख़त्म कर दिया है।”

कानून को नेतृत्व करना चाहिए

किसी भी क्षेत्राधिकार को एआई शासन का अधिकार नहीं मिला है। चौधरी का पसंदीदा मॉडल ईयू का डिजिटल सेवा अधिनियम है, इसके कार्यान्वयन के लिए नहीं बल्कि इसकी महत्वाकांक्षा के लिए। उन्होंने कहा, “वे बहुत स्पष्ट रूप से उन चीजों को संहिताबद्ध करते हैं जिनके खिलाफ सोशल मीडिया प्लेटफार्मों को मापा जाना चाहिए – प्रतिकूल मानसिक प्रभाव, बच्चों पर प्रभाव, मौलिक मानवाधिकारों का उल्लंघन।”

सुरक्षित मानकों के विरुद्ध परीक्षण करने की तकनीकी क्षमता अभी तक मौजूद नहीं है। उनके विचार में यह ठीक है. “अगर कानून अस्तित्व में है, तो हम कानून को लागू करने का तरीका बनाने के लिए बाध्य हैं। इसे पांच से आठ साल तक खराब तरीके से लागू किया जाएगा और फिर शायद बेहतर हो जाएगा। लेकिन यह एजेंडा तय करता है।”

भारत के नीति निर्माताओं ने यूरोपीय संघ के अनुभव का हवाला दिया है – विशेष रूप से जीडीपीआर – बहुत जल्दी विनियमन के खिलाफ एक चेतावनी के रूप में। चौधरी का जवाब: “हमने इसमें प्रयोग किया है [permissive] दो दशकों तक दिशा। दूसरा विकल्प क्यों नहीं आज़माया जाए?”