दुनिया के सबसे अग्रणी आर्थिक अनुसंधान निकायों में से एक के प्रमुख ने कहा है कि लोगों के लिए एआई को तैनात करने से प्रचार में कमी आनी चाहिए ताकि “डैशबोर्ड सफलता” “कल्याण विफलता” न बन जाए, चेतावनी देते हुए कि अप्रमाणित कृत्रिम बुद्धिमत्ता समाधानों को स्केल करने से सक्रिय नुकसान हो सकता है – न कि केवल पैसे की बर्बादी।
मंगलवार को नई दिल्ली में भारत एआई प्रभाव शिखर सम्मेलन के दूसरे दिन नीति निर्माता, शोधकर्ता और तकनीकी नेता “सामाजिक भलाई के लिए एआई” चर्चा के लिए एकत्र हुए, अब्दुल लतीफ जमील पॉवर्टी एक्शन लैब (जे-पीएएल) के वैश्विक कार्यकारी निदेशक इकबाल धालीवाल ने कहा कि ऐप डाउनलोड और चैट लॉग के साथ मौजूदा जुनून अंतिम लक्ष्य को अस्पष्ट करने की धमकी देता है: मानव जीवन में सुधार करना। इससे भी बुरी बात यह है कि इससे असमानता बढ़ने, प्रौद्योगिकी में जनता का विश्वास कम होने और महत्वपूर्ण मानवीय निर्णय के विस्थापित होने का जोखिम है।
धालीवाल ने सोमवार को एचटी को बताया, “सगाई महत्वपूर्ण है… लेकिन वे आवश्यक शर्तें हैं – वे पर्याप्त शर्तें नहीं हैं।” “पर्याप्त स्थिति नहीं बदली है… [it is] प्रभाव।”
जे-पाल ने मंगलवार को एआई एविडेंस प्लेबुक लॉन्च किया – एआई को जिम्मेदारी से तैनात करने पर सरकारी अधिकारियों का मार्गदर्शन करने के लिए एक मैनुअल। यह सार-संग्रह कठोर साक्ष्यों के साथ एआई अपनाने को संरेखित करने के लिए वैश्विक अनुसंधान से सबक देता है।
“सगाई का जाल”
धालीवाल की सावधानी उस चीज़ में निहित है जिसे वे “सगाई का जाल” कहते हैं – जहां उच्च उपयोग वाले मेट्रिक्स वास्तविक दुनिया के लाभ देने में विफलता को छुपाते हैं। उन्होंने केन्याई उद्यमियों के लिए व्हाट्सएप-आधारित एआई चैटबॉट का हवाला दिया, जिसमें बड़े पैमाने पर जुड़ाव देखा गया, जिसमें 85% उपयोगकर्ताओं ने इसके साथ बातचीत की।
धालीवाल ने कहा, “शानदार जुड़ाव… लेकिन मुनाफा या राजस्व बढ़ता नहीं दिख रहा।” “यह जानना कि लोग किसी बॉट से चैट कर रहे हैं… वास्तविक दुनिया के परिणामों पर प्रभाव प्रदर्शित नहीं करता है।”
यह मापने के अलावा कि एआई काम करता है या नहीं, धालीवाल ने लागत प्रभावशीलता और वितरण संबंधी प्रभावों का आकलन करने पर जोर दिया। “क्या यह प्रभावी है? नंबर दो, क्या यह लागत प्रभावी है?” उसने पूछा. “आखिरकार हर कोई शुरुआत में इन चीजों को मुफ्त में पेश कर रहा है, लेकिन डेटा और प्रश्नों के लिए पैसे खर्च होंगे और पर्यावरणीय प्रभाव होंगे।”
यह पूछना भी उतना ही महत्वपूर्ण है कि किसे लाभ होता है। “क्या इससे सभी को लाभ हो रहा है या औसत प्रभाव कुछ लोगों द्वारा निर्धारित किया जा रहा है?” उन्होंने कहा, ध्यान देने योग्य बात यह है कि परिणाम सबसे अधिक जरूरतमंद लोगों के बजाय पहले से ही उच्च प्रदर्शन करने वाले व्यवसायों द्वारा प्रेरित हो सकते हैं।
विकास क्षेत्र déjà vu
धालीवाल ने वर्तमान एआई प्रचार को विकास क्षेत्र की निराशाओं के एक परिचित पैटर्न के भीतर तैयार किया। माइक्रोफाइनेंस और “प्रति बच्चा एक लैपटॉप” का हवाला देते हुए उन्होंने कहा, “विकास क्षेत्र में यह हमेशा से एक जाल रहा है।”
उन्होंने याद करते हुए कहा, “माइक्रोफाइनेंस को हमारी सभी समस्याओं का समाधान करना था – महिला को सशक्त बनाना, उसकी आजीविका बढ़ाना, स्वास्थ्य संबंधी झटके कम करना।” “हमने पाया कि माइक्रोफ़ाइनेंस कुछ चीज़ें अच्छी करता है। हो सकता है कि इससे आय बढ़े, लेकिन यह स्वचालित रूप से अन्य चीज़ों की ओर ले जाने वाला नहीं है।”
इसी तरह, प्रति बच्चा एक लैपटॉप का उद्देश्य शिक्षा में सुधार करना और बच्चों को सामाजिक लाभ कार्यक्रमों तक पहुंचने में मदद करना था। उन्होंने कहा, “यह सिर्फ इसलिए काम नहीं करता है क्योंकि क्षेत्र में यह कैसे होने वाला है इसके पीछे और आगे के संबंध नहीं होने वाले हैं।”
खतरा सिर्फ पैसे की बर्बादी का नहीं बल्कि सक्रिय नुकसान का है। अप्रभावी समाधानों को स्केल करने से असमानता बढ़ सकती है या महत्वपूर्ण मानवीय निर्णय विस्थापित हो सकते हैं। उन्होंने मानसिक स्वास्थ्य ऐप्स को विशेष रूप से चिंताजनक बताते हुए केवल कमी के कारण परामर्शदाताओं को एल्गोरिदम से बदलने की चेतावनी दी।
उन्होंने कहा, “डॉक्टर के बजाय, अब यह एआई और उस मरीज के बीच एक-पर-एक संबंध है। यह बहुत तेजी से आगे बढ़ सकता है।”
जबकि एम्स का एक शीर्ष डॉक्टर एआई उपकरण से “मतिभ्रम” को फ़िल्टर कर सकता है, बिहार या उत्तर प्रदेश के प्राथमिक स्वास्थ्य केंद्र में एक नर्स “विभाग द्वारा दी गई सलाह” का पालन करने के लिए मजबूर महसूस कर सकती है, यदि एआई गलत है तो संभावित रूप से नुकसान हो सकता है।
प्रौद्योगिकी में जनता का विश्वास कम होने का खतरा बढ़ गया है। धालीवाल ने इसे कृषि विस्तार कार्यकर्ताओं के साथ चित्रित किया – पारंपरिक रूप से दुर्लभ लेकिन मूल्यवान सलाहकार जो खेतों का दौरा करते थे, उपचार की सिफारिश करते थे और गंभीर रूप से परिणामों की जांच करने के लिए वापस आते थे।
“एजी एक्सटेंशन कार्यकर्ता एक सप्ताह के बाद वापस जाएगा और कहेगा, ‘कुछ फर्क पड़ा?’ (क्या इससे कोई फर्क पड़ा?),” धालीवाल ने समझाया। “अगर किसान कहता है ‘ये तो और ख़राब हो गया’ (यह और भी बदतर हो गया), तो वह तुरंत इसमें संशोधन करेगा।”
अब एक एआई ऐप की कल्पना करें जो फोटो-आधारित निदान के माध्यम से गलत सलाह दे रहा है। “अगर आप उन्हें गलत सलाह देंगे तो क्या होगा [and] कुछ बुरा हुआ? प्रौद्योगिकी में विश्वास के बारे में क्या? क्या वे कभी आपके पास वापस आएंगे या नहीं?”
भारत साक्ष्य राजधानी के रूप में
सावधानी के बावजूद, धालीवाल भारत को इस वैश्विक पहेली को सुलझाने के लिए विशिष्ट स्थिति में देखते हैं। जबकि पश्चिम खंडित विरासत प्रणालियों से जूझ रहा है, भारत के डिजिटल पब्लिक इंफ्रास्ट्रक्चर (DPI) – जिसमें आधार और UPI शामिल हैं – ने इसे “दुनिया की AI एप्लिकेशन राजधानी” बना दिया है।
धालीवाल ने कहा, “भारत आने और काम पर डीपीआई स्टैक को देखने बनाम किसी अन्य निम्न और मध्यम आय वाले देश में जाने का अंतर अभूतपूर्व है।” “भारत में उपलब्ध डिजिटलीकरण और डेटा चार्ट से बाहर है।”
यह डिजिटल बैकबोन भारत को तेजी से, कम लागत वाले यादृच्छिक मूल्यांकन (आरसीटी) चलाने की अनुमति देता है ताकि यह परीक्षण किया जा सके कि एआई उपकरण वास्तव में काम करते हैं या नहीं।
गति बनाम कठोरता
धालीवाल ने स्वीकार किया कि कठोर मूल्यांकन और राजनीतिक समयसीमा के बीच तनाव कोई नई बात नहीं है। उन्होंने कहा, “जे-पाल में मेरे 16 वर्षों में, आम सवाल क्या रहा है? ‘इसमें बहुत लंबा समय लगने वाला है। हमें इसे अभी लागू करने की जरूरत है।”
दबाव कई स्रोतों से आता है: आगामी चुनाव, नौकरशाही स्थानांतरण (अधिकारी अपनी 18 महीने की पोस्टिंग समाप्त होने से पहले परिणाम चाहते हैं), और बजटीय चक्र जिसमें 31 मार्च तक खर्च की आवश्यकता होती है। “और इन सबके पीछे अच्छा करने की इच्छा भी है,” उन्होंने कहा।
उनकी प्रतिक्रिया: “इसे धीमा करो इसलिए नहीं कि हमें गरीबों की परवाह नहीं है, बल्कि इसलिए कि हम गरीबों की परवाह करते हैं और वास्तव में चाहते हैं कि उन्हें परिणाम मिले।”
लेकिन वह इस आधार पर पीछे हट गया। भारत के डिजिटल बुनियादी ढांचे के लिए धन्यवाद, मूल्यांकन अब “बहुत तेज़” हैं। “हम स्वास्थ्य प्रवेश, शैक्षिक परिणामों, किसानों की उत्पादकता के बारे में डेटा को अब डिजिटल रूप से अधिक प्राप्त कर सकते हैं,” प्रारंभिक परिणामों को तेज करने की अनुमति देता है।
संवर्द्धन, प्रतिस्थापन नहीं
धालीवाल ने तर्क दिया कि ग्लोबल साउथ में मनुष्यों को कठिन परिश्रम से बचाने के लिए एआई को तैनात करना अनिवार्य है, न कि उन्हें प्रतिस्थापित करने के लिए।
उन्होंने ब्राज़ील में एक एआई ग्रेडिंग टूल “लेट्रस” की ओर इशारा किया, जो मानकीकृत परीक्षणों के लिए वर्तनी और व्याकरण की जाँच जैसे यांत्रिक कार्य को संभालता है। इसने शिक्षकों को परामर्श पर ध्यान केंद्रित करने के लिए मुक्त कर दिया। “यह एक मानव ग्रेडर की भूमिका को निरर्थक बना देता है… [freeing] शिक्षक को आपके साथ बैठना होगा… और इस बारे में सोचना होगा कि आपने इस समस्या को किस विश्लेषणात्मक तरीके से देखा है,” उन्होंने समझाया।
इसी तरह, एआई कर संग्रह में मानवीय पूर्वाग्रह को ठीक कर सकता है। सेनेगल में – वसंत कुंज जैसे पड़ोस के समान एक संदर्भ – मानव कर निर्धारणकर्ता अक्सर अल्ट्रा-लक्जरी घरों का “कम मूल्यांकन” करते हैं क्योंकि वे उच्च-स्तरीय फिनिश की लागत की कल्पना नहीं कर सकते हैं।
नौकरशाह की चेकलिस्ट
पूर्व आईएएस अधिकारी धालीवाल ने शिखर सम्मेलन में जिला मजिस्ट्रेटों और सचिवों के लिए एक व्यावहारिक “चेकलिस्ट” की पेशकश की। वह किसी भी एआई अनुबंध पर हस्ताक्षर करने से पहले तीन सवालों के जवाब मांगेंगे।
सबसे पहले, परिवर्तन का सिद्धांत: “क्या परिवर्तन का हमारा सिद्धांत यह है कि शिक्षक अनावश्यक है, या… कि शिक्षक ऐसे काम कर रहा है जो बेकार हैं और उन्हें शिक्षण के अधिक विश्लेषणात्मक पक्ष पर ध्यान केंद्रित करने के लिए स्वचालित किया जा सकता है?”
दूसरा, प्रशिक्षण डेटा: “क्या उन्होंने प्रशिक्षण डेटा अमेरिका से डाउनलोड किया था या प्रशिक्षण डेटा भारत से आ रहा है? क्योंकि यह पूरी तरह से निर्धारित करेगा, विशेष रूप से स्वास्थ्य परिणामों में… हमने कई वर्षों तक इसका सामना किया है क्योंकि इनमें से कई परीक्षण पश्चिम में हुए थे।”
अंत में, क्षेत्र की मजबूती: “यह क्षेत्र में कैसे काम करेगा? मैंने आपको पहले ही मशीनों के उदाहरण बताए हैं जो गिर जाएंगी… इंटरनेट और बिजली जो जाती रहती है।”
धालीवाल ने निष्कर्ष निकाला, “मैं ये सभी प्रश्न बहुत सख्ती से पूछूंगा।” “और उसके बाद मैं कहूंगा… ‘आइए इसे तीन, चार, पांच महीने तक चलाएं। आइए इसका परीक्षण करें… और यदि हां, तो आइए इसके लिए आगे बढ़ें।'”
धालीवाल ने स्पष्ट किया कि हर आवेदन के लिए कठोर यादृच्छिक परीक्षणों की आवश्यकता नहीं है। पोस्ट-इंटरैक्शन रेटिंग या कॉलबैक ट्रैकिंग के साथ, बिलिंग प्रश्नों को संभालने वाले ऐप्स के लिए सरल ए/बी परीक्षण काम करता है।
