भारत एआई गवर्नेंस दिशानिर्देशों के पीछे सरकार द्वारा नियुक्त समिति ने उद्योग और नियामकों के लिए एक विस्तृत जवाबदेही ढांचे, शिकायत निवारण तंत्र और भारत को आने वाले वर्षों में एआई गवर्नेंस को कैसे लागू करना चाहिए, इसके लिए एक कार्य योजना के साथ व्यावहारिक दिशानिर्देशों का एक सेट निर्धारित किया है।
“यह [report] एआई को बहुत गतिशील, सुरक्षित और नवीन तरीके से रोलआउट करता है। हमें यह देखने की जरूरत है कि हम इसे कैसे आगे ले जाते हैं, खासकर जब वे कहते हैं कि कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) सिर्फ दो साल दूर है।” प्रधान वैज्ञानिक सलाहकार अजय कुमार सूद ने कहा, ”हमें यह देखना चाहिए कि हम वास्तव में एजीआई के लिए खुद को कैसे तैयार करते हैं… मुझे नहीं लगता कि जिस तरह से यह हो रहा है, इसे रैखिक रूप से बढ़ाया जा सकता है… ताकि अधिक जीपीयू को पंप किया जा सके। हमारे ऐसा करने से पहले महासागर उबल जायेंगे। यह उत्तर नहीं हो सकता।”
समिति की सिफारिशें, जो वर्तमान में कानून में लागू करने योग्य नहीं हैं, एआई सिस्टम विकसित करने और तैनात करने वाली कंपनियों से गोपनीयता, निष्पक्षता, सुरक्षा और पारदर्शिता पर मौजूदा कानूनों और स्वैच्छिक सिद्धांतों का अनुपालन करने का आग्रह करती हैं। यह अनुशंसा करता है कि कंपनियां जवाबदेही प्रतिबद्धताओं को प्रतिबिंबित करने, ऑडिट ट्रेल्स बनाए रखने, पारदर्शिता रिपोर्ट प्रकाशित करने, जहां उपयुक्त हो वहां मानव निरीक्षण को एम्बेड करने और गोपनीयता-बढ़ाने और पूर्वाग्रह-शमन उपकरण को सीधे अपने सिस्टम में बनाने के लिए अपनी सेवा शर्तों को अपडेट करें।
इस बीच, नियामकों को आनुपातिक, जोखिम-आधारित दृष्टिकोण अपनाने, जीवन, आजीविका या सुरक्षा को खतरे में डालने वाले नुकसान पर ध्यान केंद्रित करने और लगातार निगरानी सुनिश्चित करने के लिए समिति-प्रस्तावित एआई गवर्नेंस ग्रुप (एआईजीजी) के माध्यम से मंत्रालयों और एजेंसियों के बीच समन्वय करने के लिए प्रोत्साहित किया जाता है।
समिति का कहना है कि जवाबदेही को एआई मूल्य श्रृंखला में स्पष्ट रूप से वितरित किया जाना चाहिए। इसमें कहा गया है, “निष्पादित कार्य, नुकसान के जोखिम और लगाए गए उचित परिश्रम की शर्तों के आधार पर जवाबदेही स्पष्ट रूप से सौंपी जानी चाहिए। जवाबदेही विभिन्न नीति, तकनीकी और बाजार-आधारित तंत्रों के माध्यम से सुनिश्चित की जा सकती है।”
संगठनों से अपेक्षा की जाती है कि वे विकास और तैनाती के प्रत्येक चरण में जिम्मेदारियों को परिभाषित करने के लिए आंतरिक नीतियों और शासन संरचनाओं को अद्यतन करें। रिपोर्ट पारदर्शिता रिपोर्ट प्रकाशित करने, ऑडिट ट्रेल्स बनाए रखने और शिकायत चैनल पेश करने की सिफारिश करती है जो उपयोगकर्ताओं के लिए आसान हो।
“रिपोर्ट स्पष्ट है कि हालांकि ये उपाय आवश्यक मूलभूत कदम हैं, वे अकेले पर्याप्त नहीं हैं। पारदर्शिता रिपोर्ट कंपनी की प्रथाओं को सार्वजनिक और सहकर्मी जांच के अधीन करके मूल्य प्रदान करती है, और अद्यतन आंतरिक नीतियां जिम्मेदार एआई के लिए कॉर्पोरेट प्रतिबद्धता का संकेत देती हैं। हालांकि, तीसरे पक्ष के ऑडिट, बाहरी प्रमाणन, सुलभ शिकायत निवारण चैनल और नियमित सरकारी निरीक्षण जैसे अतिरिक्त तंत्र की अनुपस्थिति में, ऐसे उपायों का प्रभाव सीमित हो सकता है। इस प्रकार दिशानिर्देश अनुशंसा करते हैं कि पारदर्शिता और स्वैच्छिक अनुपालन को बाजार प्रोत्साहन, क्षेत्रीय मार्गदर्शन और विकास द्वारा पूरक किया जाना चाहिए। स्वतंत्र मूल्यांकन और शिकायत तंत्र, जिससे जवाबदेही की परतें बनती हैं जो लचीली और आवश्यकता पड़ने पर लागू करने योग्य दोनों होती हैं, ”द डायलॉग, एक तकनीकी नीति थिंक टैंक की एसोसिएट निदेशक जमीला साहिबा ने कहा।
रिपोर्ट में उच्च जोखिम वाले एआई सिस्टम में मानवीय निगरानी का भी आह्वान किया गया है। इसमें प्रमुख निर्णय बिंदुओं पर “ह्यूमन-इन-द-लूप” सुविधाओं का निर्माण शामिल है ताकि एआई आउटपुट की समीक्षा की जा सके या मानवीय निर्णय द्वारा ओवरराइड किया जा सके। तेजी से बदलते संदर्भों में जहां प्रत्यक्ष मानव निरीक्षण संभव नहीं हो सकता है, समिति सर्किट ब्रेकर, स्वचालित जांच और सिस्टम-स्तरीय बाधाओं जैसे सुरक्षा उपायों की सिफारिश करती है। यह महत्वपूर्ण क्षेत्रों में नियमित निगरानी, परीक्षण और ऑडिट ट्रेल्स का भी आह्वान करता है ताकि यह सुनिश्चित किया जा सके कि एआई सिस्टम परिभाषित सीमाओं के भीतर काम करते हैं और संभावित जोखिमों का शीघ्र पता लगाया और प्रबंधित किया जाता है।
शिकायत निवारण पर, रिपोर्ट में कहा गया है कि कंपनियों को घटना की रिपोर्टिंग से अलग, स्पष्ट और उपयोग में आसान शिकायत प्रणाली स्थापित करनी चाहिए। ये कई भाषाओं में उपलब्ध होने चाहिए, निश्चित समयसीमा के भीतर जवाब देने चाहिए और सीमित डिजिटल कौशल वाले उपयोगकर्ताओं सहित सभी उपयोगकर्ताओं के लिए सुलभ होने चाहिए। इसमें कहा गया है कि शिकायतों से प्राप्त फीडबैक का उपयोग समस्याओं को ठीक करने और भविष्य के जोखिमों को कम करने के लिए किया जाना चाहिए। रिपोर्ट नियामकों और प्रस्तावित एआईजीजी से सामान्य प्रारूप और वृद्धि प्रक्रियाएं बनाने का भी आग्रह करती है ताकि शिकायतों, विशेष रूप से महत्वपूर्ण क्षेत्रों में, जल्दी और लगातार निपटा जा सके।
आईआईटी मद्रास के प्रोफेसर और समिति के अध्यक्ष बलरामन रवींद्रन ने कहा, “विचार यह पहचानने का है कि मूल्य श्रृंखला और एआई पारिस्थितिकी तंत्र में अलग-अलग खिलाड़ी होंगे। इसलिए हमें अधिक दायित्व लागू करने के बारे में सोचना होगा और यह सुनिश्चित करना होगा कि मौजूदा कानूनों को स्पष्ट रूप से और लगातार लागू किया जाए ताकि वे जान सकें कि जब वे एआई पेश कर रहे हैं, तो वे मौजूदा कानूनों के अनुपालन में हैं।”
समिति अपनी सिफारिशों को लागू करने के लिए एक चरणबद्ध कार्य योजना की रूपरेखा भी तैयार करती है। अल्पावधि में, यह जोखिम ढांचे, स्वैच्छिक प्रतिबद्धताओं और स्पष्ट दायित्व मानदंडों को विकसित करते हुए एआईजीजी, प्रौद्योगिकी और नीति विशेषज्ञ समिति (टीपीईसी), और एक एआई सुरक्षा संस्थान (एआईएसआई) की स्थापना का आह्वान करता है। हाल ही में भारत एआई मिशन के तहत स्थापित एआईएसआई को समिति द्वारा भारत में एआई के सुरक्षित और विश्वसनीय विकास और उपयोग के मार्गदर्शन के लिए जिम्मेदार मुख्य निकाय के रूप में कार्य करने की सिफारिश की गई है।
मध्यम अवधि में, रिपोर्ट सुरक्षा और निष्पक्षता पर सामान्य मानकों को लागू करने, राष्ट्रीय एआई घटना डेटाबेस को संचालित करने और उच्च जोखिम वाले डोमेन में नियामक सैंडबॉक्स शुरू करने का सुझाव देती है। लंबी अवधि में, समिति भारत के डिजिटल सार्वजनिक बुनियादी ढांचे के साथ एआई के पूर्ण एकीकरण और एआई सुरक्षा और नीति पर विस्तारित अंतरराष्ट्रीय सहयोग की कल्पना करती है।
हालांकि सिफारिशें बाध्यकारी नहीं हैं, रिपोर्ट में कहा गया है कि उनका उद्देश्य सार्वजनिक और निजी दोनों अभिनेताओं का मार्गदर्शन करना है। इसमें कहा गया है, “ये सिफारिशें प्रकृति में सलाहकार हैं। भारत सरकार उचित नीति उपायों, मानकों या विनियमों के माध्यम से उनके कार्यान्वयन पर विचार कर सकती है।”
