भारत के चुनाव आयोग (ईसीआई) ने आगामी विधानसभा चुनावों से पहले गलत सूचना और एआई-जनित डीपफेक के बढ़ते खतरे को संबोधित करने के लिए 11 मार्च को निर्वाचन सदन में प्रमुख सोशल मीडिया प्लेटफार्मों के वरिष्ठ अधिकारियों के साथ एक बैठक बुलाई है।
यह बैठक ऐसे समय हुई है जब ईसीआई, इंडिया इंटरनेशनल इंस्टीट्यूट ऑफ डेमोक्रेसी एंड इलेक्शन मैनेजमेंट (आईआईआईडीईएम) के साथ समन्वय में, चुनावों के दौरान एआई-जनित गलत सूचनाओं की पहचान करने और उनका मुकाबला करने के लिए एक समर्पित तकनीकी ढांचा विकसित करने पर काम कर रहा है।
ईसीआई के वरिष्ठ अधिकारियों ने कहा कि चर्चा चुनाव-संबंधी सामग्री की निगरानी को मजबूत करने, शिकायतों पर प्रतिक्रिया समय में सुधार करने और अभियान अवधि के दौरान डिजिटल प्लेटफार्मों और चुनाव अधिकारियों के बीच समन्वय बढ़ाने पर केंद्रित होगी। यह बैठक चुनाव के दौरान सोशल मीडिया के उपयोग से जुड़े “अवसरों और चुनौतियों” की जांच के विषय पर आयोजित की जाएगी।
अधिकारियों ने संकेत दिया कि यह पहली बार होगा जब आयोग चुनाव-संबंधित सामग्री मुद्दों पर प्रमुख प्रौद्योगिकी कंपनियों के साथ सीधी, संरचित बैठक कर रहा है। अब तक, ईसीआई ने आदर्श आचार संहिता (एमसीसी) के कार्यान्वयन के दौरान सलाह जारी करके ऐसी चिंताओं को बड़े पैमाने पर संबोधित किया है। उस अवधि के दौरान, जिला कलेक्टर, जो चुनाव के दौरान जिला नोडल अधिकारी के रूप में भी कार्य करते हैं, उम्मीदवारों, राजनीतिक दलों या डिजिटल प्लेटफार्मों को नोटिस जारी कर सकते हैं और भ्रामक या गैरकानूनी सामग्री को हटाने का निर्देश दे सकते हैं।
वैश्विक प्रौद्योगिकी फर्मों के वरिष्ठ प्रतिनिधियों के भाग लेने की उम्मीद है, जिसमें मेटा प्लेटफ़ॉर्म के अधिकारी भी शामिल हैं, जो फेसबुक, इंस्टाग्राम और व्हाट्सएप संचालित करते हैं; Google और YouTube की मूल कंपनी Alphabet Inc.; और एक्स कार्पोरेशन, जो एक्स चलाता है।
अपने स्वयं के तकनीकी उपकरण विकसित करने और डिजिटल प्लेटफार्मों के साथ समन्वय करने के हिस्से के रूप में जहां ऐसी सामग्री प्रसारित होती है, अधिकारियों ने कहा कि आयोग चुनावों के दौरान डीपफेक वीडियो, सिंथेटिक ऑडियो और हेरफेर की गई डिजिटल सामग्री का पता लगाने के लिए विशेष सॉफ्टवेयर और परिचालन प्रोटोकॉल के विकास की खोज कर रहा है।
अधिकारियों के अनुसार, प्रस्तावित प्रणाली यह निर्धारित करने के लिए डिजिटल सामग्री का विश्लेषण करेगी कि क्या कोई वीडियो, ऑडियो क्लिप या छवि मूल है, एआई टूल का उपयोग करके कृत्रिम रूप से उत्पन्न किया गया है या भ्रामक तरीके से संपादित किया गया है। सॉफ़्टवेयर को मनगढ़ंत भाषणों, डिजिटल रूप से बदले गए चेहरे के भाव, वॉयस क्लोनिंग और ऐसे उदाहरणों जैसे परिवर्तनों को चिह्नित करने के लिए डिज़ाइन किया जाएगा जहां वास्तविक फुटेज को चुनिंदा रूप से संपादित किया गया है या इसका अर्थ बदलने के लिए असंबंधित दृश्यों के साथ जोड़ा गया है।
वर्तमान में, ECI के मुख्य चुनाव प्रबंधन प्लेटफ़ॉर्म, ECINET के पास डीपफेक या AI-जनित मीडिया जैसी हेरफेर की गई डिजिटल सामग्री को प्रमाणित करने या पहचानने के लिए कोई अंतर्निहित तंत्र नहीं है।
यह पहल चुनावी राजनीति में कृत्रिम बुद्धिमत्ता की बढ़ती भूमिका के लिए संस्थागत तैयारियों को मजबूत करने के आयोग के व्यापक प्रयास का हिस्सा है। ईसीआई के आईटी विभाग के अधिकारियों ने कहा कि एआई टूल का इस्तेमाल यथार्थवादी लेकिन झूठी राजनीतिक सामग्री बनाकर, उम्मीदवारों की नकल करके या भ्रामक संदर्भों में वास्तविक बयान पेश करके सार्वजनिक चर्चा में हेरफेर करने के लिए किया जा सकता है।
प्रस्तावित पहचान प्रणाली से चुनाव अधिकारियों को वायरल सामग्री की प्रामाणिकता की पुष्टि करने और उन मामलों की पहचान करने में मदद मिलने की उम्मीद है जहां वास्तविक सामग्री को संपादित किया गया है, चुनिंदा रूप से क्लिप किया गया है या गलत सूचना पैदा करने के लिए असंबंधित तत्वों के साथ जोड़ा गया है।
यह पहल एआई और चुनावों पर दीर्घकालिक संस्थागत क्षमता बनाने के लिए आईआईआईडीईएम में खोजी जा रही एक व्यापक योजना से भी जुड़ी है, जिसमें अनुसंधान, प्रशिक्षण कार्यक्रम और एआई से संबंधित चुनावी जोखिमों पर एक वैश्विक ज्ञान केंद्र की संभावित स्थापना शामिल है।
यह बैठक तब हो रही है जब पश्चिम बंगाल, तमिलनाडु, केरल, असम और केंद्र शासित प्रदेश पुदुचेरी आने वाले महीनों में विधानसभा चुनावों की तैयारी कर रहे हैं, जिससे भ्रामक राजनीतिक सामग्री बनाने के लिए कृत्रिम बुद्धिमत्ता उपकरणों के बढ़ते उपयोग के बारे में आयोग के भीतर चिंताएं बढ़ गई हैं। चुनाव अधिकारी विशेष रूप से डीपफेक वीडियो, सिंथेटिक ऑडियो क्लिप और हेरफेर की गई छवियों से सावधान रहते हैं जो उम्मीदवारों को गलत तरीके से चित्रित कर सकते हैं, मनगढ़ंत बयान दे सकते हैं या नकली समर्थन बना सकते हैं।
