एंथ्रोपिक के एआई सुरक्षा प्रमुख मृणांक शर्मा ने इस्तीफा दिया: ‘दुनिया खतरे में है’

एंथ्रोपिक में सेफगार्ड्स रिसर्च टीम का नेतृत्व करने वाले मृणांक शर्मा ने यह कहते हुए कंपनी से इस्तीफा दे दिया है कि “दुनिया खतरे में है”, न केवल कृत्रिम बुद्धिमत्ता (एआई) या जैविक हथियारों से, बल्कि उन्होंने जो कहा वह वर्तमान में “परस्पर जुड़े संकटों की एक पूरी श्रृंखला” सामने आ रही है।

एंथ्रोपिक, एक अमेरिकी एआई कंपनी जिसका मुख्यालय सैन फ्रांसिस्को, कैलिफ़ोर्निया में है, अपने एआई मॉडल, क्लाउड से प्रसिद्धि पाई। एआई अर्थव्यवस्था को कैसे बदल सकता है, इस बारे में निवेशकों की बढ़ती चिंताओं के बीच, एंथ्रोपिक ने विभिन्न उद्योगों में कार्य कार्यों को स्वचालित करने के लिए डिज़ाइन किए गए नए टूल जारी किए। इस कदम से यह आशंका और बढ़ गई कि इन नवाचारों से कई व्यवसायों को नुकसान होगा।

यह भी पढ़ें | एंथ्रोपिक क्लाउड कोवर्क ने टीसीएस से लेकर इंफोसिस तक के बिजनेस मॉडल को खत्म करने की धमकी दी है

एक्स पर एक पोस्ट में, शर्मा ने अपने इस्तीफे का विवरण देते हुए एक पत्र साझा किया। उन्होंने कहा, “मैंने एंथ्रोपिक छोड़ने का फैसला किया है…मैंने यहां वह हासिल कर लिया है जो मैं चाहता था। मैं अपनी पीएचडी पूरी करने के बाद दो साल पहले सैन फ्रांसिस्को आया था और एआई सुरक्षा में योगदान देना चाहता था। मैं खुद को भाग्यशाली मानता हूं कि मैं यहां जो कुछ भी है उसमें योगदान करने में सक्षम हूं: एआई चाटुकारिता और इसके कारणों को समझना; एआई-सहायता प्राप्त जैव आतंकवाद से जोखिमों को कम करने के लिए बचाव विकसित करना; वास्तव में उन बचावों को उत्पादन में लाना; और पहले एआई सुरक्षा मामलों में से एक लिखना।”

शर्मा ने अपने हालिया प्रयासों पर गर्व व्यक्त किया, विशेष रूप से “यह समझने पर कि एआई सहायक हमें कम मानवीय कैसे बना सकते हैं या हमारी मानवता को विकृत कर सकते हैं” पर अपनी अंतिम परियोजना पर गर्व व्यक्त किया।

हालाँकि, उन्होंने कहा, अब उनके लिए आगे बढ़ने का समय आ गया है। शर्मा ने कहा, “मैं लगातार खुद को हमारी स्थिति के साथ हिसाब-किताब करता हुआ पाता हूं। दुनिया खतरे में है। और न केवल एआई, या जैविक हथियारों से, बल्कि इस क्षण में सामने आने वाले परस्पर जुड़े संकटों की एक पूरी श्रृंखला से। हम एक ऐसी सीमा के करीब पहुंचते दिख रहे हैं, जहां हमारी बुद्धि दुनिया को प्रभावित करने की हमारी क्षमता के बराबर बढ़नी चाहिए, अन्यथा हमें इसके परिणामों का सामना नहीं करना पड़ेगा।”

यह भी पढ़ें | क्लॉड ओपस 4.6: रोजमर्रा के कार्यस्थल उपयोग के लिए 5 प्रमुख मानवशास्त्रीय अपडेट; ‘OpenAI के GPT से बेहतर प्रदर्शन’

उन्होंने कहा कि एंथ्रोपिक में अपने पूरे समय के दौरान, उन्होंने बार-बार महसूस किया है कि “वास्तव में हमारे मूल्यों को हमारे कार्यों को नियंत्रित करने देना कितना मुश्किल है”।

शर्मा इस बात से सहमत थे कि कंपनी और उनके भीतर, जो सबसे ज्यादा मायने रखता है उसे अलग रखने का लगातार दबाव रहता है और यही बात व्यापक समाज में भी देखी जाती है।

शर्मा ने अपने पत्र में कहा, “मैं उन सवालों का पता लगाना चाहता हूं जो वास्तव में मेरे लिए जरूरी हैं, वे सवाल जिनके बारे में डेविड व्हाईट कहेंगे कि “उन्हें दूर जाने का कोई अधिकार नहीं है”, वे सवाल जिनके बारे में रिल्के हमें “जीने” के लिए कहते हैं। मेरे लिए, इसका मतलब है चले जाना।”

शर्मा ने यह नहीं बताया कि वह आगे क्या करेंगे। इसके बजाय, उन्होंने एक प्रसिद्ध ज़ेन उद्धरण उद्धृत किया, “न जानना सबसे अंतरंग है”।

उन्होंने कहा कि उनका इरादा एक ऐसी जगह बनाने का है जहां वह उन संरचनाओं को अलग रख सकें जिन्होंने पिछले वर्षों में उन्हें रोक रखा था और यह पता लगा सकें कि उनकी अनुपस्थिति में क्या उभर सकता है।

शर्मा ने लिखा, “मैं ऐसा लिखने के लिए प्रेरित हूं जो उस स्थान को संबोधित करता है और पूरी तरह से संलग्न करता है जहां हम खुद को पाते हैं, और जो काव्यात्मक सत्य को वैज्ञानिक सत्य के साथ-साथ जानने के समान रूप से वैध तरीकों के रूप में रखता है, मेरा मानना ​​​​है कि दोनों में नई तकनीक विकसित करने में योगदान करने के लिए कुछ आवश्यक है।”

मृणांक शर्मा ने कहा कि उन्हें कविता में डिग्री हासिल करने और साहसी भाषण के अभ्यास के लिए खुद को समर्पित करने की उम्मीद है।

उन्होंने कहा, “मैं सुविधा, कोचिंग, सामुदायिक निर्माण और समूह कार्य के अपने अभ्यास को गहरा करने के लिए भी उत्साहित हूं। जो भी सामने आएगा हम करेंगे।” अंत में, मृणांक शर्मा ने पत्र पर हस्ताक्षर करते हुए लिखा कि यह उनकी पसंदीदा कविताओं में से एक है, विलियम स्टैफ़ोर्ड की “द वे इट इज़”।

एक अलग पोस्ट में, शर्मा ने कहा कि वह यूनाइटेड किंगडम वापस जाएंगे और “खुद को कुछ समय के लिए अदृश्य होने देंगे”।