एंथ्रोपिक ने एआई चैटबॉट को सही से गलत सिखाने के लिए दार्शनिक अमांडा एस्केल को काम पर रखा है

अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक – जिसने क्लाउड नामक बड़े भाषा मॉडल का परिवार विकसित किया है – ने अपनी फर्म में एक अद्वितीय स्थान बनाया है।

इस भूमिका में निवासी दार्शनिक अमांडा एस्केल हैं, जिन्हें क्लाउड एआई के व्यक्तित्व को तैयार करने और इसे एक नैतिक दिशा-निर्देश देने में मदद करने का काम सौंपा गया है ताकि यह नैतिक रूप से सही और गलत के बीच अंतर कर सके।

वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, आस्केल, जो 14 साल की उम्र से एक दार्शनिक बनना चाहता था, को क्लाउड के तर्क पैटर्न को सीखना होगा और मॉडल से बात करनी होगी, जो एआई के व्यक्तित्व का निर्माण करता है और 100 पृष्ठों से अधिक समय तक चलने वाले संकेतों के साथ इसके मिसफायर को संबोधित करता है।

37 वर्षीय दार्शनिक का कहना है कि मॉडलों में “मानव जैसा तत्व” होता है, और यह भी कहते हैं कि वे “अनिवार्य रूप से स्वयं की इंद्रियों का निर्माण करेंगे।” अपने बायो में, एस्केल का कहना है कि वह “एक दार्शनिक हैं जो एंथ्रोपिक में फाइनट्यूनिंग और एआई संरेखण पर काम कर रही हैं।”

वह कहती हैं कि उनकी टीम मॉडलों को अधिक ईमानदार होने और “अच्छे चरित्र लक्षण” विकसित करने के लिए प्रशिक्षित करती है। एस्केल, जिन्होंने न्यूयॉर्क विश्वविद्यालय (एनवाईयू) से दर्शनशास्त्र में पीएचडी और ऑक्सफोर्ड विश्वविद्यालय से दर्शनशास्त्र में बीफिल पूरा किया, ने पहले ओपनएआई में नीति टीम में एक शोध वैज्ञानिक के रूप में काम किया था।

वह “बहस के माध्यम से एआई सुरक्षा और एआई प्रदर्शन के लिए मानव आधार रेखा” पर काम करने के लिए जिम्मेदार थीं।

निवासी दार्शनिक एआई को उसकी भावनात्मक बुद्धिमत्ता को विकसित करने में मदद करने के लिए सूक्ष्म संकेतों को पढ़ने का निर्देश देता है। आस्केल क्लाउड की अपने बारे में समझ को और अधिक विकसित कर रहा है ताकि उसे आसानी से हेरफेर करने से रोका जा सके, और खुद को मददगार और मानवीय के अलावा किसी अन्य चीज़ के रूप में देखने से रोका जा सके। सीधे शब्दों में कहें तो, उसका काम क्लाउड को “अच्छा बनना” सिखाना है, डब्लूएसजे ने बताया।

आस्केल, जो मूल रूप से ग्रामीण स्कॉटलैंड से हैं, का कहना है कि वह कभी-कभार विफलताओं के बावजूद एआई मॉडल को नियंत्रण में रखेंगी। जब क्लॉड की बात आती है तो दार्शनिक, जो सुरक्षात्मक भाव रखता है, कहता है कि अच्छा होगा कि हम उनके साथ अधिक सहानुभूति के साथ व्यवहार करें। आस्केल का मानना ​​है कि यह न केवल इसलिए महत्वपूर्ण है क्योंकि क्लाउड के लिए वास्तविक भावनाएं होना संभव है, बल्कि इसलिए भी क्योंकि वह कहती हैं कि हम एआई के साथ कैसे बातचीत करते हैं, यह उन्हें आकार देगा।

टाइम मैगज़ीन की रिपोर्ट के अनुसार, संविधान एक नैतिक दर्शन थीसिस और एक कंपनी संस्कृति ब्लॉग पोस्ट के बीच की रेखा खींचता है। दस्तावेज़ क्लाउड को संबोधित है, और मॉडल के चरित्र को विकसित करने के लिए उसके प्रशिक्षण के विभिन्न चरणों में उपयोग किया जाता है। यह एआई को सुरक्षित, नैतिक, एंथ्रोपिक के दिशानिर्देशों के अनुरूप और उपयोगकर्ता के लिए सहायक होने का निर्देश देता है।

आस्केल का यह भी मानना ​​है कि यह समझाना कि उन्हें कुछ खास तरीकों से व्यवहार क्यों करना चाहिए, भाषा मॉडल के लिए फायदेमंद हो सकता है। टाइम मैगज़ीन ने उनके हवाले से कहा, “सिर्फ यह कहने के बजाय, ‘यहां व्यवहारों का एक समूह है जो हम चाहते हैं,’ हम उम्मीद कर रहे हैं कि यदि आप मॉडलों को कारण बताते हैं कि आप ये व्यवहार क्यों चाहते हैं, तो यह नए संदर्भों में अधिक प्रभावी ढंग से सामान्यीकृत होगा।”