मानवजनित एआई प्रगति ‘समाज की तुलना में तेजी से जोखिम का प्रबंधन कर सकती है’, चेतावनी, विकास को रोकने का आह्वान

क्लाउड क्रिएटर का कहना है कि एआई की कार्यों को अपने आप पूरा करने की क्षमता लगभग हर चार महीने में दोगुनी हो रही है और यह “पुनरावृत्तीय आत्म-सुधार” की ओर बढ़ रही है, जिस बिंदु पर प्रौद्योगिकी मानव हस्तक्षेप के बिना सुधार कर सकती है।

स्टार्टअप ने गुरुवार को एक लंबे ब्लॉग पोस्ट में कहा, “अगर सिस्टम अपने उत्तराधिकारी पैदा करने में पूरी तरह से सक्षम हैं, तो जिस तरह से हम उनकी रक्षा करते हैं, उनकी निगरानी करते हैं और उनके व्यवहार को आकार देते हैं वह और भी महत्वपूर्ण हो जाता है।” उन्होंने कहा कि एक ठहराव समाज को “इसके विशाल निहितार्थों से निपटने” की अनुमति देगा।

एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और एंथ्रोपिक इंस्टीट्यूट की प्रमुख मरीना फेवरो ने पोस्ट में लिखा, “हम अभी तक वहां नहीं हैं, और पुनरावृत्तीय आत्म-सुधार अपरिहार्य नहीं है। लेकिन यह अधिकांश संगठनों की तैयारी से पहले आ सकता है।”

जैसे-जैसे प्रौद्योगिकी अधिक सक्षम होती जा रही है, यह आशंका बढ़ती जा रही है कि उन्नत एआई सिस्टम मानव नियंत्रण से परे जा सकते हैं और सामाजिक नुकसान का कारण बन सकते हैं। मानवविज्ञानी स्वामी हैं पौराणिक कथा इस मॉडल ने, मौजूदा कोड में कमजोरियों को खोजने की अपनी क्षमता के साथ, इस साल की शुरुआत में बैंकिंग और सॉफ्टवेयर सहित उद्योगों को चौंका दिया।

लेकिन विनियमन धीमा रहा है, खासकर अमेरिका में जहां अधिकांश प्रमुख एआई प्रयोगशालाएं स्थित हैं। ए तुस्र्प इस सप्ताह की शुरुआत में प्रशासन के कार्यकारी आदेश ने प्रयोगशालाओं पर जिम्मेदारी डालते हुए उन्हें रिलीज से पहले स्वेच्छा से अपने सबसे सक्षम मॉडल को सरकारी साइबर सुरक्षा परीक्षणों में जमा करने के लिए कहा।

एआई शोधकर्ताओं ने पहले भी विराम का आह्वान किया है लेकिन बहुत कम सफलता मिली है। एलोन मस्कजो एआई लैब एक्सएआई का मालिक है, सुरक्षा गार्डों के लिए समय की अनुमति देने के लिए 2023 में छह महीने के लिए एआई विकास को रोकने के लिए गैर-लाभकारी फ्यूचर ऑफ लाइफ इंस्टीट्यूट के दबाव के समर्थकों में से एक था।

एंथ्रोपिक ने लंबे समय से खुद को सुरक्षा-केंद्रित एआई प्रयोगशाला के रूप में स्थापित किया है। इस साल की शुरुआत में, इसने अमेरिकी सेना को घरेलू निगरानी और पूरी तरह से स्वायत्त हथियारों के लिए अपने मॉडलों का उपयोग करने से मना कर दिया, जिसके बाद सरकार ने इसे राष्ट्रीय सुरक्षा ब्लैकलिस्ट में डाल दिया, जो 2026 में प्रभावी होगा।

रॉयटर्स ने शुक्रवार को बताया कि अमेरिकी सरकार के कुछ हिस्सों में विवाद कम होने के संकेत दिख रहे हैं।

फिर भी, एंथ्रोपिक ने तेजी से शक्तिशाली मॉडल जारी करना जारी रखा और फरवरी में एक प्रमुख सुरक्षा प्रतिज्ञा वापस ले ली, जिसमें कहा गया कि अगर प्रतिद्वंद्वी इसकी क्षमताओं से मेल खाने के करीब आते हैं तो यह संभावित खतरनाक एआई को अवरुद्ध नहीं करेगा।

इसने हाल ही में बड़े पैमाने पर फंडिंग राउंड में 965 बिलियन डॉलर जुटाए और सोमवार को अमेरिकी आरंभिक सार्वजनिक पेशकश के लिए निजी तौर पर आवेदन किया, जिससे यह प्रतिद्वंद्वियों से आगे हो गया। ओपनएआई मूल्यांकन और महत्वपूर्ण फंडिंग सुरक्षित करने की दौड़ दोनों में।

इसमें कहा गया है कि एक सार्थक ब्रेक के लिए तकनीकी सीमा पर काम करने वाली “कई अच्छी तरह से संसाधन वाली प्रयोगशालाओं” के बीच समझौते की आवश्यकता होगी, साथ ही नियमों के बारे में भी कि कौन सी स्थितियाँ इस तरह के ब्रेक को ट्रिगर या उठाएँगी और कौन इसकी देखरेख करेगा।

स्टार्टअप ने कहा, “इसके विपरीत, लैब द्वारा एकतरफा ब्रेक तुरंत प्राप्त किया जा सकता है, लेकिन बहुत कम हासिल होता है: यह बदल देगा कि फ्रंट-रनर कौन है, लेकिन यह वर्तमान में गायब व्यापक विचार-विमर्श प्रक्रिया का निर्माण नहीं करेगा।”

इसकी अनुसंधान शाखा, एंथ्रोपोलॉजी इंस्टीट्यूट, मंदी का समर्थन करने के लिए आवश्यक प्रणालियों का अध्ययन करने की योजना बना रही है और आने वाले महीनों में नीति निर्माताओं, शोधकर्ताओं, नागरिक समाज समूहों और प्रतिद्वंद्वी एआई फर्मों को बुलाकर चर्चा करेगी कि पुनरावृत्त आत्म-सुधार जैसे जोखिमों का प्रबंधन कैसे किया जाए।

ओपनएआई, एक्सएआई, वर्णमाला, मेटा प्लेटफ़ॉर्म और फ़्रांस के मिस्ट्रल ने इस पर टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया कि वे कॉल में शामिल होंगे या नहीं।