एंथ्रोपिक ने दुनिया की अग्रणी कृत्रिम बुद्धिमत्ता कंपनियों से तेजी से शक्तिशाली एआई सिस्टम के विकास को धीमा करने पर विचार करने का आह्वान किया है, चेतावनी दी है कि तेजी से प्रगति अंततः मॉडलों को मानवीय हस्तक्षेप के बिना खुद को बेहतर बनाने और महत्वपूर्ण सामाजिक जोखिम पैदा करने में सक्षम कर सकती है।
यह भी पढ़ें | मानवजनित एआई प्रगति ‘समाज की तुलना में तेजी से जोखिम का प्रबंधन कर सकती है’, चेतावनी, विकास को रोकने का आह्वान
ए ब्लॉग भेजा गुरुवार को जारी, कंपनी ने आंतरिक डेटा जारी किया जिसमें दिखाया गया कि उसके सबसे उन्नत मॉडल कितनी तेजी से सुधार कर रहे हैं।
पोस्ट में चेतावनी दी गई है कि पुनरावृत्तीय आत्म-सुधार अभी तक नहीं हुआ है और यह अपरिहार्य नहीं है, “लेकिन अधिकांश संगठन जितनी तैयारी के लिए तैयार हैं, उससे पहले भी आ सकता है।”
एंथ्रोपिक ने कहा कि वैश्विक एआई विकास को धीमा करने की क्षमता “शायद एक अच्छी बात होगी।”
यह भी पढ़ें | मैंने गलती से क्लाउड एआई के साथ एक मासिक वित्त ट्रैकर बना लिया। यहाँ इसके बारे में सब कुछ है
एआई में आत्म-सुधार के चरण क्या हैं?
कंपनी के आंतरिक अनुसंधान संस्थान की प्रमुख मरीना फेवरो और सह-संस्थापक जैक क्लार्क की पोस्ट के अनुसार, वर्तमान प्रगति “पुनरावृत्त आत्म-सुधार” की ओर बढ़ती दिख रही है – एक ऐसा चरण जहां एआई सिस्टम मानवीय हस्तक्षेप के बिना खुद को बेहतर बना सकते हैं। कुछ एआई शोधकर्ता उस सीमा को खतरे और प्रमुख सामाजिक व्यवधान के संभावित स्रोत के रूप में देखते हैं।
पोस्ट में कहा गया है, “हमारा मानना है कि तकनीकी प्रगति के साथ तालमेल बनाए रखने के लिए सामाजिक संरचना और संरेखण अनुसंधान को सक्षम करने के लिए फ्रंटियर एआई विकास को धीमा या अस्थायी रूप से रोकने का विकल्प दुनिया के लिए बेहतर होगा।” यह संभावित विकास को धीमा करने के तरीके पर एक वैश्विक समझौते और यह सत्यापित करने की प्रक्रिया का प्रस्ताव करता है कि प्रतिस्पर्धी अनुपालन कर रहे हैं।
मार्केटिंग रणनीति या चेतावनी?
आलोचकों ने तर्क दिया है कि एंथ्रोपिक के अपने उपकरणों द्वारा उत्पन्न जोखिमों के बारे में चेतावनी एक विपणन चाल के रूप में भी काम कर सकती है।
वे अपने उत्पादों की क्षमताओं को उजागर करने के एक तरीके के रूप में, अपने शक्तिशाली “मिथोस” साइबर सुरक्षा मॉडल के प्रकटीकरण को सीमित करने के कंपनी के फैसले की ओर इशारा करते हैं, जो बग और कमजोरियों का पता लगा सकता है।
एंथ्रोपिक के नेतृत्व का कहना है कि वह सुरक्षा को गंभीरता से लेता है और एआई जोखिमों के बारे में व्यापक चर्चा को प्रोत्साहित कर रहा है।
पेंसिल्वेनिया विश्वविद्यालय के व्हार्टन स्कूल के प्रोफेसर और एआई परिवर्तन के एक प्रभावशाली विद्वान एथन मलिक ने कहा कि जहां कुछ आलोचक एंथ्रोपिक के सुरक्षा संदेश को प्रचार के रूप में देखते हैं, वहीं डब्ल्यूएसजे के अनुसार कंपनी के अंदर कई लोग “सच्चे विश्वासी” हैं।
मल्लिक ने कहा, “एआई प्रयोगशालाएं चीजों का मिश्रण हैं,” जिनकी एआई के बारे में पुस्तक “सह-अस्तित्व” शरद ऋतु में आने वाली है।
एआई उद्योग लंबे समय से इस बात पर विभाजित है कि मौजूदा सिस्टम कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) – मनुष्यों के बराबर बुद्धि का स्तर – या पुनरावृत्त आत्म-सुधार जैसे मील के पत्थर हासिल करने के कितने करीब हैं।
