‘एआई डेवलपमेंट की गति से बहुत घबराया हुआ’: ओपनई शोधकर्ता क्विट्स, दावा है कि लैब्स ‘बहुत जोखिम भरा जुआ’ ले रहे हैं | रुझान

“कुछ व्यक्तिगत समाचार: चार साल के बाद ओपनई में सुरक्षा पर काम करते हुए, मैं नवंबर के मध्य में छोड़ दिया। यह बहुत सारे अध्यायों के साथ एक जंगली सवारी थी – खतरनाक क्षमता evals, एजेंट सुरक्षा/नियंत्रण, AGI और ऑनलाइन पहचान, आदि – और मैं इसके कई हिस्सों को याद करूंगा, ”एडलर ने लिखा।

“ईमानदारी से मैं इन दिनों एआई विकास की गति से बहुत घबरा गया हूं। जब मैं सोचता हूं कि मैं भविष्य के परिवार को कहां बढ़ाऊंगा, या सेवानिवृत्ति के लिए कितना बचाना है, तो मैं मदद नहीं कर सकता, लेकिन आश्चर्य है: क्या मानवता भी इसे उस बिंदु पर बना देगी? ” उन्होंने कहा।

अनुवर्ती पदों में, उन्होंने कहा कि “एजीआई दौड़ एक बहुत ही जोखिम भरा जुआ है, जिसमें भारी नकारात्मक पक्ष है।” उन्होंने पोस्ट किया कि दुनिया में किसी भी प्रयोगशाला में एआई संरेखण का समाधान नहीं है, यह कहते हुए कि ऐसा लगता है कि लोग “वास्तव में खराब संतुलन” में फंस गए हैं।

“भले ही एक प्रयोगशाला वास्तव में एजीआई को जिम्मेदारी से विकसित करना चाहती है, अन्य अभी भी कोनों को पकड़ने के लिए काट सकते हैं, शायद विनाशकारी रूप से। और यह सभी को गति देने के लिए धक्का देता है। मुझे आशा है कि लैब्स इसे रोकने के लिए आवश्यक वास्तविक सुरक्षा रेज के बारे में स्पष्ट हो सकते हैं, ”उन्होंने जारी रखा।

स्टीवन एडलर के लिए आगे क्या है?

“जैसा कि आगे है, मैं थोड़ा सा ब्रेक का आनंद ले रहा हूं, लेकिन मैं उत्सुक हूं: आप एआई सुरक्षा/नीति में सबसे महत्वपूर्ण और उपेक्षित विचारों के रूप में क्या देखते हैं? मैं विशेष रूप से उत्साहित हूं: नियंत्रण के तरीके, स्कीमिंग डिटेक्शन, और सुरक्षा मामलों, ”उन्होंने एक्स पर पोस्ट किया।

वर्तमान में, डीपसेक एआई समाचार चक्र पर हावी है। चीनी फर्म के एआई चैटबॉट ने दुनिया को चौंका दिया, जिससे पता चलता है कि यह अपने प्रतिद्वंद्वियों की लागत के एक अंश पर बनाया गया था।

एआई विशेषज्ञों और टेक दुनिया को इस एआई चैटबॉट द्वारा आश्चर्यचकित किया गया था, जिसे ओपनआईएआई जैसी कंपनियों द्वारा उपयोग किए जाने वाले बड़े पैमाने पर हार्डवेयर और बुनियादी ढांचे के संसाधनों के बिना डिजाइन किया गया था।