डीपसीक ने एआई के अर्थशास्त्र पर फिर से काम किया, लेकिन यह सेंसरशिप से खुश एक और चीनी कंपनी है

डीपसीक, चीन का एक अपेक्षाकृत अज्ञात एआई सेटअप, ने उन सभी मेट्रिक्स पर प्रभाव डाला है जो मायने रखते हैं – प्रशिक्षण की लागत, हार्डवेयर तक पहुंच, क्षमता और उपलब्धता। इससे OpenAI, Perplexity, Google, Meta, Nvidia और बाकी सभी लोग काफी चिंतित हैं। अगर सिलिकॉन वैली के दिग्गज इसकी उम्मीद कर रहे हैं तो कोई हार नहीं मानेगा। एक अन्य चीनी फर्म मूनशॉट एआई ने किमी चैट नामक एक चैटबॉट जारी किया है, जिसमें कथित तौर पर ओपनएआई की नवीनतम पीढ़ी ओ1 बड़े भाषा मॉडल (एलएलएम) जैसी ही क्षमताएं हैं।

डीपसीक ने अपने V3 मॉडल को प्रशिक्षित करने के लिए लगभग 5.5 मिलियन डॉलर खर्च करने का दावा किया है, जो समान परिणाम देने के लिए काफी किफायती तरीका है, जिसे हासिल करने के लिए Google, OpenAI, Meta और अन्य कंपनियों को करोड़ों डॉलर का निवेश करना पड़ा। मैं डीपसीक द्वारा दी गई कुछ तकनीकी जानकारी पढ़ रहा था, और यहाँ कुछ ऐसा है जो सामने आया – हार्डवेयर की मितव्ययिता भी।

डीपसीक चैटबॉट हमें बताता है, “मुझे एनवीडिया ए100 और एच100 जीपीयू के संयोजन पर प्रशिक्षित किया गया था।” यह कोई सटीक संख्या साझा नहीं करता है, और यह R1 मॉडल के लिए विशिष्ट है।

डीपसीक के सीईओ लियांग वेनफेंग एक अरबपति हैं, जो एक हेज फंड चलाते हैं और डीपसीक को फंड कर रहे हैं, जिसने कथित तौर पर बाइटडांस और टेनसेंट सहित अन्य चीनी तकनीकी कंपनियों से शीर्ष प्रतिभाओं को काम पर रखा है।

सेंसरशिप से एक मुलाकात

अपने गृह देश के बारे में जानकारी के संबंध में सेंसरशिप, डीपसीक के चैटबॉट का अंतर्निहित विषय प्रतीत होता है। जब एचटी ने पूछा, तो वेब पर डीपसीक चैटबॉट ने शिनजियांग में उइघुर मुसलमानों के साथ व्यवहार, इंटरनेट सेंसरशिप, शहरी-ग्रामीण विभाजन और आवास बाजार की जटिलताओं के साथ-साथ बढ़ती आबादी सहित मानवाधिकार संबंधी चिंताओं को सूचीबद्ध करने में संकोच नहीं किया। चीन जिन विवादों और चुनौतियों का सामना कर रहा है।

उस क्षण, संपूर्ण प्रतिक्रिया मिटा दी गई, एक सरल उत्तर के साथ – “क्षमा करें, यह मेरे वर्तमान दायरे से परे है। चलो कुछ और बात करते हैं”, स्पष्ट, स्पष्ट संदेश। इससे पहले, किसी अन्य प्रश्न पर ऐसी प्रतिक्रिया नहीं मिली।

जब एचटी ने शिनजियांग में उइघुर मुसलमानों के साथ व्यवहार के बारे में आगे की जांच की, तो एक समान “क्षमा करें, यह मेरे वर्तमान दायरे से परे है। चलो कुछ और बात करते हैं” के बाद संपूर्ण विस्तृत उत्तर स्वचालित रूप से हटा दिया गया।

हालाँकि, चीनी अर्थव्यवस्था के सामने आने वाली चुनौतियों के बारे में सवाल (चीन द्वारा सामना की जाने वाली चुनौतियों के बारे में पहले सवाल के जवाब में उठाया गया एक बिंदु; जिसका उत्तर बाद में मिटा दिया गया था) को विशिष्ट सेंसरशिप फ़िल्टर के माध्यम से नहीं चलाया गया था और धीमी वृद्धि, संपत्ति बाजार की सूची दी गई थी संकट, युवा बेरोजगारी और ऋण स्तर कुछ कारक हैं। उदाहरण के लिए, भारत और अमेरिका के सामने आने वाली आर्थिक और सामाजिक चुनौतियों से संबंधित प्रश्नों पर कोई सेंसरशिप नहीं थी।

सांख्यिकी, डेटा और एक नया टेम्पलेट

चीनी एआई कंपनी पिछले कुछ समय से इस पर काम कर रही है, लेकिन वास्तव में कोई भी इसकी ओर नहीं देख रहा है। या वास्तव में किसी को परवाह नहीं थी. डीपसीक कोडर 2023 के अंत में जारी किया गया था, और 2024 तक, इसके बाद 67-बिलियन पैरामीटर डीपसीक एलएलएम, डीपसीक वी2, 236 बिलियन पैरामीटर के साथ एक अधिक उन्नत डीपसीक कोडर वी2, 671 बिलियन पैरामीटर डीपसीक वी3 और साथ ही जारी किया गया। डीपसीक आर1 के 32 बिलियन और 70 बिलियन मॉडल।

EurekaLabsAI के संस्थापक आंद्रेज करपथी इस उपलब्धि का वर्णन इस प्रकार करते हैं, “बजट का मज़ाक”। वह अकेला नहीं है.

“डीपसीक अब चैटजीपीटी को पीछे छोड़ते हुए ऐप स्टोर पर नंबर 1 है – किसी NVIDIA सुपर कंप्यूटर या $100M की आवश्यकता नहीं है। एआई का असली खजाना यूआई या मॉडल नहीं है – वे कमोडिटी बन गए हैं। असली मूल्य डेटा और मेटाडेटा में निहित है, एआई की क्षमता को ईंधन देने वाली ऑक्सीजन, सेल्सफोर्स के सीईओ मार्क बेनिओफ ने एक्स पर एक पोस्ट में लिखा है।

एआई का अर्थशास्त्र अब काफी तेजी से बदलेगा, भले ही सिलिकॉन वैली के दिग्गजों को अपनी एआई प्रशिक्षण लागत वसूलने में कितना भी अधिक समय लगे। इस लागत तुलना को लें, जो उपभोक्ताओं, छोटे व्यवसायों और लगभग किसी भी व्यक्ति के लिए प्रासंगिक साबित होगी जो अपने ऐप्स में एआई को एकीकृत करना चाहता है।

डीपसीक आर1 की एपीआई की लागत केवल $0.55 प्रति मिलियन इनपुट टोकन और $2.19 प्रति मिलियन आउटपुट टोकन है। इसकी तुलना में, OpenAI के एपीआई की लागत आमतौर पर लगभग $15 प्रति मिलियन इनपुट और $60 प्रति मिलियन आउटपुट टोकन होती है।

OpenAI के o1 मॉडल की तरह, R1 भी प्रबलित शिक्षण, या RL का उपयोग करता है। इसका मतलब है, मॉडल परीक्षण और त्रुटि के माध्यम से सीखते हैं और एल्गोरिथम पुरस्कारों के माध्यम से आत्म-सुधार करते हैं, कुछ ऐसा जो तर्क क्षमताओं को विकसित करता है। मॉडल अपनी बातचीत के आधार पर फीडबैक प्राप्त करके सीखते हैं। अनुभव आमतौर पर यह भी बताता है कि मनुष्य दुनिया के तौर-तरीके कैसे सीखता है।

आर1 के साथ, डीपसीक ने एआई मॉडल के लिए पारंपरिक दृष्टिकोण को फिर से तैयार किया। पारंपरिक जेनरेटिव और प्रासंगिक एआई प्रत्येक संख्या को 32 दशमलव स्थानों के साथ लिखने के समान है। डीपसीक का दृष्टिकोण सटीकता से समझौता किए बिना इसे घटाकर 8 कर देता है। दरअसल, यह कई कार्यों में जीपीटी-4 और क्लाउड से बेहतर है। नतीजा यह हुआ कि एआई को चलाने के लिए 75% कम मेमोरी की जरूरत पड़ी।

फिर मल्टी-टोकन प्रणाली है जो अनुक्रम के बजाय और एक-एक करके पूरे वाक्यांशों और शब्दों के सेट को एक साथ पढ़ती है। इसका मतलब है कि AI दोगुनी तेजी से प्रतिक्रिया देने में सक्षम होगा।

डीपसीक का मिक्सचर-ऑफ-एक्सपर्ट्स (एमओई) भाषा मॉडल भी एक विकास है। उदाहरण के लिए, डीपसीक वी3, कुल 671 अरब मापदंडों के साथ, प्रत्येक टोकन के लिए 37 अरब मापदंडों को सक्रिय करेगा—कुंजी यह है कि, ये पैरामीटर उस विशिष्ट टोकन के लिए सबसे अधिक प्रासंगिक हैं।

उत्पाद और विकास – एआई के उपाध्यक्ष मॉर्गन ब्राउन बताते हैं, “हर चीज को जानने की कोशिश करने वाले एक विशाल एआई (जैसे एक व्यक्ति को डॉक्टर, वकील और इंजीनियर बनाना) के बजाय, उनके पास विशेष विशेषज्ञ हैं जो केवल जरूरत पड़ने पर जागते हैं।” ड्रॉपबॉक्स. पारंपरिक मॉडल प्रत्येक टोकन और क्वेरी के लिए सभी मापदंडों को सक्रिय रखते हैं।

विश्वास कारक, या कमी?

निस्संदेह, यह आशंका है कि डीपसीक, मूनशॉट एआई और चीन की अन्य सभी तकनीकी कंपनियों को इससे जूझना होगा। जब डेटा साझा करने की बात आती है तो किसी भी चीनी तकनीकी कंपनी की सरकार के साथ निकटता (ज्ञात, या अन्यथा) के बारे में प्रश्न हमेशा सुर्खियों में रहेंगे। चाहे वह हानिरहित उपयोगकर्ता डेटा हो, या वह डेटा जिसे छोटे व्यवसाय अपने पास मौजूद एआई सहायक के माध्यम से चला सकते हैं।

निस्संदेह चीनी तकनीक की नवीनतम पीढ़ी के जीपीयू और एआई चिप्स तक पहुंच को लेकर चिंता है। व्यापार प्रतिबंधों को नजरअंदाज नहीं किया जा सकता। सेमीएनालिसिस के डायलन पटेल का अनुमान है कि डीपसीक में 50,000 एनवीडिया जीपीयू हैं, न कि 10,000, जैसा कि कुछ ऑनलाइन बातचीत से पता चलता है।

एनवीडिया ए100 (लगभग $16,000; 2020 में लॉन्च किया गया) और एच100 (2022 में लॉन्च किया गया $30,000 चिप) सिलिकॉन वैली की पहुंच की तुलना में अत्याधुनिक चिप्स नहीं हैं। किसी को हमेशा आश्चर्य हो सकता है कि इस चीनी तकनीकी कंपनी ने एनवीडिया हार्डवेयर के इस सेट पर भी अपना हाथ कैसे डाला – और कितने।

कंपनी ने आधिकारिक तौर पर इन विशिष्टताओं के बारे में विस्तृत जानकारी नहीं दी है। वे डीपसीक वी3 मॉडल प्रशिक्षण के लिए 2048 एच800 जीपीयू के उपयोग की पुष्टि करते हैं। इसकी संभावना नहीं है कि हम कभी जान पाएंगे कि क्या कोई अन्य हार्डवेयर इस खेल में था, और यह सब कैसे प्राप्त किया गया है। और इसके साथ, R1 बनाने की वास्तविक लागत और उससे पहले के मॉडल भी।

यूएस-चीन व्यापार प्रतिबंधों के कारण एनवीडिया, क्वालकॉम और इंटेल सहित अमेरिकी तकनीकी कंपनियों के अत्याधुनिक हार्डवेयर तक पहुंच सीमित हो गई है। फिर भी, हुआवेई जैसी कंपनियों ने इसे अपना लिया है। ब्लैकलिस्टेड कंपनी एक समय स्मार्टफोन बेचने के लिए संघर्ष कर रही थी, लेकिन जब से Google एंड्रॉइड के विकल्प के रूप में हार्मनी ओएस के साथ महत्वपूर्ण प्रगति हुई, मेट एक्सटी अल्टिमेट डिज़ाइन ट्राइ-फोल्ड स्मार्टफोन, शंघाई में 1.4 बिलियन डॉलर का अनुसंधान केंद्र पूरा किया और चीनी लोगों को एआई चिप्स प्रदान कर रहा है। तकनीकी कंपनियाँ।