कम से कम प्रशिक्षण लागत के दावों के बावजूद, डीपसेक की ग्राउंडब्रेकिंग एआई मॉडल चुनौतियां उद्योग के दिग्गजों को चुनौती देती हैं। यह लेख दीपसेक की अभिनव प्रौद्योगिकियों और पर्याप्त निवेश की जांच करता है, जो शुरू में प्रस्तुत की तुलना में अधिक जटिल तस्वीर का खुलासा करता है।

दीपसेक की एआई, घमंड क्षमताओं ने भी अपने रचनाकारों को आश्चर्यचकित कर दिया, एक दुर्जेय प्रतियोगी के रूप में उभरा है, विशेष रूप से एनवीडिया के स्टॉक मूल्य को प्रभावित करता है। इसकी सफलता वास्तुशिल्प नवाचारों और प्रशिक्षण विधियों के एक अनूठे संयोजन से उपजी है।

छवि: ensigame.com

प्रमुख तकनीकी प्रगति में शामिल हैं:

• मल्टी-टोकन भविष्यवाणी (एमटीपी): एक साथ कई शब्दों की भविष्यवाणी करना, सटीकता और दक्षता को बढ़ावा देना।
• विशेषज्ञों का मिश्रण (एमओई): 256 तंत्रिका नेटवर्क का उपयोग करना, प्रत्येक टोकन के लिए आठ को सक्रिय करना, प्रशिक्षण में तेजी और प्रदर्शन में सुधार करना।
• मल्टी-हेड लेटेंट ध्यान (एमएलए): बार-बार प्रमुख विवरण निकालना, सूचना हानि को कम करना और बारीक समझ को बढ़ाना।

दीपसेक ने शुरू में केवल 2048 जीपीयू का उपयोग करते हुए, डीपसेक वी 3 के लिए $ 6 मिलियन की उल्लेखनीय रूप से कम प्रशिक्षण लागत का दावा किया। हालांकि, सेमियनलिसिस द्वारा आगे की जांच में काफी बड़े बुनियादी ढांचे का पता चला, जिसमें लगभग 50,000 एनवीडिया हॉपर जीपीयू (एच 800, एच 100 और एच 20 यूनिट्स सहित) कई डेटा केंद्रों में वितरित किए गए थे। यह लगभग $ 1.6 बिलियन के कुल सर्वर निवेश में अनुवाद करता है और $ 944 मिलियन में अनुमानित परिचालन व्यय है।

छवि: ensigame.com

दीपसेक, हाई-फ्लाइर की सहायक कंपनी, एक चीनी हेज फंड, अपने डेटा केंद्रों के मालिक होने, नियंत्रण और तेजी से नवाचार को बढ़ावा देने से लाभान्वित होती है। इसकी स्व-वित्त पोषित प्रकृति चपलता और तेजी से निर्णय लेने में योगदान देती है। कंपनी शीर्ष प्रतिभा को आकर्षित करती है, कुछ शोधकर्ताओं ने मुख्य रूप से चीनी विश्वविद्यालयों से सालाना $ 1.3 मिलियन से अधिक कमाई की।

छवि: ensigame.com

इसलिए, $ 6 मिलियन का आंकड़ा, अनुसंधान, शोधन, डेटा प्रसंस्करण और बुनियादी ढांचे को छोड़कर, केवल पूर्व-प्रशिक्षण GPU लागतों का प्रतिनिधित्व करता है। एआई विकास में दीपसेक का कुल निवेश $ 500 मिलियन से अधिक है। इसकी दुबला संरचना कुशल नवाचार के लिए अनुमति देती है, बड़ी, अधिक नौकरशाही कंपनियों के साथ विपरीत।

छवि: ensigame.com

जबकि दीपसेक की सफलता अच्छी तरह से वित्त पोषित स्वतंत्र एआई कंपनियों की क्षमता पर प्रकाश डालती है, प्रारंभिक "बजट-अनुकूल" कथा भ्रामक है। इसकी प्रतिस्पर्धी बढ़त पर्याप्त निवेश, तकनीकी सफलताओं और एक उच्च कुशल टीम में निहित है। हालांकि, इन महत्वपूर्ण खर्चों के साथ भी, दीपसेक की लागत अभी भी काफी हद तक प्रतियोगियों को कम करती है; उदाहरण के लिए, CHATGPT4 के $ 100 मिलियन की तुलना में इसके R1 मॉडल की लागत $ 5 मिलियन है।