Ang groundbreaking AI Model ng Deepseek ay naghahamon sa mga higante ng industriya, sa kabila ng pag -angkin ng kaunting mga gastos sa pagsasanay. Sinusuri ng artikulong ito ang mga makabagong teknolohiya ng Deepseek at malaking pamumuhunan, na naghahayag ng isang mas kumplikadong larawan kaysa sa una na ipinakita.

Ang Deepseek's AI, na ipinagmamalaki ang mga kakayahan na kahit na nagulat ang mga tagalikha nito, ay lumitaw bilang isang kakila -kilabot na katunggali, lalo na na nakakaapekto sa presyo ng stock ni Nvidia. Ang tagumpay nito ay nagmumula sa isang natatanging kumbinasyon ng mga pagbabago sa arkitektura at mga pamamaraan ng pagsasanay.

Imahe: ensigame.com

Ang mga pangunahing pagsulong sa teknolohiya ay kasama ang:

• Multi-Token Prediction (MTP): Kasabay na hinuhulaan ang maraming mga salita, pagpapalakas ng kawastuhan at kahusayan.
• Paghahalo ng mga eksperto (MOE): Paggamit ng 256 Neural Networks, pag -activate ng walong para sa bawat token, pabilis na pagsasanay at pagpapabuti ng pagganap.
• Multi-head Latent pansin (MLA): Paulit-ulit na kinukuha ang mga pangunahing detalye, pag-minimize ng pagkawala ng impormasyon at pagpapahusay ng pag-unawa sa pag-unawa.

Una nang inangkin ng Deepseek ang isang napakababang gastos sa pagsasanay na $ 6 milyon para sa Deepseek V3, gamit lamang ang 2048 GPU. Gayunpaman, ang karagdagang pagsisiyasat sa pamamagitan ng semianalysis ay nagsiwalat ng isang makabuluhang mas malaking imprastraktura, na sumasaklaw sa humigit -kumulang na 50,000 nvidia hopper GPUs (kabilang ang H800, H100, at H20 unit) na ipinamamahagi sa maraming mga sentro ng data. Isinasalin ito sa isang kabuuang pamumuhunan ng server na humigit -kumulang na $ 1.6 bilyon at mga gastos sa pagpapatakbo na tinatayang $ 944 milyon.

Imahe: ensigame.com

Ang DeepSeek, isang subsidiary ng high-flyer, isang pondo ng hedge ng Tsino, ay nakikinabang mula sa pagmamay-ari ng mga sentro ng data, pag-aalaga ng kontrol at mabilis na pagbabago. Ang kalikasan na pinondohan ng sarili ay nag-aambag sa liksi at mabilis na paggawa ng desisyon. Ang kumpanya ay umaakit sa nangungunang talento, na may ilang mga mananaliksik na kumikita ng higit sa $ 1.3 milyon taun -taon, lalo na mula sa mga unibersidad sa Tsino.

Imahe: ensigame.com

Ang $ 6 milyong figure, samakatuwid, ay kumakatawan lamang sa mga pre-training na gastos sa GPU, hindi kasama ang pananaliksik, pagpipino, pagproseso ng data, at imprastraktura. Ang kabuuang pamumuhunan ng Deepseek sa pag -unlad ng AI ay lumampas sa $ 500 milyon. Ang sandalan na istraktura nito ay nagbibigay -daan para sa mahusay na pagbabago, na kaibahan sa mas malaki, mas maraming mga kumpanya ng burukrasya.

Imahe: ensigame.com

Habang ang tagumpay ng Deepseek ay nagtatampok ng potensyal ng mahusay na pinondohan na independiyenteng mga kumpanya ng AI, ang paunang "badyet-friendly" na salaysay ay nakaliligaw. Ang mapagkumpitensyang gilid nito ay nakaugat sa malaking pamumuhunan, mga breakthrough ng teknolohiya, at isang mataas na bihasang koponan. Gayunpaman, kahit na sa mga makabuluhang paggasta na ito, ang mga gastos sa Deepseek ay makabuluhang sumailalim sa mga kakumpitensya; Halimbawa, ang modelo ng R1 nito ay nagkakahalaga ng $ 5 milyon, kumpara sa $ 100 milyon ng ChATGPT4.