Il rivoluzionario modello di intelligenza artificiale di Deepseek sfida i giganti del settore, nonostante le affermazioni di costi di formazione minimi. Questo articolo esamina le tecnologie innovative di DeepSeek e gli investimenti sostanziali, rivelando un quadro più complesso di quanto inizialmente presentato.

L'intelligenza artificiale di Deepseek, vantando capacità che hanno persino sorpreso i suoi creatori, è emersa come un formidabile concorrente, in particolare influendo sul prezzo delle azioni di Nvidia. Il suo successo deriva da una combinazione unica di innovazioni architettoniche e metodi di formazione.

Immagine: Ensigame.com

I progressi tecnologici chiave includono:

• Previsione multi-token (MTP): Prevedere contemporaneamente più parole, aumentare l'accuratezza ed efficienza.
• Miscela di esperti (MOE): Utilizzo di 256 reti neurali, attivando otto per ogni token, accelerare la formazione e migliorare le prestazioni.
• Attenzione latente multi-testa (MLA): Estrarre ripetutamente dettagli chiave, minimizzando la perdita di informazioni e migliorando la comprensione sfumata.

DeepSeek inizialmente ha rivendicato un costo di allenamento notevolmente basso di $ 6 milioni per DeepSeek V3, utilizzando solo 2048 GPU. Tuttavia, ulteriori indagini da parte di seminalisi hanno rivelato un'infrastruttura significativamente più grande, che comprende circa 50.000 GPU della tramoggia Nvidia (tra cui unità H800, H100 e H20) distribuite su più data center. Ciò si traduce in un investimento totale di server di circa $ 1,6 miliardi e le spese operative stimate in $ 944 milioni.

Immagine: Ensigame.com

DeepSeek, una consociata di High-Flyer, un hedge fund cinese, beneficia del possesso dei suoi data center, della promozione del controllo e della rapida innovazione. La sua natura autofinanziata contribuisce all'agilità e al rapido processo decisionale. La società attira i migliori talenti, con alcuni ricercatori che guadagnano oltre $ 1,3 milioni all'anno, principalmente dalle università cinesi.

Immagine: Ensigame.com

La cifra di $ 6 milioni, quindi, rappresenta solo i costi di GPU pre-allenamento, escluse la ricerca, la raffinatezza, l'elaborazione dei dati e l'infrastruttura. L'investimento totale di Deepseek nello sviluppo dell'IA supera i $ 500 milioni. La sua struttura snella consente un'innovazione efficiente, contrastando con aziende più grandi e burocratiche.

Immagine: Ensigame.com

Mentre il successo di Deepseek evidenzia il potenziale di società di intelligenza artificiale indipendenti ben finanziate, la narrazione iniziale "a misura di budget" è fuorviante. Il suo vantaggio competitivo è radicato in investimenti sostanziali, scoperte tecnologiche e un team altamente qualificato. Tuttavia, anche con queste spese significative, i costi di DeepSeek sono ancora significativamente sottoposti a concorrenti; Ad esempio, il suo modello R1 è costato $ 5 milioni, rispetto ai $ 100 milioni di CHATGPT4.