Deepseekの画期的なAIモデルは、最小限のトレーニングコストの主張にもかかわらず、業界の巨人に挑戦します。この記事では、Deepseekの革新的な技術と実質的な投資を検討し、最初に提示されたよりも複雑な画像を明らかにしています。

DeepseekのAIは、作成者を驚かせた能力を誇っていますが、恐ろしい競合他社として登場し、特にNvidiaの株価に影響を与えています。その成功は、建築革新とトレーニング方法のユニークな組み合わせに由来しています。

画像：Ensigame.com

重要な技術の進歩には次のものがあります。

• マルチトークン予測（MTP)：複数の単語の予測、精度と効率の向上。
• 専門家（MOE)の混合： 256のニューラルネットワークを利用し、トークンごとに8つをアクティブにし、トレーニングを加速し、パフォーマンスを向上させます。
• マルチヘッドの潜在的注意（MLA)：重要な詳細を繰り返し抽出し、情報の損失を最小限に抑え、微妙な理解を向上させます。

Deepseekは当初、2048 GPUのみを使用して、Deepseek V3で600万ドルのトレーニングコストが非常に低いと主張しました。ただし、セミアンアリシスによるさらなる調査により、複数のデータセンターに分布した約50,000のNVIDIAホッパーGPU（H800、H100、およびH20ユニットを含む)を含む、大幅に大きなインフラストラクチャが明らかになりました。これは、サーバー総投資の約16億ドルと9億4,400万ドルと推定される運用費用につながります。

画像：Ensigame.com

中国のヘッジファンドであるHigh-Flyerの子会社であるDeepseekは、データセンターを所有し、管理と迅速なイノベーションを促進することから利益を得ています。その自己資金の性質は、敏ility性と迅速な意思決定に貢献しています。同社はトップの才能を引き付け、一部の研究者は主に中国の大学で年間130万ドル以上を稼いでいます。

画像：Ensigame.com

したがって、600万ドルの数値は、研究、洗練、データ処理、インフラストラクチャを除く、トレーニング前のGPUコストのみを表しています。 DeepseekのAI開発への総投資は5億ドルを超えています。その無駄のない構造により、効率的な革新が可能になり、より多くの官僚的企業とは対照的です。

画像：Ensigame.com

Deepseekの成功は、資金提供された独立したAI企業の可能性を強調していますが、最初の「予算に優しい」物語は誤解を招くものです。その競争力は、実質的な投資、技術的なブレークスルー、高度なスキルのあるチームに根ざしています。ただし、これらの重要な支出があっても、Deepseekのコストは依然として競合他社を大幅に下げています。たとえば、R1モデルはChATGPT4の1億ドルと比較して500万ドルかかります。