DeepSeek的負擔能力是一個神話:革命性的AI實際上花費了16億美元
Feb 19,25(1 年前)
DeepSeek的開創性AI模型挑戰了行業巨頭,盡管聲稱培訓成本最低。本文研究了DeepSeek的創新技術和大量投資,揭示了比最初提出的更複雜的情況。
DeepSeek的AI吹噓甚至使創作者感到驚訝的功能已成為強大的競爭對手,尤其影響了NVIDIA的股價。它的成功源於建築創新和培訓方法的獨特組合。
圖像:ensigame.com
關鍵技術進步包括:
- 多語預測(MTP):同時預測多個單詞,提高準確性和效率。
- 專家(MOE)的混合物:利用256個神經網絡,每個令牌激活8個,加速培訓並提高性能。
- 多頭潛在注意力(MLA):反複提取關鍵細節,最大程度地減少信息丟失並增強細微的理解。
DeepSeek最初僅使用2048 GPU的DeepSeek V3的培訓成本非常低600萬美元。然而,通過半分析的進一步研究顯示,基礎設施明顯更大,包括在多個數據中心分布的大約50,000個NVIDIA HOPPER GPU(包括H800,H100和H20單位)。這意味著服務器總投資約為16億美元,運營費用估計為9.44億美元。
圖像:ensigame.com
中國對衝基金的高飛行員的子公司DeepSeek受益於擁有其數據中心,促進控製和快速創新。它的自我資助性質有助於敏捷性和迅速的決策。該公司吸引了頂尖人才,一些研究人員每年收入超過130萬美元,主要來自中國大學。
圖像:ensigame.com
因此,這筆600萬美元的數字僅代表培訓前的GPU成本,不包括研究,改進,數據處理和基礎架構。 DeepSeek對AI開發的總投資超過5億美元。它的精益結構允許有效的創新,與更大,更官僚的公司形成鮮明對比。
圖像:ensigame.com
盡管DeepSeek的成功凸顯了資金龐大的獨立AI公司的潛力,但最初的“預算友好”敘述具有誤導性。它的競爭優勢源於大量投資,技術突破和高技能的團隊。但是,即使有了這些巨大的支出,DeepSeek的成本仍然大大降低了競爭對手。例如,與Chatgpt4的1億美元相比,其R1型號的價格為500萬美元。
發現更多
-
Fishing For Friends立即投入《好友釣魚》——專為行動裝置打造的釣魚模擬冒險遊戲! 《好友釣魚》將釣魚的樂趣直接帶到您的行動裝置上! 探索15種獨特水域,從30多種魚餌中挑選,並使用豐富的釣魚裝備,捕捉超過140種淡水與海水魚類! 透過成就紀錄表追蹤個人最佳成績,享受視覺上賞心悅目的設計! 進入遊戲內線上商城,衝榜全球玩家排名,參加線上錦標賽,並即時查看排行榜! 我們建議您於「關於我-帳號」區段完成註冊,以便儲存遊戲進度、解鎖線上商城的高階裝備、透過成就獲得額外經驗值,並與全球釣魚愛好者同場競技,挑戰線上錦標賽! -
Smart Baby ShapesSmart Baby Shapes 是一款引人入勝且互動性強的應用程式,透過遊戲方式幫助兒童學習顏色、形狀、大小與物體。應用程式結合了不同大小的五彩圖形,以及靜態或移動的物件,孩子可輕鬆操作,並透過語音提示與音效辨識每個元素,享受樂趣十足的學習過程。應用程式內含超過 10 個關卡,並設有多種難度層級,為幼小的心智帶來逐步挑戰且豐富益智的學習體驗。應用程式涵蓋多樣主題,例如洗澡時間、動物與水果,每個項目皆搭配文字語音或獨特音效。 Smart Baby Shapes 主要特色: 互動式學習:Smar -
Zarta Trivia Party Game最棒的派對遊戲,挑戰你的朋友!享受充滿陷阱的問答,並巧妙設計具有欺騙性的答案!在 Zarta 中,你的目標是針對真實且困難的問題,回應一些具有迷惑性的答案,讓朋友們誤以為你是對的。這不僅是享受美好時光的絕佳方式,同時也能學習到新的知識。Zarta 適合課間休息、長途旅行、比賽中場或辦公室咖啡時段。怎麼玩?一名玩家擔任遊戲主持人:選擇一副牌組、創建新的房間,並將秘密代碼分享給其他人。當所有人加入後,遊戲主持人按下開始按鈕,遊戲便正式展開。安裝遊戲後,遊戲主持人會收到一個秘密代碼。請在加入畫面輸入此 -
Skip 10 - Card GameSkip 10 - 卡牌遊戲是一款專為朋友與家人設計的刺激卡牌遊戲,融合策略與技巧於一身。要獲勝,必須率先將手上的卡牌全部出完,方法是從1到10依序組成數字序列,而「跳過」卡則能增添策略性,讓你跳過對手的回合。遊戲支援最多四位玩家,搭配多種難度層級的挑戰性AI,帶來緊張刺激的快速對戰樂趣。若您喜愛接龍、拉密或十期遊戲,Skip 10將以流暢的遊戲體驗、每日獎勵與多語言支援功能,讓您持續投入、樂在其中。Skip 10 - 卡牌遊戲特色:支援最多四位玩家的多人對戰模式 與親友一同享受多人對戰樂趣,最 -
Партии Вильгельма Стейница探索國際象棋首位正式世界冠軍威廉.史蒂芬茲的戰略智慧,使用「史蒂芬茲對局」應用程式。本應用程式收錄了他七百局經典對局,完整呈現他革命性的局面下棋理論,徹底挑戰當時主導的「浪漫主義」棋風。深入探究這位大戰略家的思維模式,學習那些深刻豐富國際象棋內涵的戰術與理念。無論您是希望提升棋藝的資深棋士,或剛接觸國際象棋的新手,此應用程式均提供數小時引人入勝的學習時光,助您精進棋藝。注意:需連線網路方可使用。 「史蒂芬茲對局」應用程式特色: 獨家歷史內容: 收錄由國際象棋先驅威廉.史蒂芬茲所下的七百局對局精選 -
Leather Heels免費探索令人驚豔的皮革高跟鞋設計靈感,此應用程式完美契合注重品質與風格卻不願破財的鞋迷。 購買鞋子時,品質至關重要。便宜的塑膠高跟鞋或許 upfront 省錢,卻常導致不適與快速磨損。精心製作的皮革高跟鞋提供更佳支撐、耐久性,每一步都充滿自信。看似 $40 的優惠可能誘人,但疼痛的水泡或斷裂的鞋跟將讓你後悔未投資真正的皮革。 每位鞋迷都記得第一雙設計師高跟鞋的感覺——濃郁的皮革香氣、精緻工藝、優雅縫線細節,以及手中握著時的奢華觸感。這些體驗讓由技藝嫻熟的工匠手工打造的正宗義大利皮革鞋,價值非凡。
熱門下載