Deepseek'in çığır açan AI modeli, minimum eğitim maliyetlerinin iddialarına rağmen endüstri devlerine meydan okuyor. Bu makale, Deepseek'in yenilikçi teknolojilerini ve önemli yatırımlarını inceliyor ve başlangıçta sunulandan daha karmaşık bir resim ortaya koyuyor.

Deepseek'in yapay zekası, yaratıcılarını bile şaşırtan yeteneklere sahip, özellikle Nvidia'nın hisse senedi fiyatını etkileyen zorlu bir rakip olarak ortaya çıktı. Başarısı, mimari yeniliklerin ve eğitim yöntemlerinin eşsiz bir kombinasyonundan kaynaklanmaktadır.

%İmgp%resim: ensigame.com

Kilit teknolojik gelişmeler şunları içerir:

• Çoklu Tokul Tahmini (MTP): Eşzamanlı olarak birden fazla kelimeyi tahmin etmek, doğruluğu ve verimliliği arttırmak.
• Uzmanların Karışımı (MOE): 256 sinir ağı kullanma, her jeton için sekiz etkinleştirme, eğitimi hızlandırma ve performansı iyileştirme.
• Çok Başlı Gizli Dikkat (MLA): Anahtar ayrıntıları tekrar tekrar çıkarma, bilgi kaybını en aza indirme ve nüanslı anlayışı geliştirme.

Deepseek başlangıçta sadece 2048 GPU kullanarak Deepseek V3 için 6 milyon dolarlık bir eğitim maliyeti talep etti. Bununla birlikte, semianaliz tarafından yapılan daha fazla araştırma, birden fazla veri merkezine dağıtılan yaklaşık 50.000 NVIDIA hopper GPU'larını (H800, H100 ve H20 birimleri dahil) kapsayan önemli ölçüde daha büyük bir altyapı ortaya çıkarmıştır. Bu, yaklaşık 1,6 milyar dolarlık toplam sunucu yatırımına ve 944 milyon dolar olarak tahmin edilen operasyonel giderlere dönüşüyor.

%İmgp%resim: ensigame.com

Bir Çin Hedge Fonu olan High Flyer'ın bir yan kuruluşu olan Deepseek, veri merkezlerine sahip olmaktan, kontrolü ve hızlı yeniliği teşvik etmekten yararlanıyor. Kendini finanse eden doğası çevikliğe ve hızlı karar vermeye katkıda bulunur. Şirket, en iyi yetenekleri çekiyor ve bazı araştırmacılar yılda 1.3 milyon doların üzerinde, öncelikle Çin üniversitelerinden.

%İmgp%resim: ensigame.com

Bu nedenle 6 milyon dolarlık rakam, araştırma, arıtma, veri işleme ve altyapı hariç, yalnızca eğitim öncesi GPU maliyetlerini temsil etmektedir. Deepseek'in AI gelişimine toplam yatırımı 500 milyon doları aşıyor. Yalın yapısı, daha büyük, daha bürokratik şirketlerle zıt olan verimli yeniliğe izin verir.

%İmgp%resim: ensigame.com

Deepseek'in başarısı iyi finanse edilen bağımsız AI şirketlerinin potansiyelini vurgularken, ilk "bütçe dostu" anlatı yanıltıcıdır. Rekabet üstünlüğü önemli yatırım, teknolojik atılımlar ve yüksek vasıflı bir ekipten kaynaklanmaktadır. Bununla birlikte, bu önemli harcamalarla bile, Deepseek'in maliyetleri hala rakipleri önemli ölçüde azaltıyor; Örneğin, R1 modeli, ChatGPT4'ün 100 milyon dolarına kıyasla 5 milyon dolara mal oldu.