Model AI Deepseek mencabar gergasi industri, walaupun tuntutan kos latihan yang minimum. Artikel ini mengkaji teknologi inovatif DeepSeek dan pelaburan yang besar, mendedahkan gambaran yang lebih kompleks daripada yang dibentangkan pada awalnya.

AI Deepseek, yang membanggakan keupayaan yang juga mengejutkan penciptanya, telah muncul sebagai pesaing yang hebat, terutamanya memberi kesan kepada harga saham Nvidia. Kejayaannya berpunca daripada gabungan unik inovasi seni bina dan kaedah latihan.

imej: ensigame.com

Kemajuan teknologi utama termasuk:

• Ramalan Multi-Token (MTP): Pada masa yang sama meramalkan pelbagai perkataan, meningkatkan ketepatan dan kecekapan.
• Campuran Pakar (MOE): Menggunakan 256 rangkaian saraf, mengaktifkan lapan untuk setiap token, mempercepatkan latihan dan meningkatkan prestasi.
• Perhatian Laten Multi-Head (MLA): Berulang kali mengekstrak butiran utama, meminimumkan kehilangan maklumat dan meningkatkan pemahaman yang bernuansa.

DeepSeek pada mulanya mendakwa kos latihan yang sangat rendah sebanyak $ 6 juta untuk DeepSeek V3, menggunakan hanya 2048 GPU. Walau bagaimanapun, siasatan lanjut oleh semianalysis mendedahkan infrastruktur yang lebih besar, yang merangkumi kira -kira 50,000 NVIDIA Hopper GPU (termasuk unit H800, H100, dan H20) yang diedarkan di pelbagai pusat data. Ini diterjemahkan kepada jumlah pelaburan pelayan kira -kira $ 1.6 bilion dan perbelanjaan operasi yang dianggarkan sebanyak $ 944 juta.

imej: ensigame.com

DeepSeek, anak syarikat High-Flyer, dana lindung nilai Cina, mendapat manfaat daripada memiliki pusat datanya, memupuk kawalan dan inovasi pesat. Sifat yang dibiayai sendiri menyumbang kepada ketangkasan dan membuat keputusan yang cepat. Syarikat itu menarik bakat terbaik, dengan beberapa penyelidik memperoleh lebih dari $ 1.3 juta setahun, terutamanya dari universiti -universiti China.

imej: ensigame.com

Oleh itu, angka $ 6 juta itu hanya mewakili kos GPU pra-latihan, tidak termasuk penyelidikan, penghalusan, pemprosesan data, dan infrastruktur. Jumlah pelaburan DeepSeek dalam pembangunan AI melebihi $ 500 juta. Struktur rampingnya membolehkan inovasi yang cekap, berbeza dengan syarikat birokrasi yang lebih besar dan lebih besar.

imej: ensigame.com

Walaupun kejayaan DeepSeek menyoroti potensi syarikat AI bebas yang dibiayai dengan baik, naratif awal "mesra bajet" adalah mengelirukan. Kelebihan daya saingnya berakar dalam pelaburan yang besar, kejayaan teknologi, dan pasukan yang sangat mahir. Walau bagaimanapun, walaupun dengan perbelanjaan yang signifikan, kos DeepSeek masih ketara mengurangkan pesaing; Sebagai contoh, model R1nya berharga $ 5 juta, berbanding $ 100 juta ChatGPT4.