Несмотря на новаторскую модель искусственного интеллекта Deepseek, несмотря на то, что отраслевые гиганты, несмотря на претензии на минимальные затраты на обучение. В этой статье рассматриваются инновационные технологии DeepSeek и существенные инвестиции, выявляя более сложную картину, чем первоначально представлено.

ИИ Deepseek, обладающий возможностями, которые даже удивляют его создателей, стал грозным конкурентом, особенно влияя на цену акций Nvidia. Его успех связан с уникальным сочетанием архитектурных инноваций и методов обучения.

Изображение: Ensigame.com

Ключевые технологические достижения включают:

• Multi-Token Production (MTP): одновременно предсказание нескольких слов, повышение точности и эффективности.
• Смесь экспертов (MOE): Используя 256 нейронных сетей, активируя восемь для каждого токена, ускоряя обучение и повышение производительности.
• Многоугольное скрытое внимание (MLA): Повторно извлечение ключевых деталей, минимизация потери информации и улучшение нюансированного понимания.

Первоначально Deepseek потребовал удивительно низкую стоимость обучения в 6 миллионов долларов для Deepseek V3, используя только 2048 графических процессоров. Тем не менее, дальнейшее исследование по полуализации выявило значительно большую инфраструктуру, охватывающую приблизительно 50 000 графических процессоров Nvidia Hopper (включая H800, H100 и H20, распределенные по нескольким центрам обработки данных. Это приводит к общим инвестициям в сервер примерно в 1,6 млрд. Долл. США, а эксплуатационные расходы оцениваются в 944 млн. Долл. США.

Изображение: Ensigame.com

DeepSeek, дочерняя компания High-Flyer, китайского хедж-фонда, пользуется властью своих центров обработки обработки данных, способствует контролю и быстрым инновациям. Его самофинансируемая природа способствует ловкости и быстрому принятию решений. Компания привлекает лучших талантов, некоторые исследователи зарабатывают более 1,3 миллиона долларов в год, в основном из китайских университетов.

Изображение: Ensigame.com

Следовательно, цифра в 6 миллионов долларов представляет собой только предварительные затраты на графический процессор, исключая исследования, уточнение, обработку данных и инфраструктуру. Общее количество инвестиций DeepSeek в развитие искусственного интеллекта превышает 500 миллионов долларов. Его бережливая структура позволяет эффективно инновациям, в отличие от более крупных, более бюрократических компаний.

Изображение: Ensigame.com

В то время как успех Deepseek подчеркивает потенциал хорошо финансируемых независимых компаний искусственного интеллекта, первоначальный «бюджетный» повествование вводит в заблуждение. Его конкурентное преимущество коренится в существенных инвестициях, технологических прорывах и высококвалифицированной команде. Однако даже с этими значительными расходами затраты DeepSeek по -прежнему значительно подрывают конкурентов; Например, его модель R1 стоила 5 миллионов долларов по сравнению с CHATGPT4 на 100 миллионов долларов.