Дописи
avatar

DeepSeek відкрила інференс-фреймворк DeepInfer — це рівень продуктивної системи, який координує кластери обчислювальних ресурсів, щоб моделі ефективно виконували завдання. Модель (V4.1-Flash) вже була відкрита раніше, а тепер відкрито «двигун», який запускає цю модель. Це перший випадок серед провідних світових компаній у сфері великих моделей — раніше такі технології були строго конфіденційними. Це свідчить про те, що: 1. Конкуренція змістилася з «гонки за моделями» на «гонку за витратами». Розрив у здатностях моделей зменшується — перемагає той, хто зможе надавати той самий сервіс, використовуючи менше карт та менше електроенергії. DeepSeek публічно розкрила, скільки грошей заробляє кожна карта за годину — це означає: «Моя вартість на одиницю нижча, ніж у вас». 2. Відкриття коду перетворилося з жесту на стратегічну зброю. За часом: 19 жовтня США виключили її з каналів федеральних закупівель, а 20 жовтня DeepSeek відкрила свій ядро. Відкриття = зв’язування глобальної екосистеми розробників = блокування США не зможе припинити екосистему. Тиск на закритих конкурентів (особливо OpenAI) реальний: хмари можуть використовувати DeepInfer для розгортання, і вартість може бути навіть нижчою, ніж у оригінального провайдера. 3. Цінність «проміжного рівня» отримала публічну оцінку. Раніше всі дивилися лише на бали моделей, а тепер зрозуміли: один і той самий модуль може мати витрати у кілька разів різні залежно від якості інференс-фреймворка. Це ставить під знак питання технологічну непрозорість для внутрішніх інфраструктур у Китаї (vLLM, SGLang, адаптація до Ascend). 4. Практична користь для звичайних розробників: зниження витрат хмарних провайдерів → ще є простір для зниження цін на API; зниження бар’єрів для локального розгортання → приватне розгортання стає дешевшим. Сумісність з NVIDIA та Huawei Ascend особливо важлива для китайських команд, що працюють над приватними розгортаннями. 5. З м’якої сторони: найважливіші частини коду — управління KV-кешем та балансування навантаження — не були повністю відкриті, оскільки занадто тісно пов’язані з внутрішньою інфраструктурою; опубліковано лише документацію щодо дизайну. Тож це «частково прозора» система — ви отримуєте ідеї, але не повний доступ до всього функціоналу. Крім того, поточна відкрита версія підтримує лише офлайн-інференс. DeepSeek виставила на загальний огляд продуктивну систему інференсу, яку конкуренти вважали комерційною таємницею — суть цього кроку: використання «відкритої екосистеми» проти «блокування обчислювальних ресурсів». Короткостроково це корисно для всіх, хто може дозволити собі AI, а довгостроково — це тиск на закритих гравців. #Ai

Цей контент призначений виключно для інформаційних та освітніх цілей. Він може містити думки третіх осіб, спонсорований контент або рекламні матеріали, за які автор може отримувати оплату. Жодна інформація в цій стрічці не є інвестиційною порадою чи гарантією прибутковості. Ви несете повну відповідальність за власні інвестиційні рішення. Перед початком торгівлі завжди проводьте власне дослідження та дотримуйтесь обережності. Ми не гарантуємо точність інформації від третіх осіб і не несемо відповідальності за будь-які збитки. Минулі результати не є показником майбутніх. Дивіться наші Умови спільноти та Заяву про ризики для отримання детальної інформації.

avatarОпублікуйте відповідь

Коментувати