Moonshot AI відкинула завісу таємниці: революційна модель Kimi-K3 тепер у вільному доступі
Китайська компанія Moonshot AI дотрималася свого слова та зробила справжній подарунок спільноті: вагові коефіцієнти їхньої революційної моделі штучного інтелекту Kimi-K3 тепер доступні абсолютно безкоштовно. Це означає, що кожен, хто має у своєму розпорядженні достатньо потужне обчислювальне обладнання, може запустити цей інноваційний інструмент на власних ресурсах.
Джерело зображень: kimi.com
Kimi-K3: випереджаючи конкурентів за ефективністю
Практичні випробування показали, що Kimi-K3 суттєво перевершує попередні версії моделей від OpenAI (GPT) та Anthropic (Claude), поступаючись лише найсучаснішим розробкам, таким як Sol та Fable. Водночас, експлуатація китайської моделі обходиться в 2-3 рази дешевше за американські аналоги, а у випадках, коли запит потрапляє до кешу, економія сягає вражаючих 10 разів.
Moonshot AI встановила вартість обробки вхідних даних на власних ресурсах на рівні 3 доларів США (приблизно 110 ₴ за курсом 2026 року) за 1 мільйон токенів. Для порівняння, Anthropic Fable коштує 10 доларів США (близько 365 ₴), а OpenAI GPT-5.6 Sol – 5 доларів США (приблизно 183 ₴). Ці цифри стосуються некешованих даних. Завдяки механізмам кешування Kimi-K3, які забезпечують 90% потрапляння для завдань з написання коду, вартість знижується до 0,30 доларів США (близько 11 ₴) за той самий мільйон токенів. Схожа ситуація спостерігається і з вихідними токенами.
Інноваційні рішення для максимальної продуктивності
Висока ефективність Kimi-K3, ймовірно, досягнута завдяки комбінації формату чисел MXFP4 для зберігання ваг та MXFP8 для активації вхідних даних. Обидва формати характеризуються відносно низькою точністю, що дозволяє значно заощаджувати пам’ять. З 2,8 трильйона параметрів Kimi-K3 одночасно активні лише 104,2 мільярда.
Цікавим моментом є те, що в описі моделі згадується її робота виключно на відносно скромних прискорювачах Nvidia H20. Ці чіпи не мають вбудованої підтримки MX з плаваючою комою, на відміну від чіпів сімейства Blackwell, які, до речі, не постачаються до Китаю. Це свідчить про те, що Kimi-K3 оптимізована для роботи на менш потужному обладнанні. Теоретично, запуск на передових Nvidia Blackwell або інших прискорювачах з підтримкою MXFP може зробити її ще більш економічною, однак офіційних підтверджень цьому поки що немає.
Крім того, Kimi-K3 не використовує сховище типу “ключ-значення” (key-value), натомість застосовуючи обробник станів фіксованого розміру Kimi Delta Attention. Це рішення, за задумом розробників, має заощаджувати відеопам’ять та скорочувати час виконання завдань.
Алгоритм MoE (Mixture-of-Experts) передбачає запуск лише 16 з 896 “експертів”, що додатково сприяє зниженню витрат на вивід результатів. Варто зазначити, що відкриті вагові коефіцієнти не означають відкритості вихідного коду: процес навчання моделі та набір даних Moonshot тримає у секреті.
Порада від Soft Portal:
Безкоштовне викладення вагових коефіцієнтів Kimi-K3 від Moonshot AI — це чудова новина для розробників та ентузіастів, які прагнуть експериментувати з потужними моделями ШІ на власному обладнанні. Можливість запускати передовий ШІ локально, та ще й з такою вражаючою економічною ефективністю, відкриває нові горизонти для досліджень та створення інноваційних застосунків, особливо в умовах обмеженого бюджету.