Moonshot AI: Як китайський стартап здолав імпортні обмеження задля навчання революційного ШІ на чипах Nvidia Blackwell
Китайський стартап Moonshot AI використав передові прискорювачі Nvidia Blackwell для тренування своєї інноваційної моделі штучного інтелекту Kimi K3. Аби отримати доступ до цих потужних обчислювальних ресурсів, компанія успішно обійшла як експортні обмеження США, так і імпортні заборони Китаю.
Джерело зображення: nvidia.com
Гонка за лідерство у сфері штучного інтелекту між США та Китаєм є життєво важливою для обох країн. Одним із ключових полів битви стали прискорювачі Nvidia Blackwell. Вашингтон запровадив заборону на їхній експорт до Китаю, тоді як Пекін обмежив імпорт, прагнучи розвивати власну екосистему чипів для ШІ. Однак, це не зупиняє розробників, які шукають шляхи обходу цих регуляцій. За інформацією видання The Information, Moonshot AI успішно навчила свою модель Kimi K3 на чипах Blackwell і продовжує працювати над отриманням доступу до них для розробки наступної версії, Kimi K4.
Обхід обмежень та виклики
Стартап звернувся до двох китайських компаній, які, попри заборони, змогли придбати прискорювачі Blackwell для своїх центрів обробки даних. Враховуючи поточний дефіцит цих прискорювачів навіть за умов легального придбання, жодна з компаній не мала достатньої кількості для повноцінного тренування Kimi K3. Тому Moonshot AI довелося розробити рішення для об’єднання ресурсів кількох серверів Blackwell, розташованих у різних дата-центрах.
Поява Kimi K3 стимулювала нову хвилю конкуренції серед китайських розробників ШІ. Навчання передових моделей залишається складним або навіть неможливим на вітчизняних прискорювачах, які значно відстають від обладнання Nvidia (на одне-два покоління), а черги на їхнє придбання розтягуються на місяці.
Інференс та майбутні плани
Водночас, для задач інференсу (виконання вже навченої моделі) Moonshot AI використовує прискорювачі Nvidia HGX H20. Ці пристрої дозволені для використання як у Китаї, так і в США. Для запуску Kimi K3 компанія рекомендує системи щонайменше з 64 такими прискорювачами. Через високі вимоги та привабливість самої моделі, доступні обчислювальні ресурси швидко вичерпалися, а на отримання доступу до Kimi K3 утворилася черга. Оскільки модель має відкриті ваги (weights), очікується, що інші постачальники незабаром запропонують доступ до неї.
Крім того, Moonshot AI придбала обладнання на базі систем Nvidia GB300 та орендувала обчислювальні потужності GB300 у Таїланді, про що повідомив радник Білого дому з питань ШІ Майкл Крациос. Перший крок є прямим порушенням заборони США, тоді як другий поки що залишається легальним, оскільки Вашингтон ще не заборонив китайським компаніям орендувати обладнання, що підпадає під санкції. Купівля цих прискорювачів також порушує заборону Пекіна. Проте, навряд чи Moonshot AI очікує покарання, адже компанія активно сприяє Китаю у наздоганянні таких лідерів, як Anthropic та OpenAI.
Порада від Soft Portal:
Ця новина демонструє, як амбітні китайські компанії знаходять інноваційні шляхи для доступу до найсучасніших технологій, незважаючи на геополітичні обмеження. Для розробників штучного інтелекту, які прагнуть працювати з передовими моделями, ця інформація підкреслює важливість гнучкості та пошуку неочевидних рішень для подолання ресурсних та регуляторних бар’єрів. Вона також свідчить про зростання китайського ринку ШІ та його прагнення до глобальної конкуренції.