Компанія Nvidia активно впроваджує свої моделі штучного інтелекту сімейства Nemotron з відкритими вагами від минулого року. Нещодавно до цього сімейства приєдналася версія 3.5 Lightning, яка пропонує відкритий вихідний код і потребує лише обчислювальних ресурсів одного графічного процесора (GPU), встановленого у ноутбуці чи настільному комп’ютері.
Джерело зображення: Nvidia
Nemotron 3.5 Lightning: Потужний ШІ на вашому комп’ютері
Наприкінці липня, як нагадує видання CNBC, засновник і генеральний директор Nvidia Дженсен Хуанг висловився на підтримку моделей ШІ з відкритим вихідним кодом через соціальну мережу X. Ця заява підкреслює його позицію щодо питання, яке стає все більш актуальним для багатьох представників галузі. Лише менш ніж через три тижні його компанія презентувала “легковагу” модель Nemotron 3.5 Lightning, яка ефективно працює на базі одного GPU. Корпоративні клієнти Nvidia можуть вільно завантажувати, використовувати та модифікувати цю модель без необхідності отримання додаткових дозволів.
Стратегія Nvidia та переваги відкритих моделей
Вигода для Nvidia полягає в тому, що для роботи з Nemotron 3.5 Lightning клієнтам все одно потрібен графічний процесор — чи то в складі обчислювального прискорювача, чи навіть ігрова відеокарта, які компанія успішно продає. Минулого місяця Дженсен Хуанг зазначив, що “безкоштовний ШІ піде на користь апаратному забезпеченню та чіпам”. На думку засновника Nvidia, моделі з відкритими вагами надають компаніям кращий контроль над їхнім майбутнім, стимулюють конкуренцію та сприяють зниженню цін. Крім того, вони посилюють сфери кібербезпеки та суверенітет окремих країн. Nvidia приєдналася до консорціуму разом із Microsoft, який займатиметься просуванням використання відкритих моделей та програмного забезпечення з відкритим вихідним кодом у сфері кібербезпеки.
Nemotron 3.5 Lightning: Сфери застосування та доступність
Нещодавно засновник Meta✴ Platforms Марк Цукерберг також виступив на підтримку моделей з відкритим вихідним кодом, висловивши думку, що такі розробки американського походження мають стати найкращими у світі. Повертаючись до Nemotron 3.5 Lightning, варто додати, що Nvidia орієнтує її на розробку агентських застосунків. Цю модель вже успішно протестували та адаптували для своїх потреб такі компанії, як CrowdStrike, CodeRabbit та Harvey. Nemotron 3.5 Lightning буде доступна як на платформі Hugging Face, так і на офіційному сайті Nvidia. Компанія також пропонує утиліту NeMo Switchyard, яка допомагає визначити оптимальну модель ШІ для вирішення конкретного завдання. Фахівці Nvidia оптимізували свою легковагу модель 3.5 Lightning, передавши їй можливості старших представників сімейства Nemotron шляхом дистиляції.
Порада від Soft Portal:
Nemotron 3.5 Lightning – це чудова новина для розробників та ентузіастів, які прагнуть працювати з передовими моделями штучного інтелекту без значних апаратних обмежень. Можливість використовувати потужний ШІ на одному GPU відкриває двері для інновацій та експериментів, дозволяючи створювати складні агентські застосунки навіть на доступному обладнанні. Це дійсно робить передові технології ШІ доступнішими.