Microsoft обмежує використання ШІ для власних інженерів: оптимізація витрат на токени
Робота зі штучним інтелектом невпинно дорожчає, і корпорація Microsoft не стала винятком. Компанія вирішила запровадити обмеження для своїх інженерів щодо використання технологій ШІ. Спочатку для внутрішнього користування було відкрито доступ до однієї з моделей OpenAI, GPT-5.6, з метою “отримати максимальну віддачу від наших інвестицій у токени”. Однак, незабаром для співробітників буде встановлено “цільовий бюджет ШІ-токенів”, який вони зможуть відстежувати індивідуально.
Джерело зображення: BoliviaInteligente / unsplash.com
Споживання токенів безпосередньо залежить від обсягу запитів до систем штучного інтелекту та відповідей, які надають моделі. Раніше працівників технологічних компаній активно заохочували до максимально активного використання ШІ. Проте, перехід на модель оплати, що базується на обсягах споживання, призвів до значного зростання рахунків за ці послуги.
«Я хочу, щоб усі ми зосередилися на максимізації результатів, які принесуть користь нашим клієнтам і бізнесу. Тому ми оновимо наші внутрішні рекомендації та запровадимо управління витратами токенів з такою ж дисципліною, яку ми застосовуємо до всіх інших критично важливих ресурсів», — зазначив виконавчий віце-президент Microsoft Джей Паріх (Jay Parikh) у внутрішньому електронному листі. У документі також міститься посилання на внутрішні рекомендації щодо роботи з Copilot, згідно з якими в Microsoft з’явиться «цільовий бюджет токенів ШІ», хоча деталі цієї ініціативи поки що не розголошуються.
Наприкінці травня Microsoft перевела сервіс GitHub Copilot на систему оплати за токени, і деякі користувачі досить швидко вичерпали свої ліміти. Компанія також прагне скоротити витрати на ШІ, інтегруючи застосунки Microsoft 365 із власними моделями MAI замість дорожчих аналогів від Anthropic та OpenAI. Варто зазначити, що контроль за витратами своїх співробітників на ШІ-токени вже посилили й такі гіганти, як Amazon, Adobe, Atlassian та Citi.
Порада від Soft Portal:
Ця новина підкреслює зростаючу вартість використання передових технологій штучного інтелекту. Для користувачів це означає, що компанії будуть уважніше стежити за ефективністю застосування ШІ, прагнучи оптимізувати витрати. Для інженерів та розробників це може стати стимулом до пошуку більш економних способів взаємодії з моделями ШІ та уважнішого ставлення до споживання токенів.