Anthropic: За відкриті моделі ШІ — проти надмірного контролю
Генеральний директор компанії Anthropic Даріо Амодеї (Dario Amodei) наголосив, що його компанія “ніколи не виступала за заборону моделей [штучного інтелекту] з відкритими вагами”. Цю позицію він висловив у відповідь на зростаючу критику в технологічній галузі, де дехто вважає, що Anthropic прагне надмірно контролювати майбутнє розвитку ШІ.
Джерело зображення: anthropic.com
Раніше група провідних технологічних компаній, включно з Nvidia, Microsoft, Meta✴ та Palantir, опублікувала відкритий лист із закликом до влади утриматися від “передчасних заборон” щодо моделей з відкритими вагами. Такі моделі може вільно завантажувати, модифікувати та розгортати будь-хто на власній інфраструктурі. Наразі цей сегмент ринку переважно займають китайські стартапи, що викликало роздуми американських посадовців про можливу часткову або повну заборону таких моделей на території США.
Anthropic та OpenAI розробляють потужні закриті моделі ШІ. Anthropic підтримала звернення представників техгалузі, тоді як OpenAI утрималася. “Підсумовуючи мою позицію та позицію Anthropic: ми не виступали й не виступаємо за заборону моделей з відкритими вагами як таких. Натомість, ми маємо зосередитися на запобіганні потраплянню потужних чипів до рук авторитарних режимів, припиненні великомасштабної дистиляції та вимагати проведення випробувань безпеки для всіх достатньо потужних моделей, як відкритих, так і закритих”, – заявив пан Амодеї.
Щодо побоювань стосовно навмисної дистиляції, тобто копіювання моделей, підписанти листа запропонували використовувати “цілеспрямовані правові та комерційні механізми”. Даріо Амодеї погодився з цим підходом. Він визнав, що відкриті моделі ШІ надають користувачам більше контролю порівняно із закритими, розширюють доступ до економіки ШІ та часто стимулюють конкуренцію. Однак, він спростував твердження, що відкриті моделі є більш ефективними для кіберзахисту через легкість їх адаптації для конкретних завдань. Насамкінець, Даріо Амодеї чітко дав зрозуміти, що не підтримує заборону відкритих моделей. “Протекціоністські заборони не вирішать найсерйозніших проблем національної безпеки для мене”, – підсумував генеральний директор Anthropic.
Порада від Soft Portal:
Ця новина важлива для розуміння позиції ключових гравців у сфері штучного інтелекту. Вона показує, що дискусія про майбутнє ШІ не зводиться до простої дихотомії “відкриті проти закритих моделей”, а включає складніші питання безпеки, доступу до ресурсів та запобігання зловживанням. Це допоможе вам краще орієнтуватися в екосистемі ШІ та приймати обґрунтовані рішення щодо використання чи розробки відповідних технологій.