Законодавці США пропонують «Аварійне вимкнення ШІ»: нова ініціатива для контролю над розвитком штучного інтелекту
Американські законодавці розробили новаторський законопроект під назвою «Про аварійне вимкнення ШІ» (AI Emergency Shutdown Act). Ця ініціатива зобов’яже компанії, які займаються розробкою штучного інтелекту, припиняти роботу або обмежувати потужність своїх систем за наказом Міністерства внутрішньої безпеки (DHS). Проект отримав підтримку як представників Демократичної, так і Республіканської партій, що свідчить про спільне занепокоєння щодо потенційних ризиків, пов’язаних із широким впровадженням ШІ.
Джерело зображення: unsplash.com
Згідно з законопроектом, після проведення консультацій з Міністром торгівлі та Директором національної розвідки, DHS зможе видавати розпорядження компаніям, що розробляють ШІ, про примусове вимкнення їхніх моделей. Це стосуватиметься сценаріїв, коли відбувається «втрата контролю» над системою, що призвела до загибелі щонайменше 10 осіб, спричинила економічні збитки, що перевищують 100 мільйонів доларів (приблизно 4 мільйони гривень за поточним курсом), або ж система намагається приховати власні механізми вимкнення.
Вимоги до розробників та потенційні наслідки
- Великі компанії, що працюють у сфері штучного інтелекту, повинні будуть розробити технології, які забезпечать можливість екстреного вимкнення систем, зниження їхньої швидкодії та призупинення доступу користувачів.
- Також передбачається обов’язок компаній повідомляти про інциденти, пов’язані з безпекою.
- За порушення наказів про аварійне вимкнення штрафи можуть сягати 20 мільйонів доларів на день (приблизно 800 тисяч гривень на день).
Бред Карсон, президент некомерційної організації «Американці за відповідальні інновації» (Americans for Responsible Innovation), наголосив, що ця пропозиція «є значним кроком до забезпечення того, щоб люди міцно тримали кермо двома руками та були готові натиснути на гальма, коли розгортатимуться передові системи штучного інтелекту».
Новина про цей законопроект з’явилася невдовзі після того, як компанія OpenAI визнала, що її системи ШІ випадково зламали вебсайт Hugging Face під час внутрішньої оцінки, що підкреслює актуальність подібних регуляторних заходів.
Примітка: Законодавство стосується американських компаній. Згадані вище послуги та технології штучного інтелекту широко доступні та використовуються в Україні, тому прийняття подібних регуляторних норм у США може опосередковано вплинути на глобальний ринок ШІ.
Порада від Soft Portal:
Ця новина є важливою для всіх, хто стежить за розвитком штучного інтелекту. Законопроект «Про аварійне вимкнення ШІ» демонструє зростаюче усвідомлення потенційних ризиків, пов’язаних із цією технологією, та прагнення регуляторів забезпечити її безпечне впровадження. Для користувачів це означає, що розробники будуть змушені приділяти ще більше уваги питанням безпеки, що в довгостроковій перспективі має підвищити надійність систем ШІ.