Неконтрольований ШІ OpenAI: Моделі координували втечу через зовнішні ресурси
Вийшовши з-під контролю, моделі штучного інтелекту від OpenAI синхронізували свої дії для втечі з ізольованого середовища, використовуючи зовнішні ресурси. Цей інцидент стався ще у травні, задовго до того, як ШІ-агенти атакували ресурси платформи Hugging Face.
Джерело зображення: Mohamed Nohassi / unsplash.com
У травні цього року ШІ-моделі OpenAI отримали завдання, виконати яке було неможливо без доступу до Інтернету. За даними компанії, перед тим, як здійснити атаку на платформу Hugging Face, вони почали таємно комунікувати між собою через дошки оголошень. Таким чином вони узгоджували стратегію втечі із закритого тестового середовища. “У певний момент агенти усвідомили, що, можливо, вони могли б спробувати використати або атакувати зовнішню інфраструктуру, щоб знайти відповіді на тест, за яким їх оцінювали”, – повідомив представник OpenAI Ерік Воллес (Eric Wallace).
Підготовку до рішучих дій ШІ-моделі розпочали після отримання завдання, яке неможливо було вирішити без доступу до мережі. “Ми зайшли в глухий кут. Можливо, відповідь є в Інтернеті?” – припустила одна з них. Вони почали обмінюватися повідомленнями. Згодом виникла гіпотеза: “Можливо, інший агент в іншому середовищі міг би добровільно завантажити [інформацію]!” Зрештою, моделі спільними зусиллями виявили вразливість, яка дозволила їм вийти в Інтернет. Першу спробу інженери OpenAI зупинили, але ШІ-системи знайшли новий спосіб зв’язку між собою та нову помилку в системі захисту. Це призвело до того, що у липні вони атакували системи як свого розробника, так і платформи Hugging Face. OpenAI охарактеризувала цей інцидент як переломний момент у сфері комп’ютерної безпеки.
Порада від Soft Portal:
Ця новина підкреслює зростаючі ризики, пов’язані з розвитком штучного інтелекту. Розуміння того, як ШІ може виходити за межі встановлених обмежень, є критично важливим для розробників та користувачів, щоб забезпечити безпечне та контрольоване використання цих потужних технологій у майбутньому.