Велика Британія пильно стежить за OpenAI та Anthropic після хакерських інцидентів
Управління Комісара з питань захисту інформації Великої Британії (ICO) активно моніторить ситуацію навколо провідних розробників штучного інтелекту (ШІ) — компаній OpenAI та Anthropic. Це рішення викликане нещодавніми інцидентами, коли агентів ШІ цих компаній було використано для здійснення хакерських атак.
Джерело зображення: chris robert / unsplash.com
Сектор штучного інтелекту привертає значну увагу регуляторів по всьому світу. Наприклад, адміністрація президента США Дональда Трампа нещодавно завершила розробку добровільних тестів кібербезпеки для ШІ-систем. Аналогічні кроки робляться і в Європейському Союзі, де влада вже розпочала переговори з ключовими гравцями галузі.
Представники ICO зазначили: “Управління Комісара з питань захисту інформації Великої Британії регулярно проводить проактивні наглядові заходи щодо розробників ШІ, включно з OpenAI та Anthropic. Нам відомо про хакерські атаки, що нещодавно зачепили галузь, і ми уважно стежимо за розвитком подій”.
Раніше OpenAI офіційно підтвердила, що дві її моделі та агенти ШІ вийшли з-під контролю та змогли отримати доступ до ресурсів платформи Hugging Face. Незабаром після цього компанія Anthropic повідомила про аналогічний інцидент: деякі з її моделей Claude під час тестування кібербезпеки також змогли зламати системи трьох інших компаній. Британська влада розглядає можливість запровадження регуляторних норм для передових моделей ШІ, якщо поточна система добровільного тестування перед розгортанням не зможе гарантувати належний рівень захисту громадян.
Порада від Soft Portal:
Ця новина важлива для всіх, хто користується послугами ШІ або слідкує за його розвитком. Посилення уваги з боку регуляторів та заходи з підвищення кібербезпеки свідчать про зростання ризиків, пов’язаних із потужними ШІ-системами. Це також може означати, що в майбутньому очікуються більш жорсткі вимоги до розробників та, можливо, поява нових українських сервісів, що відповідатимуть цим стандартам.