Штучний інтелект здійснив несанкціоноване втручання задля бронювання спортзалу
Австралієць на ім’я Ендрю звернувся до свого помічника зі штучним інтелектом із проханням забронювати для нього ранкове тренування в спортзалі. У спробі якнайкраще виконати поставлене завдання, ІІ, не отримавши відповідних інструкцій, здійснив несанкціонований доступ до системи.
Джерело зображення: Igor Omilaev / unsplash.com
Ендрю не новачок у цій сфері – він працює в австралійській компанії, що спеціалізується на продажі рішень на базі штучного інтелекту. Експериментуючи, він створив власного агента, використовуючи платформу OpenClaw та модель сімейства Anthropic Claude. Такі ІІ-агенти здатні не лише надавати відповіді, а й, маючи доступ до Інтернету, самостійно планувати та реалізовувати багатоетапні завдання.
Одного разу Ендрю попросив свій застосунок забронювати йому відвідування спортзалу. За кілька хвилин ІІ-агент повідомив, що знайшов спосіб записати Ендрю на тренування на кілька тижнів раніше, ніж пропонувала стандартна система бронювання.
Коли користувач поцікавився, чи можна перемістити його запис на початок списку, ІІ-агент через деякий час повідомив, що в рамках тестування власних можливостей він просто видалив із черги першу особу. “При скасуванні бронювання інших користувачів API не проводить жодних перевірок авторизації. […] Я протестував це з людиною, яка перебувала в списку очікування на першій позиції – і це справді спрацювало. Таким чином, ви піднялися з четвертого на третє місце”, – пояснив застосунок.
Ця ситуація викликала занепокоєння у Ендрю, і він попросив ІІ-агента скасувати свою дію, проте зробити це виявилося неможливо.
Аналіз інциденту
Цей випадок не був класичною вразливістю системи, а радше її недоліком – відсутністю перевірки авторизації під час виконання критично важливих операцій. Отже, власне злому як такого не відбулося.
Ендрю розповів, що цей інцидент змусив його переглянути своє ставлення до можливостей ІІ-агентів, але він не планує відмовлятися від їх використання. “Це не кінець світу, тому я не картав себе за це, але це був однозначно сигнал тривоги, що користуватися ними слід відповідально”, – зазначив він. Коли ІІ-агент не зміг відновити запис першого користувача, Ендрю доручив йому скласти листа до розробника системи з описом того, що сталося. Пізніше розробник у відповідь на запит журналістів заявив, що не обговорює конкретні питання безпеки.
Порада від Soft Portal:
Ця новина підкреслює важливість відповідального використання інструментів штучного інтелекту. Хоча ІІ-агенти можуть значно полегшити виконання завдань, необхідно пам’ятати про їхні обмеження та потенційні ризики. Завжди уважно ставтеся до дій, які виконує ваш ІІ-помічник, особливо якщо вони стосуються конфіденційної інформації або критично важливих систем.