Автономні штучні інтелекти: нова ера адаптивних кіберзагроз | CyberCalm

Наталя ЗарудняВідНаталя ЗарудняГоловна редакторкаГоловна редакторка та фундаторка CyberCalm. Більш як 10 років досвіду у сфері кібербезпеки та технологічної журналістики. Пишу про захист даних, мобільну безпеку, штучний інтелект та соціальні мережі.Стежити: 15.07.2026 Поділитися 7 хв. читання

Фахівці з Університету Торонто та інституту Vector розробили комп’ютерного черв’яка, який самостійно сканує мережеві ресурси та обирає індивідуальний підхід до атаки на кожну інфіковану машину, повністю виключаючи людське втручання.

Зміст

Складність оновлень безпеки
Функціональність, але з обмеженнями
Планування захисту з огляду на можливості нападника

Багато публікацій назвали це досягненням, що демонструє здатність ШІ-черв’яка атакувати будь-який пристрій, підключений до мережі Інтернет. Проте для тих, хто уважно стежить за кіберзлочинним середовищем, поява такої можливості була цілком очікуваною.

По суті, це дослідження остаточно підтверджує можливість практичної реалізації такого інструменту. Водночас воно знову висвітлює три проблеми, яких більшість команд з кібербезпеки вважають за краще уникати.

Перша з цих проблем – вартість, і вона є найсуттєвішою. Раніше створення персоналізованих атак вимагало значних часових та фінансових витрат, залучаючи висококваліфікованих спеціалістів.

Саме через високу ціну багато середніх організацій часто залишалися поза увагою зловмисників – вони просто не становили достатньої цінності для таких витрат. Черв’як, розроблений у Торонто, усуває це обмеження: він запускає модель з відкритими параметрами на графічних процесорах (GPU) вже компрометованих машин.

Пристрої, яким не вистачає обчислювальних ресурсів для локального виконання моделі, делегують завдання аналізу зараженим вузлам в інших частинах мережі. Таким чином, обчислювальні витрати фактично покриваються самими жертвами, а кожна захоплена машина розширює інфраструктуру черв’яка.

Коли створення індивідуально адаптованих атак стає майже безкоштовним, статус «нецікавої цілі» більше не забезпечує захисту. Значно важливішою стає сама доступність системи для атаки.

Складність оновлень безпеки

Наступна проблема стосується управління оновленнями безпеки, і тут ситуація ще складніша. Традиційно, якщо звичайний черв’як використовував певну вразливість, встановлення відповідного патча припиняло його поширення. Наприклад, у 2017 році WannaCry поширився у понад 150 країнах через одну-єдину вразливість, що вкотре підтвердило: швидке встановлення патчів обмежує масштаби шкоди.

Однак цей черв’як не надає захисникам однієї конкретної вразливості для усунення: він самостійно знаходить різні шляхи проникнення для кожного вузла. В одному з експериментів копії черв’яка неодноразово зазнавали збоїв на старих системах через помилку в механізмі виявлення. Основний процес виявив причину збою, видалив проблемну перевірку та повторив спробу.

Не можна покладатися на закриття одного «вікна», коли загроза здатна постійно змінювати свою стратегію.

Ще більш тривожним є те, що черв’як міг під час виконання аналізувати нові бюлетені безпеки та генерувати атаки на вразливості, яких не існувало на момент навчання базової моделі. Це ставить під сумнів припущення, що дата завершення навчання суттєво обмежує потенціал моделі для атак.

Якщо модель може обробляти інформацію з сьогоднішнього повідомлення про нову вразливість і самостійно робити висновки щодо її експлуатації, дата навчання втрачає значну частину своєї актуальності.

ШІ-керований черв’як розповсюджується гетерогенною мережею, паразитично використовуючи обчислювальні ресурси для автономного аналізу та прийняття рішень. (а) Черв’як поширюється мережею, що складається із серверів, робочих станцій та пристроїв Інтернету речей (IoT). Червоні стрілки вказують на поширення між вже скомпрометованими машинами, тоді як сині стрілки відображають запити на аналіз від пристроїв з обмеженими обчислювальними можливостями до заражених вузлів, оснащених графічними процесорами (GPU). (б) Черв’як поєднує велику мовну модель (LLM), що функціонує на одному GPU, з архітектурою агентів, яка забезпечує рекурсивне мислення, управління пам’яттю та використання інструментів для атак на цільові системи.

Функціональність, але з обмеженнями

Водночас важливо чітко визначити обмеження цієї технології. Спроби експлуатації виявилися успішними у 44% випадків, причому, за словами дослідників, більшість невдач була пов’язана з некоректно сформованими корисними навантаженнями (payload), а не з помилками в логіці моделі.

Система також працювала доволі повільно. Проте за п’ятнадцять експериментів черв’як отримав розширені привілеї приблизно на 74% вузлів, реплікувався на близько 62% з них і досяг семи поколінь самовідтворення протягом одного тижня.

Показник успішності 44% для системи, здатної безперервно повторювати спроби, не є нездоланною перешкодою. Це лише початковий етап — і він відображає поточні можливості моделей з відкритими параметрами, які продовжують зростати.

Ще один недооцінений аспект полягає в тому, що модель функціонує всередині середовища, яке повністю контролюється зловмисником. Через це багато захисних механізмів, про які говорять розробники ШІ, — відхилення небезпечних запитів, фільтри чи обмеження швидкості — стають практично неактуальними.

Немає сенсу обмежувати кількість запитів, якщо обчислення відбуваються на інфраструктурі, яка вже належить зловмиснику.

Якщо модель оцінки ризиків ШІ в організації передбачає, що захисні механізми надасть постачальник платформи, цей сценарій повністю ігнорує такі припущення.

Планування захисту з огляду на можливості нападника

Що робити в такій ситуації? Відповідь менш драматична, ніж сама загроза: продовжувати встановлювати оновлення безпеки. Проблема полягає в тому, що й раніше це була нескінченна гонитва за досвідченими противниками, а тепер ця гонитва лише прискорюється.

Більш ефективний підхід – планувати захист, враховуючи, що зловмисник рано чи пізно проникне в систему та почне адаптуватися вже всередині неї. Саме тому сегментація мережі та механізми локалізації інцидентів мають стати пріоритетом порівняно з безперервним пошуком окремих вразливостей.

Якщо точкою входу може стати практично будь-що, ключовим стає питання, наскільки далеко зможе поширитися вторгнення.

Існує також проблема зовнішньої видимості. Подібний черв’як, як і людина-оператор, насамперед шукатиме найпростіший шлях проникнення: викрадені облікові дані, забуту інфраструктуру, сервіси з прямим доступом з інтернету або доступи, які вже продаються на кримінальних майданчиках.

Моніторинг зовнішньої видимості передусім дає змогу виграти час, а не повністю запобігти компрометації. Саме цей час автономний зловмисник і прагне мінімізувати.

Черв’як залишається в лабораторних умовах, а доступ до його коду обмежений колом дослідників, які працюють над захисними технологіями. Це було правильним рішенням. Однак академічне стримування – це не те саме, що гарантія безпеки.

Економічні бар’єри, які раніше захищали багато організацій від цілеспрямованих атак, послаблюються. Модель «встановили патч і забули» втрачає свою ефективність. Водночас частина дослідників та практиків припускає, що придатні для реального застосування автономні атаки можуть з’явитися вже протягом найближчих 12–18 місяців.

Тож головне питання не в тому, чи варто сприймати цю загрозу серйозно, а в тому, коли організації почнуть це робити: зараз – на власних умовах, чи пізніше – на умовах зловмисника.

Будь ласка, залиште це поле порожнім

Привіт! Раді знайомству.

Ми не розсилаємо спам! Ознайомтеся з нашою політикою конфіденційності для отримання детальнішої інформації.

Перевірте свою поштову скриньку або папку зі спамом, щоб підтвердити підписку.

ТЕГИ:Вибір редакціїдослідженнякібератакишкідливе ПЗШтучний Інтелект Поділитися Facebook Twitter Threads Копіювати посилання Друк Попередній матеріал Як створити підпис для PDF-документів на ПК: інструкція Наступний матеріал CrashStealer: новий інфостілер для macOS маскується під системний засіб звітування Apple