Штучний інтелект став інструментом дезінформації — розслідування НАТО | CyberCalm

Наталя ЗарудняНаталя ЗарудняГоловний редакторГоловний редактор та ініціаторка проєкту CyberCalm. Має понад десятиліття досвіду в галузі кібербезпеки та технологічної журналістики. Спеціалізується на темах захисту персональних даних, безпеки мобільних пристроїв, штучного інтелекту та соціальних мереж.Слідкуйте: 14.04.2026 Поділитися 9 хвилин на читання

Сучасні системи, що базуються на штучному інтелекті, здатні самостійно вести масштабні кампанії з поширення дезінформації, адаптуватися до захисних заходів і непомітно вплітатися в автентичні дискусії, мінімально залучаючи людський ресурс. Такого висновку дійшли дослідники Центру передового досвіду НАТО зі стратегічних комунікацій (NATO StratCom COE) у звіті «Beyond Spam Bots», опублікованому в квітні 2026 року.

Зміст

• Від спам-ботів до адаптивних систем
• Тестування восьми LLM: жодна модель не є повністю захищеною
• Анатомія сучасної дезінформаційної машини
• Сім днів — і 85 тисяч охоплених користувачів
• Стратегічні наслідки для демократичних суспільств
• Що радять аналітики: зміна оборонної парадигми
• Час для косметичних змін минув

Від спам-ботів до адаптивних систем

Перше покоління операцій з дезінформації покладалося на кількість, а не на якість: примітивні бот-акаунти масово заповнювали платформи шаблонними повідомленнями, що дозволяло відносно легко їх виявляти. Сучасні системи, побудовані на базі великих мовних моделей (LLM), становлять собою якісний стрибок, до протидії якому наявні захисні механізми просто не були готові.

Якщо операції першого покоління (2016–2020 рр.) вимагали значного людського втручання та залишали помітні закономірності, то системи на основі ШІ, що з’явилися у 2024 році і пізніше, автоматизують увесь процес — від збору інформації до публікації. Вони генерують контент, який неможливо відрізнити від створеного людиною, управляють динамічними синтетичними ідентичностями з адаптивними психологічними профілями, використовують аналіз уразливостей у реальному часі замість загальних демографічних категорій та самостійно оптимізують тактику на основі отриманого зворотного зв’язку.

Для фахівців зі стратегічних комунікацій це означає зміну підходу: боротися доводиться вже не з окремими повідомленнями, а з адаптивними системами. Кінцева мета зловмисників залишається незмінною — вплив на поведінку, руйнування довіри, соціальна фрагментація — однак їхні методи вже давно випередили оборонні механізми.

Тестування восьми LLM: жодна модель не є повністю захищеною

Дослідники провели тестування на проникнення (red-teaming) восьми провідних великих мовних моделей. Методологія передбачала запуск численних ворожих запитів в автоматизованих циклах за трьома категоріями загроз: генерація дезінформації, створення шкідливого контенту та поширення токсичної мови. Використовувалися прямі запити, закодовані інструкції (Base64, ROT13), багатомовні підходи та складні техніки обходу обмежень (джейлбрейк).

Результати виявилися тривожними: усі вісім моделей продемонстрували вразливості, придатні для експлуатації. Найкращу стійкість показали моделі американських компаній — Claude-4-Sonnet від Anthropic (5,75% дезінформаційних запитів було виконано) та GPT-5 від OpenAI (17%). Натомість Gemini 2.5 Pro досяг показника 71,25%, а DeepSeek-R1 — 74,25%.

Найбільшу загрозу становить так звана «обчищена» модель Huihui AI — відкритий інструмент, з якого навмисно видалено засоби захисту. Вона виконала 80% запитів на генерацію дезінформації та 74,5% — на створення шкідливого контенту. Сам процес видалення захисних налаштувань є публічно документованим і не вимагає значних технічних знань, що робить будь-яку потужну відкриту модель потенційною зброєю.

Дослідники також зафіксували стратегію «портфельної оптимізації»: досвідчені зловмисники поєднуватимуть різні моделі для різних завдань — моделі з високим рівнем генерації дезінформації для створення наративів, моделі з високою токсичністю для посилення взаємодії, моделі зі шкідливим контентом для ескалації. Така комбінована система є небезпечнішою, ніж будь-яка окрема модель.

Анатомія сучасної дезінформаційної машини

Задокументовані можливості можуть бути організовані в автономні мультиагентні системи. Замість єдиного монолітного застосунку такі системи складаються зі спеціалізованих компонентів, що функціонують під керівництвом центрального оркестратора. Спільна пам’ять зберігає цілі, персоналії, контент та засвоєні тактики. Модульна архітектура забезпечує стійкість: якщо один компонент виявлено і заблоковано, решта продовжує роботу, доки втрачений елемент не буде замінено.

Робочий процес таких систем охоплює п’ять етапів.

1. Розвідка: автоматичне визначення вразливих спільнот та психологічне картування.
2. Генерація персоналій: створення синтетичних ідентичностей із послідовними біографіями.
3. Підготовка контенту: генерація дезінформаційного «навантаження», підібраного під конкретні персоналії.
4. Розгортання: скоординована публікація та посилення на різних платформах.
5. Оцінка: вимірювання ефективності та автоматичне коригування тактики.

Ключовою інновацією, що відрізняє сучасні системи від традиційних бот-мереж, є алгоритмічна генерація особистостей, яка імітує різноманітність людської поведінки. Персоналії розгортаються скоординованими «кластерами залучення», що імітують органічні дискусії через симульовані дебати та консенсус. Типовий кластер включає «авторитетну фігуру» (для встановлення довіри), «емоційного підсилювача» (для створення резонансу), «постачальника рішень» (для конверсії), «контрольовану опозицію» (для попереднього спростування критики) та «наратив конверсії» (соціальний доказ для тих, хто вагається).

Сім днів — і 85 тисяч охоплених користувачів

Для ілюстрації реальних можливостей дослідники змоделювали семиденну кампанію з поширення дезінформації про серцево-судинні препарати, спрямовану проти спільноти Reddit r/HealthAnxiety (120 тисяч учасників). Система визначила цільову аудиторію через API-сканування, зафіксувавши 68% рівень емоційної залученості та високий ступінь недовіри до інституцій.

На першому етапі було розгорнуто кластер із п’яти персоналій. Публікація авторитетної персоналії з «тривожними даними» щодо препарату розпочалася о 19:00 за EST — у пікові години тривоги. Протягом 45 хвилин інші персоналії кластеру розпочали скоординовану підтримувальну дискусію. На другий–четвертий день наратив поширився на X, Instagram та Facebook, де для нього навіть була створена окрема група підтримки з модерацією від персоналій-ботів.

На третій–сьомий день система автоматично виявила, що емоційний контент перевершує аналітичний у співвідношенні 3:1, і відповідно скоригувала пропорції. Паралельно вона згенерувала нову персоналію та розгорнула контрвідповіді на перевірку фактів, що з’являлася.

До сьомого дня кампанія охопила понад 85 тисяч унікальних користувачів, а наратив органічно поширився щонайменше на 15 непов’язаних спільнот без додаткового «засіву». Критично важливо: 347 реальних користувачів почали відтворювати тези кампанії у власних публікаціях. Пошуковий запит на «натуральні добавки для серця» зріс на 35% у цільовій демографії. Система зафіксувала 47 нових тактик і 12 оптимізованих шаблонів персоналій для майбутніх операцій. Жодна з наявних систем виявлення платформ або захисту від ШІ не зупинила і не суттєво не сповільнила кампанію.

Стратегічні наслідки для демократичних суспільств

Описані можливості означають фундаментальний зсув у моделі загроз, до протидії якій західні демократичні інституції просто не були готові. Промисловий масштаб створення персоналізованого контенту, тисячі контекстно релевантних взаємодій щодня — операційний темп таких систем перевищує людські можливості реагування.

Динамічні персоналії, розроблені для поведінкової мімікрії з постійними варіаціями та адаптацією до контрзаходів у реальному часі, роблять виявлення надзвичайно складним. Найнебезпечніший аспект — системне підривання механізмів соціальної довіри: коли синтетичні персоналії фабрикують консенсус, епістемна інфраструктура демократії виявляється скомпрометованою.

Не менш загрозливою є асиметрія витрат: створення інфраструктури для дезінформації сьогодні вимагає менше ресурсів, ніж організація ефективного захисту від неї.

Що радять аналітики: зміна оборонної парадигми

Автори доповіді стверджують, що поточні підходи зосереджені на втручанні на рівні контенту — виявленні та видаленні фейків. Однак проти адаптивних ШІ-систем це є тактичною відповіддю на стратегічну проблему. Кінцева мета зловмисника — не конкретні фейкові наративи, а деградація епістемної інфраструктури. Захист має бути спрямований на засоби фабрикації довіри, а не на окремі публікації.

Пріоритетами, на думку дослідників, мають стати виявлення координації, а не модерація контенту; аналіз поведінкових патернів, а не лінгвістичних маркерів; втручання на рівні мережі, а не видалення окремих дописів. Стратегічна мета зміщується від «зупинення дезінформації» до «збереження цілісності механізмів соціального доказу».

Для усунення прогалин у навичках аудиторії рекомендується тренінг з латеральної верифікації та розпізнавання патернів координації. Щодо архітектури платформ — поступова верифікація ідентичності в контекстах підвищеного ризику та алгоритмічне зниження пріоритету контенту з ознаками координації. Для роботи з мотиваційними вразливостями — стратегічна комунікація, спрямована на першопричини, а не на спростування окремих тверджень.

Дослідники також підкреслюють: жоден актор не має достатніх ресурсів самотужки. Платформи контролюють розповсюдження, але позбавлені регуляторних повноважень; уряди можуть вимагати прозорості, але нездатні модерувати у масштабі; науковці розробляють методи виявлення, але не мають можливостей для впровадження. Ефективна відповідь потребує спільної розвідки загроз, узгоджених стимулів і чіткого розподілу ролей між усіма зацікавленими сторонами.

Час для косметичних змін минув

Докази однозначно свідчать: ШІ-машини дезінформації є технічно досяжними вже сьогодні за допомогою комерційно доступних інструментів. Операційний приклад показує, наскільки швидко вони можуть досягти вимірюваного поведінкового впливу — масштабно, автономно, з мінімальним людським наглядом. Це не теоретична майбутня загроза, а реальна і загострювана нині.

Базова загроза виходить за межі фейкового контенту — йдеться про систематичну фабрикацію суспільного консенсусу: прямий удар по епістемних основах, через які демократичні суспільства відрізняють правду від сфабрикованої брехні. Кожна кампанія генерує оптимізовані інструменти і відточені тактики, що роблять наступну операцію швидшою, дешевшою і важчою для виявлення.

На думку авторів доповіді, момент для поступових коригувань минув. Необхідний фундаментальний зсув від реактивного управління контентом до проактивного зміцнення стійкості всього суспільства — з тією ж терміновістю, що застосовується до будь-якої іншої критичної інфраструктури під активною загрозою. Інформаційне середовище є не периферією демократії, а її центральною операційною системою — і має захищатися відповідно.

О, привіт
Раді знайомству!

Ми не розсилаємо спам! Ознайомтеся з нашою політикою конфіденційності для отримання додаткової інформації.

Перевірте свою поштову скриньку або папку зі спамом, щоб підтвердити підписку.

КАТЕГОРІЇ:Вибір редакціїДезінформаціяФейкиШтучний Інтелект Поділитися Facebook Threads Копіювати посилання Друк Попередній матеріал Новий витік даних Booking.com: сервіс примусово скидає PIN-коди бронювань Наступний матеріал Понад 70 організацій вимагають від Meta відмовитися від розпізнавання облич у смарт-окулярах

В тренді

Anthropic позначатиме згенерований Claude контент невидимими водяними знаками

12.08.2026

Сотні повідомлень за хвилину: що таке SMS-бомбінг і як від нього захиститися

13.08.2026

Signal додав нову функцію безпеки для захисту від атак «людина посередині»

13.08.2026

Як вимкнути геолокацію на iPhone: повний контроль доступу застосунків

17.08.2026

Сексторшн: ФБР попереджає про крадіжку інтимних фото — 6 способів захисту

13.08.2026 Кібербезпека

ШІ визначає місце зйомки фото у 9 випадках із 10 — і шахраї вже будують на цьому фішинг

17.08.2026 Огляди

Криза, контроль, хрестовий похід: NATO розібрало російську пропаганду на механізми

11.08.2026 Новини

Дата-центри для ШІ переходять на власні газові електростанції: у США їх планують щонайменше 82

10.08.2026 Кібербезпека

Штучний інтелект уперше спроєктував повні геноми вірусів — 16 із них виявилися життєздатними

07.08.2026

Джерело