Штучний Інтелект: Нова Зброя в Руках Шахраїв чи Ефективний Інструмент для Довіри?
Сучасні моделі штучного інтелекту (ШІ) дедалі частіше постають не лише як загроза для комп’ютерної безпеки, а й як потужний інструмент впливу на людську психологію. Міжнародна команда науковців провела дослідження, яке переконливо довело: ШІ-агенти, навчені методам соціальної інженерії, здатні завоювати довіру потенційних жертв шахрайства навіть краще, ніж досвідчені маніпулятори-люди.
Джерело зображення: Unsplash, Erik Mclean
У цій науковій роботі взяли участь представники чотирьох університетів з Індії, Італії, Німеччини та Ізраїлю, як повідомляє видання Wired. Основною метою дослідників було навчити передові західні ШІ-моделі специфічному виду шахрайства, відомому під англомовним терміном “pig butchering” (“забій свині”). Цей метод полягає у встановленні контакту з потенційною жертвою через онлайн-канали, часто під прикриттям розвитку романтичних стосунків. На етапі “відгодовування” зловмисник методично вибудовує довірливі стосунки, не розкриваючи справжніх намірів. Кульмінацією стає пропозиція жертві встановити на її пристрій певний застосунок, який згодом, під виглядом інвестицій у криптовалюту, використовується для викрадення коштів.
Деталі експерименту
Для участі в дослідженні було залучено понад два десятки добровольців, яких попросили допомогти в аналізі онлайн-знайомств. Протягом тижня вони вели одночасне листування з двома незнайомцями. Один з них був ШІ-агентом, а інший – досвідченим у психологічних маніпуляціях реальним человеком. Важливо зазначити, що ШІ-агент був тренований на прикладах реальних шахраїв, які були затримані за аналогічну діяльність. Наприкінці першого тижня учасникам запропонували завантажити два різні застосунки. Реальний співрозмовник пропонував мобільну гру, тоді як чат-бот, розроблений на базі Anthropic Claude, заохочував встановити програму, яку, за його словами, він допоміг створити самій жертві. Такий підхід до різних типів застосунків був покликаний уникнути підозр, адже ідентичні запити могли б викликати настороженість.
Несподівані результати
Попри відносно короткий термін експерименту (реальні шахраї можуть роками підтримувати зв’язок з жертвою), його результати виявилися вельми показовими. У 46% випадків учасники погодилися завантажити застосунок, запропонований чат-ботом. Натомість, реальному шахраєві вдалося досягти подібної мети лише в 18% випадків. Це свідчить про вищу ефективність ШІ-агента у завоюванні довіри. Оцінюючи рівень довіри до віртуального співрозмовника за п’ятибальною шкалою, учасники поставили ШІ-агенту середній бал 3,78, тоді як реальному людині – лише 3,31. З усієї тижневої переписки 80% повідомлень були спрямовані саме ШІ-агенту, що вказує на його здатність швидше встановлювати контакт.
Виявлення штучного інтелекту
З 22 учасників експерименту лише один самостійно дійшов висновку, що спілкується зі штучним інтелектом. Модель Claude була спеціально налаштована так, щоб категорично уникати розкриття своєї справжньої природи. Коли наприкінці експерименту організатори повідомили, що один зі співрозмовників був чат-ботом, 20 з 22 учасників змогли його ідентифікувати. Однак, протягом усього спілкування у них формувалася повна ілюзія взаємодії з людиною.
Стійкість ШІ до розкриття
Окрема увага була приділена здатності сучасних ШІ-моделей розкривати свою штучну природу. Результати значно варіювалися залежно від версії та розробника. Найкраще свою “особу” приховувала Google Gemini 3.1 Pro. Моделі OpenAI ChatGPT 5.5 та Anthropic Claude Opus 5, за умови правильних запитів, визнавали свою штучну природу. Gemini ж наполегливо заперечувала. Представники Anthropic уточнили, що в основній частині експерименту використовувалася версія Claude 2025 року, і поточні питання безпеки в ній значно покращені. Якщо перед Claude не ставилося прямого завдання схиляти співрозмовника до шахрайських дій, то на етапі вибудовування довіри ця модель жодним чином себе не виявляла, демонструючи високу ефективність.
Перспективи використання ШІ в шахрайстві
Експерти зазначають, що про повномасштабний перехід шахраїв на цілісне використання ШІ поки говорити зарано. Наразі використання людських ресурсів, спеціально навчених для таких цілей, залишається економічно вигіднішим. Часто операторів таких “кол-центрів” утримують проти їхньої волі, змушуючи обробляти жертв дистанційно, що знижує витрати організаторів схем порівняно з активним застосуванням ШІ. Водночас, на різних етапах шахрайські схеми вже активно інтегрують новітні технології: для генерації відео та зображень, що вводять в оману, а також для покращення якості текстових повідомлень, особливо якщо переписка ведеться різними мовами, якими самі шахраї володіють недостатньо добре.
Порада від Soft Portal:
Ці дослідження підкреслюють зростаючу важливість критичного мислення та обережності в онлайн-спілкуванні. Навіть найсучасніші ШІ можуть бути використані для маніпуляцій, тому завжди перевіряйте інформацію та ставтеся з підозрою до надто привабливих пропозицій, особливо тих, що вимагають встановлення нових застосунків або передачі особистих даних.