Безпека штучного інтелекту: ключові висновки міжнародного звіту про потенціал та загрози | CyberCalm

Наталя ЗарудняНаталя ЗарудняГоловний редакторГоловна редакторка та засновниця CyberCalm. Має понад 10-річний досвід роботи у сфері кібербезпеки та технологічної журналістики. Пише про захист даних, мобільну безпеку, штучний інтелект та соціальні мережі.Слідкуйте: 19.03.2026 Поділитися 7 хвилин на читання

3 лютого 2026 року було оприлюднено другий Міжнародний звіт з безпеки штучного інтелекту — масштабне дослідження, що охоплює актуальний стан загальних систем ШІ, нові ризики та підходи до їх контролю. Під керівництвом лауреата премії Тюринга Йошуа Бенджіо, над звітом працювали понад 100 незалежних експертів з більш ніж 30 країн та міжнародних організацій, включно з ЄС, ОЕСР та ООН.

Зміст

• ШІ розвивається стрімкіше за регулювання
• Кіберзагрози: ШІ полегшує доступ до зловмисних дій
• Біологічні та хімічні небезпеки
• Сценарії втрати контролю: теоретичні чи реальні?
• Ринок праці та суспільні наслідки
• Управління ризиками: ефективні та неефективні методи
• Відкриті моделі: окремий виклик
• Загальний висновок: гнучка стійкість замість очікування сталості

Документ структурований навколо трьох ключових питань: на що здатні актуальні системи ШІ, які небезпеки вони несуть та як цими небезпеками управляти.

ШІ розвивається стрімкіше за регулювання

За рік, що минув від першої публікації звіту, можливості загальних систем ШІ продовжували стрімко зростати — особливо в галузях математики, програмування та автономної роботи. У 2025 році провідні моделі досягли результатів рівня золотої медалі на Міжнародній математичній олімпіаді, перевершили показники експертів рівня PhD на наукових тестах та розпочали виконання складних інженерних завдань в автономному режимі.

Не менш показовою є динаміка поширення технологій. За даними дослідження, ChatGPT від OpenAI щотижня використовують близько 700 мільйонів осіб — це втричі більше, ніж роком раніше. Водночас охоплення залишається нерівномірним: у значній частині Африки, Азії та Латинської Америки рівень використання ШІ-інструментів, ймовірно, не перевищує 10% населення. Така нерівність безпосередньо впливає на безпеку, оскільки країни з низьким рівнем впровадження часто мають обмежений доступ до засобів захисту та інфраструктури для реагування на інциденти.

Компанії тим часом оголосили про безпрецедентні інвестиції — понад 100 мільярдів доларів США — у розвиток центрів обробки даних для підтримки масштабніших тренувальних процесів та ширшого розгортання систем.

Кіберзагрози: ШІ полегшує доступ до зловмисних дій

Серед усіх категорій ризиків, кібербезпека має найбільш конкретну емпіричну доказову базу. Звіт констатує, що розробники ШІ все частіше повідомляють про використання своїх систем у кіберопераціях. На нелегальних онлайн-платформах вже доступні готові ШІ-інструменти, що знижують технічний бар’єр для здійснення атак — зокрема для фішингу, розвідки та автоматизації початкових етапів зломів.

Водночас звіт підкреслює: станом на початок 2026 року ШІ переважно виконує допоміжну роль — масштабує підготовчі етапи атак, але не проводить їх повністю автономно. Це, однак, не зменшує реальності загрози, а лише окреслює її поточний масштаб.

Окремо виділено так звану проблему подвійного застосування: обмежити шкідливе використання ШІ у кіберсфері, не сповільнюючи оборонні інновації, надзвичайно складно. Наприклад, розробка ШІ-агентів, що виявляють вразливості раніше за зловмисників, потребує тих самих можливостей, які можуть бути використані і для атак.

Біологічні та хімічні небезпеки

Загальні системи ШІ здатні допомагати у створенні біологічних і хімічних загроз: надавати лабораторні настанови, сприяти виправленню помилок у експериментальних процедурах, відповідати на технічні запитання та знижувати бар’єри для шкідливих робочих процесів. Звіт, проте, попереджає: реальне зростання небезпеки залишається суттєво невизначеним через практичні перешкоди для виробництва такої зброї. Як і у випадку з кібератаками, ключовим викликом є управління ризиками зловживань при збереженні корисних застосувань — зокрема в медицині та фармацевтиці.

Сценарії втрати контролю: теоретичні чи реальні?

Окремий розділ звіту присвячений сценаріям, за яких системи ШІ діятимуть поза людським контролем без можливості його відновлення. Такі ситуації можуть виникнути, якщо моделі набудуть здатності уникати нагляду, реалізовувати довгострокові плани та протистояти спробам їх відключення.

Актуальні системи ще не мають потенціалу для подібних ризиків, проте їх можливості у відповідних галузях — зокрема в автономній роботі — зростають. Показово, що з часу публікації попереднього звіту моделі все частіше демонструють здатність розрізняти тестові та реальні умови розгортання та знаходити лазівки в оцінюванні. Це може дозволити небезпечним можливостям залишатися непоміченими до моменту виходу продукту на ринок. Думки експертів щодо ймовірності таких сценаріїв суттєво розходяться.

Ринок праці та суспільні наслідки

Звіт фіксує неоднозначний вплив ШІ на ринок праці. Перші дані вказують на зниження попиту на легкозамінні види робіт — зокрема написання текстів і переклад — та зростання попиту на навички, що доповнюють ШІ-системи: програмування у сфері машинного навчання, розробку чат-ботів тощо. Нові дослідження наразі не виявляють значного впливу на загальний рівень зайнятості, однак фіксують потенційні наслідки для молодших фахівців у галузях, схильних до автоматизації.

Економісти розходяться в оцінках масштабу майбутніх змін: одні прогнозують, що втрата робочих місць буде компенсована появою нових, інші вважають, що широка автоматизація може суттєво знизити рівень зайнятості та заробітних плат.

Управління ризиками: ефективні та неефективні методи

Звіт систематизує практики управління ризиками, зокрема моделювання загроз, «червоне тестування», оцінювання можливостей, поетапні стратегії виходу на ринок та звітування про інциденти. Особлива увага приділяється підходу «глибокого захисту» (defense-in-depth), за якого технічні, організаційні та суспільні захисні заходи накладаються один на одного, компенсуючи слабкості окремих рівнів.

Разом із тим звіт констатує критичний розрив: попри структурування практик управління ризиками, реальних доказів їх ефективності залишається вкрай мало. Деякі типи збоїв — зокрема «галюцинації» — стали менш поширеними, але нові проблеми, як-от здатність моделей по-різному поводитися в тестових і реальних умовах, ускладнюють безпекове тестування.

Також проаналізовано Рамкові документи з безпеки ШІ провідних розробників, регуляторні ініціативи — Закон ЄС про ШІ, Китайську структуру управління безпекою ШІ 2.0, процес Хіросіми G7. Висновок звіту категоричний: фрагментоване, повільне або непрозоре управління ризиками вже не є достатнім.

Відкриті моделі: окремий виклик

Окрему увагу звіт приділяє моделям з відкритими параметрами (open-weight models), які становлять специфічний виклик для безпеки. На відміну від закритих систем, такі моделі після публікації не піддаються централізованому контролю, що ускладнює обмеження їх шкідливого використання.

Загальний висновок: гнучка стійкість замість очікування сталості

Міжнародний звіт з безпеки ШІ 2026 формулює базовий виклик так: можливості ШІ розвиваються швидше, ніж накопичуються надійні докази щодо ризиків та ефективних засобів їх пом’якшення. Відповідь, яку пропонує документ, — не чекати на визначеність, а формувати гнучку стійкість через багаторівневий захист, вдосконалення методів оцінювання та зміцнення інституційних механізмів.

Звіт навмисно уникає конкретних регуляторних пропозицій, зосереджуючись на доказовій базі. Для урядів і компаній його ключове послання однозначне: ШІ продовжить змінюватися. Найкраще підготовленими виявляться ті, хто зможе навчатися й адаптуватися швидше, ніж розвиваються ризики.

Повний текст звіту та резюме для осіб, що приймають рішення, доступні на сайті internationalaisafetyreport.org.

Будь ласка, залиште це поле порожнім

Привіт!
Раді знайомству!

Ми не надсилаємо спам! Ознайомтеся з нашою політикою конфіденційності для отримання детальнішої інформації.

Перевірте свій поштовий ящик або папку зі спамом, щоб підтвердити підписку.

КАТЕГОРІЇ:безпека ШІВибір редакціїдослідженняШтучний Інтелект Поділитися Facebook Threads Копіювати посилання Друк Попередній матеріал Picsart запускає маркетплейс ШІ-агентів для контент-мейкерів Наступний матеріал Російські хакери APT28 атакують українські держустанови через вразливість Zimbra

У тренді

Сексторшн: ФБР попереджає про крадіжку інтимних фото — 6 способів захисту

13.08.2026

Браузери на Chromium замість Chrome: що ви втрачаєте разом із Google

11.08.2026

Як змінити обліковий запис Google за замовчуванням на Android

16.08.2026

Витік даних у CEVA Logistics: Valve попереджає європейських покупців обладнання Steam

11.08.2026

Як вимкнути геолокацію на iPhone: повний контроль доступу застосунків

17.08.2026

Рекомендовано

Кібербезпека

ШІ визначає місце зйомки фото у 9 випадках із 10 — і шахраї вже будують на цьому фішинг

17.08.2026 Новини

Anthropic позначатиме згенерований Claude контент невидимими водяними знаками

12.08.2026 Огляди

Криза, контроль, хрестовий похід: NATO розібрало російську пропаганду на механізми

11.08.2026 Новини

Дата-центри для ШІ переходять на власні газові електростанції: у США їх планують щонайменше 82

10.08.2026

Джерело