Apple обмежує кількість звітів про вразливості через наплив “сміттєвих” даних, згенерованих ШІ
Технологічний гігант Apple запровадив нові правила щодо кількості повідомлень про знайдені помилки, які дослідники можуть надсилати до їхньої служби безпеки. Це рішення викликане значним зростанням так званих “неякісних” звітів, які часто генеруються штучним інтелектом (ШІ) та містять неточну інформацію про потенційні загрози безпеці програмного забезпечення. Про це пише видання The New York Times.
Джерело зображення: Immo Wegmann/unsplash.com
Компанія визнає, що використання ШІ суттєво допомогло збільшити кількість виявлених реальних вразливостей. Водночас, це спричинило справжній потік “шумових” повідомлень від ентузіастів, які застосовують ШІ для пошуку програмних дефектів.
«З огляду на зростання обсягу повідомлень про порушення безпеки, згенерованих штучним інтелектом у галузі, ми скоригували максимальну кількість нових звітів, які один дослідник може відкрити одночасно», — зазначили в Apple. Компанія додала, що дослідники мають можливість запитувати збільшення цього ліміту в будь-який момент, щоб забезпечити своєчасне надходження критично важливих звітів до команд безпеки.
Крім того, запроваджено 30-денний період очікування для надсилання нових звітів через внутрішній портал безпеки. Apple пояснює, що всі отримані повідомлення про виявлені програмні помилки потребують ручної верифікації, хоча ШІ використовується для їх попередньої класифікації.
Проблеми з оперативністю звітування
Італійський стартап у сфері кібербезпеки Bynario повідомив, що через запроваджені обмеження вони не змогли своєчасно надіслати Apple звіт про виявлені вразливості. Одна з цих вразливостей стосується ланцюжка експлойтів для підвищення привілеїв, що потенційно може надати зловмиснику повний контроль над операційною системою macOS. Представники Bynario стверджують, що за допомогою інструмента OpenAI ChatGPT лише за три тижні вони виявили понад 50 помилок у найновішій версії ОС.
Apple заявила виданню The New York Times, що вони розглядають звіти, надані Bynario. Компанія також активно використовує ШІ для покращення ефективності своїх програмних продуктів. За словами представників Apple, інструменти від Anthropic та OpenAI допомогли виявити низку вразливостей у їхньому програмному забезпеченні. Завдяки застосуванню ШІ, останні оновлення програмного забезпечення від Apple містять приблизно вп’ятеро більше виправлень безпеки порівняно з попередніми релізами.
Порада від Soft Portal:
Це оновлення правил Apple, хоч і може здатися обмежувальним для незалежних дослідників, спрямоване на підвищення ефективності роботи їхньої команди безпеки. Для звичайних користувачів це означає, що Apple прагне швидше реагувати на справжні загрози, фільтруючи “шум” від автоматично згенерованих звітів. Це, в свою чергу, сприятиме випуску більш безпечних оновлень для ваших пристроїв Apple.