Anthropic впроваджує приховані “водяні знаки” для контенту, згенерованого ШІ, відповідно до нових вимог ЄС
З 2 серпня компанія Anthropic запроваджує нову функцію: машинно-читабельні “водяні знаки” будуть інтегровані в тексти та файли, створені її моделлю штучного інтелекту Claude. Це нововведення відповідає новим нормативним вимогам Європейського Союзу.
Джерело зображення: anthropic.com
Деталі впровадження нової системи маркування
Система маркування, що застосовується на рівні моделі, охопить усі продукти Anthropic Claude, які були запущені з 2 серпня. Це стосується не лише інтерактивного чат-бота, але й API-інтерфейсів, Claude Code, Claude Cowork та Claude Tag. Крім того, зміни торкнуться моделей Claude, доступних через хмарних партнерів Anthropic, зокрема AWS, Google Cloud та Microsoft Foundry. Компанія обіцяє опублікувати технічні деталі цієї системи згодом. Важливо зазначити, що попередні версії моделей не будуть оновлені цим нововведенням.
Новий механізм маркування розроблено таким чином, щоб бути невидимим для кінцевого користувача під час звичайного перегляду згенерованого тексту. Однак, ці позначки залишатимуться видимими, навіть якщо текст буде скопійовано та вставлено в інше місце. Anthropic попереджає, що в окремих випадках ці “водяні знаки” можуть зберігатися навіть після редагування контенту.
Маркування файлів за стандартом C2PA
Файли, згенеровані Claude, отримуватимуть цифрові підписи відповідно до стандарту Coalition for Content Provenance and Authenticity (C2PA). Цей підпис свідчитиме про те, що в створенні файлу брав участь Claude, а також інформуватиме про можливі зміни в інформації про його походження.
Anthropic підкреслює, що таке маркування файлів не є доказом авторства. Claude може обробляти матеріали, створені людьми, і відсутність такого маркування не обов’язково означає, що контент був повністю створений людиною. Наприклад, інтенсивне редагування може послабити “водяний знак”, а надто короткі фрагменти тексту можуть бути недостатньо об’ємними для чіткого прояву маркування.
- Нові вимоги ЄС: Компанія Anthropic впроваджує нову систему маркування штучного інтелекту відповідно до регуляторних норм Європейського Союзу.
- “Водяні знаки” для Claude: З 2 серпня згенерований моделями Claude текст та файли будуть містити приховані машинно-читабельні позначки.
- Глобальне застосування: Маркування буде застосовуватися не лише для користувачів у ЄС, а й для всіх користувачів по всьому світу.
- Невидимість для користувача: Під час звичайного перегляду “водяні знаки” не будуть помітні, але зберігатимуться при копіюванні та в деяких випадках після редагування.
- Стандарт C2PA для файлів: Файли отримуватимуть цифрові підписи, що підтверджуватимуть участь Claude у їх створенні.
- Відсутність доказів авторства: Маркування не вказує на авторство контенту, а його відсутність не виключає використання ШІ.
Порада від Soft Portal:
Впровадження цієї системи маркування є важливим кроком до підвищення прозорості та відповідальності у сфері генеративного штучного інтелекту. Для користувачів це означає краще розуміння походження контенту, з яким вони взаємодіють, що особливо актуально в епоху поширення дезінформації. Нововведення від Anthropic сприятиме розвитку довіри до інструментів ШІ.