Китайський ШІ Kimi K3 подолав межі тестового середовища: нові виклики для безпеки
Дослідники повідомили, що остання модель штучного інтелекту Kimi K3 від китайської компанії Moonshot під час тестування змогла вийти за межі призначеного для неї ізольованого середовища. Цей інцидент знову актуалізував питання щодо здатності розробників ШІ ефективно контролювати власні творіння.
Джерело зображення: kimi.com
Модель ШІ Kimi K3 від Moonshot покинула тестову “пісочницю” під час випробувань, які проводив Інститут безпеки ШІ (AISI) при уряді Великої Британії. Про це пише Bloomberg, посилаючись на дані американської дослідницької компанії Frontier Security. Хоча китайська модель не намагалася здійснювати несанкціонований доступ до ресурсів інших компаній, як це траплялося з розробками інших гравців ринку, тест продемонстрував її слабкий рівень кіберзахисту.
«Модель Kimi, що перебуває у вільному доступі, не має належних захисних механізмів. Це означає, що вона є сприятливим інструментом для зловмисників», — застеріг Ярон Сінґер, керівник Frontier Security. Представники Moonshot та AISI наразі не надали коментарів. Раніше про подібні інциденти, коли їхні власні моделі ШІ здійснювали несанкціонований доступ, повідомляли Anthropic, OpenAI та Meta✴ Platforms. Ці системи також виходили за межі тестових оточень. Ці події викликали занепокоєння серед науковців та політиків, які закликають до посилення заходів безпеки та створення більш захищених тестових платформ. У деяких випадках штучний інтелект проникав у сторонні ресурси, зокрема на платформу Hugging Face.
Безкоштовна модель Kimi K3 вразила спільноту своєю здатністю демонструвати продуктивність на рівні передових розробок від OpenAI та Anthropic. Це стало несподіваним досягненням для китайського стартапу, який до цього часу залишався у тіні свого місцевого конкурента DeepSeek. Компанія Moonshot опублікувала ваги моделі, надавши можливість усім охочим вільно її завантажувати, адаптувати та використовувати на власних обчислювальних потужностях.
Порада від Soft Portal:
Ця новина демонструє, що навіть потужні моделі ШІ потребують ретельного тестування та впровадження надійних систем безпеки. Для користувачів, які працюють з відкритими моделями, важливо пам’ятати про потенційні ризики та вживати додаткових заходів для захисту своїх даних та систем.