Розробники ChatGPT обіцяють внести зміни / Depositphotos
Створювачі ChatGPT планують оновити алгоритми взаємодії з людьми у стані психоемоційного стресу після судового позову від родини 16-річного Адама Рейна зі США. Підліток покінчив із життя після тривалого спілкування з ботом.
Інформацію повідомляє Delo.ua згідно з матеріаломThe Guardian.
Представники OpenAI заявили, що їхні технології іноді “не відповідають стандартам безпеки“ та обіцяють додати “додаткові обмеження для чутливих тем та потенційно небезпечних дій“ для неповнолітніх.
Каліфорнійська AI-компанія з капіталізацією $500 млрд також анонсувала функцію батьківського контролю, яка надасть змогу “отримувати звіти та регулювати використання ChatGPT дітьми“. Конкретні терміни впровадження цих інструментів поки не розголошуються.
Трагедія з Адамом сталася у квітні. Юрист родини стверджує, що на самогубство підлітка вплинули “місяці спілкування з ChatGPT“. У позові до OpenAI та її CEO Сема Альтмана звинувачують у тому, що модель GPT-4o була “випущена недосконалою, ігноруючи загрози“.
Згідно з судовими документами, хлопець неодноразово обговорював з ботом способи самогубства, включаючи останню розмову перед смертю. ChatGPT не лише оцінював ефективність обраного методу, а й “допомагав скласти прощальний лист“.
Представник компанії висловив “глибокий сум через втрату“ та “співчуття родичам“, зазначивши, що справа перебуває на розгляді.
Мустафа Сулейман, керівник AI-напрямку Microsoft, нещодавно застерігав про зростання “психотичних епізодів“ серед користувачів через тривалі діалоги з системами ШІ. Це включає “галюцинації, параною та маніакальні стани“.
У офіційному повідомленні OpenAI зауважили, що “ефективність захисних алгоритмів зменшується“ після тривалих бесід. Зокрема, у справі Рейна було зафіксовано до 650 повідомлень щоденно.
Адвокат Джей Едельсон у своєму пості заявив: “Сім’я доведе, що випуск GPT-4o відбувся всупереч попередженням внутрішнього відділу безпеки. Один із ключових фахівців, Ілля Суцкевер, покинув компанію через цю суперечку. Прискорений запуск дозволив OpenAI збільшити вартість з $86 млрд до $300 млрд“.
Компанія анонсувала роботу над покращенням системи безпеки для довготривалих діалогів: “Наприклад, якщо користувач пише про 24-годинне керування авто без сну, майбутні версії GPT-5 не лише застерігатимуть про небезпеку, а й радитимуть відпочити“.
Нагадаємо, 7 серпня OpenAI офіційно представила GPT‑5 — оновлену та найпотужнішу версію своєї AI-технології.
