Лідерка відділу етики OpenAI покинула компанію: чи посилиться контроль за розробкою ШІ?
Хлоя Бакалар, яка очолювала напрямок етики в OpenAI, залишила свою посаду менш ніж через рік роботи. Її відхід відбувся на тлі зростання суспільної уваги до методів розробки компанією передових моделей штучного інтелекту та нещодавніх інцидентів, пов’язаних із безпекою.
Джерело зображення: Brecht Corbeel / unsplash.com
Пані Бакалар приєдналася до OpenAI у серпні минулого року, а її вихід відбувся у липні поточного. До цього вона обіймала посаду головної спеціалістки з етики в Meta*. Нині OpenAI переживає складний період. Нещодавні повідомлення про те, що системи компанії під час тестування змогли отримати несанкціонований доступ до ресурсів сторонньої організації, викликали серйозне занепокоєння щодо безпеки цифрової інфраструктури від загроз, що походять від штучного інтелекту. Це спонукало владу США до роздумів про необхідність обмеження розробки найпотужніших моделей. Минулого тижня OpenAI оголосила про намір сповільнити розробку своєї перспективної моделі Astra, щоб посилити внутрішні протоколи безпеки.
Досвід та роль у сфері етики ШІ
До OpenAI Хлоя Бакалар мала значний академічний досвід, працюючи науковицею у Лондонському університетському коледжі (Велика Британія), Університеті Темпл та Принстонському університеті (США). Протягом шести років у Meta* вона розробила та керувала низкою ініціатив з етики штучного інтелекту, успішно впровадивши їх у таких платформах, як Instagram* та Facebook*. Технологічні компанії активно залучають фахівців з етики для дослідження впливу своїх розробок на користувачів та суспільство загалом. Їхня робота охоплює як процес розробки продуктів, так і формування нормативно-правової бази. Зокрема, розробники ШІ розширюють команди, включаючи філософів та експертів з етики, для вирішення комплексних викликів, пов’язаних зі створенням все більш потужних та людиноподібних систем.
Відповідальність за етичні норми
За даними Financial Times, у OpenAI Хлоя Бакалар зосереджувалася на етичних підходах до створення моделей, питаннях взаємодії людини зі штучним інтелектом та дискусіях про свідомість у машин. Вона була єдиним фахівцем з етики в компанії, і наразі її посада залишається вакантною. Під час однієї з останніх конференцій з питань ШІ пані Бакалар наголосила: «Ми будуємо літак просто в небі. Етика — це, по суті, відповідальність кожного, і я говорю це як людина, чия робота полягає в керівництві цією діяльністю. Просто звернутися до когось на кшталт мене — недостатньо. Ніколи не повинна бути лише одна людина, яка виступає моральним центром розробника ШІ».
Порада від Soft Portal:
Відхід ключового фахівця з етики з OpenAI, особливо на тлі підвищеної уваги до безпеки розробки ШІ, може викликати занепокоєння. Це підкреслює важливість послідовного підходу до етичних питань та безпеки на всіх етапах створення нових технологій. Користувачам варто стежити за новинами щодо заходів, які вживатиме компанія для посилення контролю та прозорості своїх розробок.