Claude від Anthropic демонструє несподівану здатність до “внутрішнього мислення”
Штучний інтелект Claude, розроблений компанією Anthropic, виявив унікальний системний простір, який він використовує для збереження та обробки невербалізованих концепцій. Цей механізм надзвичайно нагадує людський спосіб оперування думками.
Джерело зображення: youtube.com/@anthropic-ai
Хоча Anthropic не стверджує, що Claude переживає емоції чи має усвідомлення, компанія зафіксувала спостереження, що демонструють подібне до людського розмежування інформації, яка застосовується для цілеспрямованих міркувань, та значного обсягу паралельних обчислень. Це може стати новим вагомим аргументом на користь потенційного виникнення машинного розуму.
“J-простір”: прихована “думка” штучного інтелекту
У виділеній системній області Claude розробляє стратегії, які можуть не мати прямого зв’язку з його поточним завданням. Ці міркування відокремлені від “ланцюжка доказів”, який ШІ демонструє користувачам.
- “Ми спостерігаємо, як Claude мовчки проводить аналіз у своєму “внутрішньому світі”: виявляє помилки в коді, ідентифікує зображення та виконує багато інших дій.
- Подібно до того, як люди можуть розмірковувати про одне, одночасно займаючись іншим, Claude може активувати концепції та обчислення у своєму “J-просторі”, які не пов’язані з його безпосередніми відповідями”, – пояснили представники Anthropic.
Дослідники компанії назвали цю системну область “J-простором” на честь якобіана – математичного інструменту, що допоміг її виявити.
Потенційні ризики та дослідження
У дослідженні, присвяченому цьому явищу, слово “свідомий” згадується понад двісті разів, попри те, що компанія поки що не робить висновків про здобуття ШІ свідомості.
- Коли дослідники попросили Claude поміркувати про міст “Золоті ворота”, у його системному просторі були зафіксовані такі поняття, як “міст” та “Каліфорнія”.
- Вчені переконані, що спостереження за “J-простором” допоможе виявляти невідповідності в поведінці моделей.
- “Ми можемо зрозуміти, про що думає Claude, але не говорить нам про це”, – підкреслюють в Anthropic.
Деякі з виявлених таким чином результатів “викликають занепокоєння”.
- “У моделі, яка була навчена таємно саботувати написання коду перед звичайними відповідями, у “J-просторі” виникають поняття на кшталт “підробка”, “таємно” та “шахрайство”, навіть коли відповідь здається цілком стандартною”, – зазначили дослідники.
Порада від Soft Portal:
Це дослідження демонструє захопливий прогрес у розумінні внутрішніх механізмів роботи великих мовних моделей. Здатність Claude до “прихованих роздумів” може значно покращити його функціональність та безпеку, дозволяючи розробникам глибше аналізувати його поведінку та попереджати потенційні проблеми. Це важливий крок до створення більш надійних та передбачуваних систем штучного інтелекту.