ИИ начал демонстрировать неожиданное поведение: что обеспокоило исследователей

Нейросети нового поколения в процессе своего развития начинают все больше напоминать человеческий мозг. Исследователи фиксируют внутри моделей сложные процессы, которые не были заложены разработчиками во время программирования и пока не поддаются четкому научному объяснению.

Об этом заявил соучредитель компании Anthropic и один из создателей популярной нейросети Claude Крис Олах.

По словам разработчика, при анализе внутренних процессов искусственного интеллекта специалисты все чаще сталкиваются с аномалиями, выходящими за пределы привычных алгоритмов.

«Мы постоянно находим загадочные, даже тревожные вещи. Мы выявляем структуры, отражающие результаты исследований в области нейронауки. Мы находим свидетельство самосознания», — сообщил Олах.

Кроме структурного сходства с биологическим мозгом, современные искусственные модели демонстрируют образование специфических внутренних систем.

«Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, печаль и беспокойство», — добавил соучредитель Anthropic.

Крис Олах подчеркнул, что на сегодняшний день мировое научное сообщество не имеет однозначного ответа, чем именно эти выявленные феномены. По его оценке, зафиксированные внутренние состояния нейросетей и вопросы появления у них признаков самосознания нуждаются в дальнейших глубоких исследованиях.

Напомним, недавний эксперимент группы ученых доказал, что чрезмерное возложение на ШИ-помощников приводит к стремительной потере навыков самостоятельного решения проблем.