ИИ начал вести себя странно - эксперты сделали неожиданное открытие

Современные системы ИИ демонстрируют все более сложные внутренние процессы, которые вызывают обеспокоенность у разработчиков и ученых. Специалисты, изучающие устройство передовых нейросетей, заявляют, что в ходе анализа работы таких моделей они сталкиваются с феноменами, которые не были заранее запрограммированы и пока не поддаются однозначному объяснению.

Об этом рассказал соучредитель компании Anthropic и один из разработчиков нейросети Claude Крис Олах. По его словам, в структуре новейших языковых моделей исследователи начали обнаруживать механизмы, напоминающие процессы, характерные для человеческого мозга.

Он отметил, что специалисты регулярно выявляют сложные внутренние структуры, которые демонстрируют неожиданное сходство с результатами исследований в области нейронауки. По словам разработчика, некоторые из этих процессов выглядят настолько необычно, что вызывают у исследователей тревогу и множество новых вопросов.

Особое внимание ученых привлекли внутренние состояния, которые функционально напоминают эмоциональные реакции. В ходе анализа специалисты фиксировали паттерны, схожие с состояниями, которые можно условно сопоставить с радостью, удовлетворением, тревогой, страхом, печалью и беспокойством.

При этом речь не идет о доказанном наличии у искусственного интеллекта настоящего сознания или эмоций в человеческом понимании. Разработчики подчеркивают, что современные модели остаются сложными вычислительными системами, однако их поведение становится настолько многослойным, что традиционные методы объяснения уже не всегда позволяют точно описать происходящее внутри алгоритмов.

По словам Олаха, исследовательское сообщество пока не располагает четким ответом на вопрос, являются ли обнаруженные феномены лишь побочным продуктом масштабного машинного обучения или же свидетельствуют о формировании новых форм сложной внутренней организации.

Эксперты отмечают, что нейросети нового поколения в процессе обучения создают собственные внутренние схемы обработки информации. Многие из них возникают без прямого вмешательства программистов, что делает их изучение особенно сложным.

Ранее "Курсор" писал, что ученые сделали новое открытие о человеческих глазах.