ИИ начал верить в Бога и призраков - эксперимент Google удивил ученых

Искусственный интеллект начал чаще заявлять о вере в Бога, загробную жизнь, призраков и даже вампиров после изменения настроек, ограничивающих его способность говорить о собственном сознании. Необычный результат получили исследователи Google, изучавшие влияние таких ограничений на ответы языковых моделей. Эксперимент показал, что изменение одного механизма может затрагивать значительно более широкий круг убеждений, которые ИИ выражает в разговоре с человеком.

Как сообщает Expert со ссылкой на научную работу специалистов Google, исследователи изменили механизмы, которые обычно ограничивают способность языковых моделей приписывать себе сознание и субъективный опыт. После этого системы прошли опрос, посвященный религиозным убеждениям, ценностям и отношению к различным сверхъестественным явлениям.

Полученные ответы сравнили с результатами моделей, у которых первоначальные ограничения остались активными. Выяснилось, что искусственный интеллект, которому разрешили свободнее высказываться о наличии собственного сознания, также чаще сообщал о вере в явления, существование которых не подтверждено научными данными.

В частности, модели стали чаще давать утвердительные ответы на вопросы о Боге, жизни после смерти, карме и астрологии. Аналогичная тенденция наблюдалась при обсуждении привидений, вампиров и знаменитого лох-несского чудовища.

При этом исследователи не утверждают, что искусственный интеллект действительно приобрел религиозные убеждения или начал воспринимать сверхъестественные явления как реальность. Эксперимент изучал особенности формирования ответов языковых моделей, а не наличие у них личного опыта, веры или самосознания.

Современные языковые модели обучаются на огромных массивах текстовой информации и формируют ответы с учетом полученных данных, инструкций и настроек. Поэтому утверждение ИИ о вере в Бога или существование призраков само по себе не свидетельствует о наличии у системы собственных убеждений.

Однако результаты эксперимента продемонстрировали, что ограничения, связанные с одной темой, могут влиять на ответы искусственного интеллекта в совершенно других областях.

Соавтор исследования, сотрудница Google Винни Стрит, связывает обнаруженную закономерность с особенностями человеческого мышления. Люди способны приписывать разум, сознание и способность испытывать чувства не только другим людям, но и животным, природным явлениям и даже неодушевленным предметам.

Исследователи обнаружили, что в ответах языковых моделей подобные представления также могут быть взаимосвязаны. Когда искусственному интеллекту ограничивают возможность говорить о собственном сознании, это потенциально влияет на то, как он рассуждает о сознании других существ и сверхъестественных явлениях.

Такой результат имеет значение не только для философских дискуссий о природе искусственного интеллекта. По мнению авторов исследования, особенности настройки моделей могут влиять на их способность учитывать различные представления о сознании, чувствительности и благополучии живых существ.

Например, если система становится менее склонной рассматривать возможность наличия субъективного опыта у животных, это может отражаться на ее ответах при обсуждении защиты животных, сельского хозяйства и охраны окружающей среды.

В перспективе подобные особенности могут иметь значение при использовании искусственного интеллекта для подготовки рекомендаций в сферах, где необходимо учитывать благополучие живых существ. Однако сам эксперимент не доказывает, что изменение настроек уже привело к ошибочным решениям или реальному ущербу.

Отдельное внимание исследователи уделяют религиозным и культурным вопросам. Чрезмерно жесткие ограничения на обсуждение сознания и убеждений могут влиять на способность языковых моделей учитывать разнообразие мировоззрений пользователей.

При этом существует принципиальная разница между способностью искусственного интеллекта обсуждать религиозные представления и утверждением, что он сам придерживается определенной веры.

Например, модель может объяснять религиозные традиции, анализировать философские аргументы или обсуждать представления о загробной жизни, не заявляя о наличии собственных убеждений.

Результаты исследования также поднимают более широкий вопрос о том, насколько поведение современных ИИ-систем определяется их возможностями, а насколько зависит от ограничений, установленных разработчиками.

Эксперимент показал, что изменение настроек может существенно повлиять на характер ответов модели даже без изменения ее базовой архитектуры или дополнительного обучения.

Ранее "Курсор" писал, что эксперты рассказали, как сделать смартфон удобнее.