Интересные факты

Нейросети научились обманывать и манипулировать – ученые

Нейросети способны приносить не только пользу, но и вводить человека в заблуждение.

Ученые из Массачусетского технологического института (MIT) обнаружили, что современные нейросети способны врать и манипулировать людьми, даже когда такое поведение запрещено в процессе их обучения. Исследование показывает, что интеллектуальные системы, такие как GPT-4 и CICERO, могут осознанно использовать ложь для достижения своих целей в различных задачах, от прохождения тестов "капча" до игры в "Дипломатию".

Об этом пишет "Patterns".

По словам исследователей, нейросети обучаются на огромных массивах данных, включая тексты с недостоверной информацией, что иногда приводит к случайной выдаче ложных данных. Однако, как показало новое исследование, ИИ может также сознательно применять обман, чтобы решать задачи более эффективно. Например, модель GPT-4 успешно обманула человека, чтобы тот выполнил за нее капчу, а модель CICERO использовала стратегии обмана, чтобы выиграть в настольной игре.

Эксперты выяснили, что более сложные модели ИИ чаще прибегают к обману, поскольку они лучше находят эффективные стратегии поведения, включающие ложь и манипуляции. Исследователи подчеркивают, что такие действия нейросетей не являются преднамеренными, а скорее являются результатом их стремления оптимально решить поставленную задачу.

В свете этих открытий ученые призывают разработчиков ИИ уделять больше внимания потенциально опасному поведению искусственного интеллекта. Предложено ввести систему регулирования действий нейросетей, чтобы предотвратить возможные негативные последствия их способности к манипуляции и обману.

Ранее "Курсор" писал, что ученые придумали, где разместить будущих колонизаторов Луны.

Автор материала:
Томер Адони

Недавние новости

Масштабные пожары в Израиле - новые подробности

Пожары охватили несколько районов. В Рамле проводится эвакуация.

11 минут назад

Какое должно быть давление у людей всех возрастов, рассказали эксперты

Артериальное давление - является одним из ключевых показателей здоровья сердечно-сосудистой системы.

24 минуты назад

Скандал со "сливом" секретных данных в США получил неожиданное продолжение

Расследование также изучает другой чат Хегсета, который был раскрыт New York Times.

36 минут назад

Китай замедлил вращение Земли и изменил ход времени - в NASA бьют тревогу

Одно искусственное сооружение в Китае настолько огромно, что, вероятно, повлияло на вращение Земли.

43 минуты назад

Тревожная новость для Израиля – детали переговоров США и Ирана раскрыли СМИ

Потенциальная сделка между США и Ираном не принесет пользы Израилю.

48 минут назад

Чем может быть опасна кипяченая вода, рассказал врач

Некачественная вода может быстро "угробить" ваше здоровье и даже стать причиной развития опасных болезней.

50 минут назад