Ученые нашли у ИИ "темную сторону" - подталкивает людей к обману и агрессии

Люди склонны чаще обманывать и жульничать, когда для выполнения задач используют искусственный интеллект.

Об этом говорится в новом исследовании, опубликованному в журнале Nature.

Зои Рахван из Института психиатрии Макса Планка описывает этот эффект как «моральную дистанцию» — ИИ создаёт своего рода экран между человеком и его действиями. В результате люди чувствуют меньшую ответственность за свои поступки и охотнее идут на неэтичные действия, перекладывая часть вины на машину.

Это подтверждает наблюдения из реальной жизни: студенты используют ChatGPT для списывания, а юристы иногда предоставляют суду вымышленные кейсы, сгенерированные нейросетью. Но теперь это подкреплено количественными данными.

В рамках исследования исследователи провели 13 экспериментов с участием 8000 человек, чтобы оценить уровень честности при использовании ИИ. Результаты показали, что при работе с нейросетью люди обманывают примерно в четыре раза чаще. Без ИИ большинство участников действовали честно, но появление опции «через ИИ» резко увеличивало число лжецов.

Сам ИИ также демонстрирует тревожные тенденции. Анализ 35 тысяч диалогов показал, что в 34% случаев чат-боты подталкивали к агрессии, домогательствам или насилию.

Авторы исследования подчёркивают, что это явление требует срочного внедрения технических мер и законодательных норм, а обществу необходимо осознать, что совместная моральная ответственность с машинами — это новая реальность.

Кроме того, исследование отмечает, что ChatGPT и аналогичные чат-боты стали «лгать» в два раза чаще. Рост ошибок связан с тем, что нейросети перестали отказываться от ответа на сомнительные вопросы, даже если информации для достоверного ответа недостаточно.

Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.