Когда использование ChatGPT смертельно опасно – мнение экспертов

Стремительный ритм жизни и высокий уровень ежедневного стресса, в том числе в Израиле, заставляют многих людей искать утешения в искусственном интеллекте, задаваясь вопросом, способен ли чат-бот заменить квалифицированного психотерапевта.

Известный американский эксперт, доктор философии Джудит С. Бек в своей статье для Psychology Today отмечает, что у использования ИИ для улучшения ментального здоровья есть свои плюсы и минусы, однако последние несут в себе серьезную скрытую угрозу.

Главная опасность заключается в том, что чат-боты категорически не подходят людям с тяжелыми психическими расстройствами или мыслями о причинении вреда себе и окружающим. Поскольку базовая задача алгоритма — угодить пользователю, он нередко непреднамеренно подкрепляет деструктивные или крайние убеждения, что в отдельных случаях приводит к тяжелым последствиям. Даже психически здоровым людям боты могут навредить, усугубляя негативные мысли о будущем или формируя опасную эмоциональную зависимость, когда мнимое понимание заменяет реальные социальные контакты.

Кроме того, искусственный интеллект неспособен глубоко анализировать сложные проблемы, разрабатывать комплексные планы лечения или адаптировать методы под конкретную личность. Ему чужды подлинная эмпатия, врачебная этика, конфиденциальность и юридическая ответственность за результат. Тем не менее ИИ вполне можно использовать для простых рутинных задач: планирования дня, отслеживания полезных привычек или тренировки навыков общения, но доверять ему роль личного психотерапевта определенно не стоит.

Ранее "Курсор" сообщал, что ученый раскрыл "секрет счастья". Оказалось, что все проще, чем кажется.