Вы зря делитесь с ChatGPT личным – что оказалось не так с чат-ботом

Тысячи людей ежедневно доверяют ChatGPT личные секреты, не подозревая, что их переписку могут прочитать посторонние. Как оказалось, компания OpenAI наняла сотни подрядчиков для оценки ответов бота.

Об этом сообщает издание 404 Media.

Что именно делают подрядчики OpenAI

Люди читают огромный поток реальных запросов пользователей к ChatGPT. Иногда это целые переписки, а не отдельные фразы. Большинство из более чем 900 миллионов пользователей чата вряд ли догадываются, что их диалоги могут попасть на глаза живому человеку.

Цель такой работы - улучшить ответы бота. Подрядчики оценивают и критикуют реплики ChatGPT. Внутренние документы показывают, что людей учат делать так, чтобы нейросеть не выдавала себя за живое существо и меньше льстила пользователю.

Проблема чрезмерной лести уже стоила OpenAI репутации. Прежняя версия модели, GPT-4o, слишком часто соглашалась с пользователями. По данным судебных исков, это стало одной из причин нескольких случаев суицида.

Почему пользователи ChatGPT рискуют своей приватностью

Многие используют чат-бота как психолога, помощника по работе или собеседника и делятся с ним самыми личными подробностями жизни. Подрядчики не видят имен пользователей, а OpenAI утверждает, что удаляет личные данные до того, как переписка попадет к рецензентам. Впрочем, в компании признают: часть чувствительной информации все равно проходит фильтры.

Я не думаю, что они себе представляют, что где-то есть подрядчик, который анализирует их переписку, - сказал изданию человек, работающий с такими данными. На вопрос, знают ли пользователи ChatGPT о том, что их чаты читают люди, он ответил отрицательно.

Расследование опровергает распространенное мнение, будто нейросети становятся умнее только благодаря сбору данных из интернета и работе высокооплачиваемых инженеров. Важную роль играют именно внешние подрядчики, которые снова и снова читают и оценивают ответы бота на реальные запросы.

Компания Anthropic подтвердила изданию 404 Media, что также использует проверку ответов живыми людьми для улучшения своих моделей.

Ранее "Курсор"  писал, что искусственный интеллект становится опаснее технологий, которые уже используют против людей.