Некоторые работники компании видят целые диалоги пользователей с ботом и обучают нейросеть отвечать честнее и без лишней лести.
pixabay.com
Тысячи людей ежедневно доверяют ChatGPT личные секреты, не подозревая, что их переписку могут прочитать посторонние. Как оказалось, компания OpenAI наняла сотни подрядчиков для оценки ответов бота.
Об этом сообщает издание 404 Media.
Что именно делают подрядчики OpenAI
Люди читают огромный поток реальных запросов пользователей к ChatGPT. Иногда это целые переписки, а не отдельные фразы. Большинство из более чем 900 миллионов пользователей чата вряд ли догадываются, что их диалоги могут попасть на глаза живому человеку.
Цель такой работы - улучшить ответы бота. Подрядчики оценивают и критикуют реплики ChatGPT. Внутренние документы показывают, что людей учат делать так, чтобы нейросеть не выдавала себя за живое существо и меньше льстила пользователю.
Проблема чрезмерной лести уже стоила OpenAI репутации. Прежняя версия модели, GPT-4o, слишком часто соглашалась с пользователями. По данным судебных исков, это стало одной из причин нескольких случаев суицида.
Почему пользователи ChatGPT рискуют своей приватностью
Многие используют чат-бота как психолога, помощника по работе или собеседника и делятся с ним самыми личными подробностями жизни. Подрядчики не видят имен пользователей, а OpenAI утверждает, что удаляет личные данные до того, как переписка попадет к рецензентам. Впрочем, в компании признают: часть чувствительной информации все равно проходит фильтры.
Я не думаю, что они себе представляют, что где-то есть подрядчик, который анализирует их переписку, - сказал изданию человек, работающий с такими данными. На вопрос, знают ли пользователи ChatGPT о том, что их чаты читают люди, он ответил отрицательно.
Расследование опровергает распространенное мнение, будто нейросети становятся умнее только благодаря сбору данных из интернета и работе высокооплачиваемых инженеров. Важную роль играют именно внешние подрядчики, которые снова и снова читают и оценивают ответы бота на реальные запросы.
Компания Anthropic подтвердила изданию 404 Media, что также использует проверку ответов живыми людьми для улучшения своих моделей.
Ранее "Курсор" писал, что искусственный интеллект становится опаснее технологий, которые уже используют против людей.
Привычные фразы утешения иногда только усиливают раздражение. Есть слова, которые помогают человеку почувствовать, что его…
Воскресенье, 1 ноября 2026 года, раскрывается в символике Таро как возможность внимательнее выбрать, чему отдавать…
Собаки воспринимают изменения голоса, движений и запаха человека, определяя его эмоциональное состояние без слов.
Демократы в Конгрессе потребовали сохранить переписку президента с нейросетями и выяснить, насколько ИИ влиял на…
Повышенное артериальное давление увеличивает нагрузку на сердце, заставляя его работать интенсивнее, а потому важно взять…
Иран предупредил о новых угрозах в регионе и возможном затяжном конфликте с неожиданными последствиями.