Технологии

ИИ-каннибализм – как наши сообщения стали товаром для нейросетей

Эксперты предупреждают, что плохо скрытые личные данные в обучающих выборках могут привести к утечкам секретов пользователей через ответы ИИ.

На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.

Об этом сообщает Futurism.

Миллионы на цифровых «руинах»

В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.

Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.

Крах конфиденциальности и «цифровое рабство»

Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.

Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.

Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.

Автор материала:
Рами Мадрих

Недавние новости

Самую полезную пищу в мире назвали медики и ученые

Самая полезная пища оказалась одной из самых дешевых и доступных для всех.

10 минут назад

Израильские политики массово летают в ОАЭ - подробности

Глава одной из израильских партий взял пример с премьер-министра, совершив тайную поездку в ОАЭ.

20 минут назад

"Мощное лекарство" для оздоровления и долголетия назвала эксперт

Диетолог уверяет, что всего несколько простых привычек существенно продлят вашу жизнь и защитят от болезней.

27 минут назад

Неподъемный чек — Турция платит колоссальную цену за чужую войну

Закрытие Ормузского пролива из-за войны может увеличить расходы Анкары на импорт энергоносителей на 14 млрд…

30 минут назад

Политический советник: «Он совершил огромную ошибку с Айзенкотом»

Офер Инбар прокомментировал взлет популярности Айзенкота и назвал имя лидера, который невольно обеспечил этот успех.

35 минут назад

Антирейтинг туристических мест, которые разочаровали путешественников

Туристы чаще всего жалуются на слишком большое количество посетителей на популярных локациях и завышенные цены.

42 минуты назад