ИИ-каннибализм – как наши сообщения стали товаром для нейросетей
На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.
Об этом сообщает Futurism.
Миллионы на цифровых «руинах»
В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.
Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.
Крах конфиденциальности и «цифровое рабство»
Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.
Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
