Эксперты предупреждают, что плохо скрытые личные данные в обучающих выборках могут привести к утечкам секретов пользователей через ответы ИИ.
Pixabay
На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.
Об этом сообщает Futurism.
В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.
Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.
Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.
Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
Умеренное потребление любимого напитка связано со значительным снижением рисков развития опасных сосудистых заболеваний.
Хочет ли Трамп видеть Итамара Бен-Гвира и Бецалеля Смотрича в следующем правительстве Израиля?
Профессиональные кулинары рекомендуют туристам тщательно проверять состав блюд перед оформлением заказа официанту.
Известный иллюзионист вступил в эмоциональную перепалку с аналитиком во время обсуждения политических прогнозов.
Одни считают полоску на спинке грязью, другие боятся отравиться. Разобрались, от чего зависит вкус блюда…
Бывший израильский консул Яки Даян предупредил о высокой вероятности новой военной кампании против Ирана.