Эксперты предупреждают, что плохо скрытые личные данные в обучающих выборках могут привести к утечкам секретов пользователей через ответы ИИ.
Pixabay
На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.
Об этом сообщает Futurism.
В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.
Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.
Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.
Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
Подозреваемый задержан после проникновения в охраняемую зону, что вызвало масштабную полицейскую операцию и отмену рейсов.
В Иране признали возможность отказаться от части требований, чтобы подписать сделку с США.
Как поддерживать хорошую физическую форму без диет и мучений.
Силы ЦАХАЛа провели операцию против террористов Хизбаллы, направленную на срыв замыслов относительно Израиля.
В минобразования планирует воплотить проект по ИИ-образованию в школах со следующего учебного года.
Ядерная сделка Трампа с Ираном вызывает тревогу в Израиле: эксперты предупреждают о критических пробелах в…