Эксперты предупреждают, что плохо скрытые личные данные в обучающих выборках могут привести к утечкам секретов пользователей через ответы ИИ.
Pixabay
На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.
Об этом сообщает Futurism.
В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.
Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.
Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.
Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
Министр внутренних дел Сербии назвал нападение на охранника возле посольства Израиля в Белграде террористическим актом.
Официальное подтверждение данных о соотношении явки разных групп населения ожидается после полной проверки протоколов.
В Белграде мужчина попытался ударить ножом полицейского возле посольства Израиля.
Арабские политические движения сохраняют статус ключевого регулятора при формировании устойчивого большинства.
Правый лагерь во главе с действующим премьер-министром сохраняет первенство, но сталкивается с нехваткой мандатов.
Политическая борьба в Израиле выходит на новый этап, а будущее власти зависит от сложных переговоров…