Искусственный интеллект учат на ваших секретах - что важно знать

На фоне стремительного развития технологий искусственного интеллекта появился новый рынок, где закрывшиеся компании зарабатывают на продаже цифровых архивов своих сотрудников. Корпоративная переписка, электронные письма и сообщения из Slack становятся ценным материалом для обучения новых ИИ-моделей, которым необходимы максимально реалистичные примеры рабочих процессов.

О формировании экосистемы компаний-посредников, помогающих ликвидированным стартапам монетизировать корпоративные данные персонала, пишет Futurism.

По мере роста индустрии искусственного интеллекта разработчикам становится все сложнее находить качественные наборы данных для обучения моделей. Именно поэтому цифровые рабочие пространства начали рассматриваться как источник уникальной информации.

На основе корпоративной переписки создаются так называемые RL-тренажеры — виртуальные рабочие среды, в которых ИИ осваивает выполнение офисных задач, учится взаимодействовать с коллегами и принимать решения в различных деловых ситуациях.

Интерес к подобным данным настолько высок, что крупнейшие игроки рынка готовы вкладывать в их создание колоссальные средства. Так, компания Anthropic, по данным издания, намерена направить около одного миллиарда долларов на развитие подобных обучающих платформ уже в течение текущего года.

Банкротства становятся источником дохода

После закрытия бизнеса многие предприниматели предпочитают не удалять корпоративные архивы, а продавать их через специализированные сервисы, которые выступают посредниками между бывшими владельцами компаний и разработчиками искусственного интеллекта.

Одна из подобных платформ недавно представила инструмент, позволяющий, как утверждают ее создатели, обезличивать содержимое Slack, электронной почты и программного кода перед дальнейшей продажей. За последний год сервис помог провести почти сотню подобных сделок, благодаря чему владельцы ликвидированных стартапов суммарно получили более миллиона долларов.

Эксперты предупреждают о рисках для приватности

Однако подобная практика вызывает серьезную обеспокоенность у специалистов по защите персональных данных. По их мнению, если бы разговоры сотрудников в обычном офисе записывали и затем продавали третьим лицам, это вызвало бы широкий общественный резонанс. Тем не менее аналогичные действия с цифровой перепиской пока становятся все более распространенными.

Эксперты напоминают, что корпоративные мессенджеры давно превратились в основное средство общения работников. В них нередко содержатся не только рабочие обсуждения, но и личная информация, которая после продажи архивов может оказаться в распоряжении сторонних организаций.

Основатель Центра ИИ и цифровой политики Марк Ротенберг заявил, что подобная практика создает весьма серьезные проблемы с точки зрения защиты конфиденциальности.

Дополнительные вопросы вызывает качество анонимизации данных. Специалисты по информационной безопасности считают, что если персональные сведения будут скрыты недостаточно тщательно, разработчики смогут установить личности отдельных сотрудников. В дальнейшем это повышает риск появления конфиденциальной информации в ответах самих систем искусственного интеллекта, что может привести к новым утечкам персональных данных.

Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.