Эксперты предупреждают, что плохо скрытые личные данные в обучающих выборках могут привести к утечкам секретов пользователей через ответы ИИ.
Pixabay
На технологическом рынке сформировалась новая циничная ниша: архивы данных обанкротившихся стартапов превратились в ценный товар для разработчиков нейросетей. Тысячи корпоративных писем и миллионы сообщений из мессенджера Slack, оставленные бывшими сотрудниками, теперь массово скупаются для обучения «умных» алгоритмов офисной работе.
Об этом сообщает Futurism.
В условиях дефицита качественных обучающих материалов цифровые следы реальных рабочих процессов стали «новой нефтью». Ведущие игроки рынка ИИ, такие как Anthropic, готовы инвестировать около миллиарда долларов в создание виртуальных симуляторов (RL gyms). В этих цифровых тренажерах нейросети на примере реальной переписки учатся имитировать поведение сотрудников, решать бизнес-задачи и ориентироваться в корпоративной иерархии.
Ликвидаторы бизнеса активно пользуются моментом. Специализированные платформы-посредники помогают владельцам закрытых компаний монетизировать оставшиеся базы данных. Только за прошлый год через одну из таких площадок прошло около ста сделок по продаже архивов Slack и программного кода, что принесло банкротам более миллиона долларов прибыли.
Правозащитники называют происходящее катастрофой для приватности. Если бы кто-то тайно записывал и продавал разговоры сотрудников в обычном офисе, это стало бы уголовным преступлением. Однако в цифровой среде личные границы размыты, хотя мессенджеры хранят колоссальные объемы чувствительной информации, которой работники привыкли делиться, не ожидая предательства.
Основатель Центра ИИ и цифровой политики Марк Ротеберг подчеркивает, что риски здесь выходят за рамки этики. Эксперты по безопасности сомневаются в эффективности систем анонимизации, используемых посредниками. Существует серьезная угроза того, что при недостаточно тщательной обработке данных нейросеть в будущем может выдать в своих ответах частную информацию конкретных людей, сделав их секреты достоянием общественности.
Ранее "Курсор" рассказывал о том, как регулярное использование ИИ влияет на мозг.
Высокопоставленные офицеры ЦАХАЛа, руководившие операцией «Рык льва» из подземного бункера Генштаба, подвели предварительные итоги кампании.
От ого, что вы едите на завтрак зависит ваше самочувствие в течение дня и здоровье…
Ученые подчеркивают, что генетическая предрасположенность к боли активируется под влиянием специфических характеристик окружающей среды.
Метеорологи объяснили, почему не каждая гроза считается опасной и в каких случаях непогода действительно угрожает…
В интервью программе «60 минут» Трамп резко раскритиковал репортера CBS за цитирование манифеста стрелка, назвав…
Отсутствие постоянного давления социальных сетей дарило миллениалам уникальное чувство свободы, недоступное современным подросткам.