Разведка Канады предупредила об угрозе искусственного интеллекта

В Службе разведки и безопасности Канады (CSIS) обеспокоены кампаниями по дезинформации, которые проводят с помощью дипфейков.

Об этом сообщается на сайте канадского правительства.

Канадские спецслужбы утверждают, что фейковый контент настолько "реалистичен", что он является потенциальной угрозой для жителей страны. Также на это влияет "неспособность распознать или выявить".

Существование дипфейков и других передовых технологий искусственного интеллекта называют угрозой для демократии, потому что ряд субъектов пытаются получить выгоду "неопределенности или увековечить "факты", основанные на синтетической и/или фальсифицированной информации".

Разведка прогнозирует, что в течение ближайших лет ИИ в руках иностранных хакеров станет оружием, которое будет служить для создания дипфейк роликов и фото с политиками и чиновниками. Это будет использоваться, чтобы дискредитировать деятелей.

Сотрудники спецслужб задаются вопросом, как демократия может выжить, если не способна отличить факты от вымысла. Также там спрашивают, как будет происходить функционирование Канады на фоне существования разных наборов непроверенных фактов, в которые верят люди.

Опасность ИИ в Интернете связана с тремя факторами:

• нарушениями конфиденциальности;
• социальной манипуляцией, потому что искусственный интеллект могут использовать, чтобы отслеживать, анализировать и прогнозировать активность пользователей в Сети, что может сделать их уязвимыми к манипуляциям;
• предубежденность.

Также "Курсор" сообщал, что пользователи ChatGPT массово стали жаловаться на работу чат-бота, который стал напоминать человека.