ИИ становится опаснее - технологии уже используют против людей

ИИ стремительно проникает практически во все сферы жизни, однако вместе с новыми возможностями растет и число угроз. Некоторые риски, которые еще недавно казались фантастикой, уже используются мошенниками и становятся предметом серьезных исследований.

Об этом пишет 14 канал.

Одной из наиболее заметных угроз стали реалистичные подделки. Современные инструменты позволяют клонировать голос человека, создавать убедительные изображения и Deepfake-видео. Подобные технологии уже применяются преступниками в мошеннических схемах, поскольку потенциальной жертве становится значительно сложнее отличить реального собеседника от созданной алгоритмом копии.

Еще один вопрос связан с работой смартфонов без непосредственного участия владельца. Современные устройства действительно способны выполнять фоновые вычисления, в том числе связанные с искусственным интеллектом. Некоторые технологии позволяют обрабатывать информацию непосредственно на телефоне, не отправляя исходные данные на удаленные серверы.

В частности, применяется так называемое федеративное обучение. При таком подходе устройство самостоятельно выполняет часть вычислений, после чего передает необходимые обновления для совершенствования общей модели. Это позволяет развивать алгоритмы без обязательной передачи всего массива пользовательской информации.

При этом автор материала призывает отделять реальные возможности технологий от пугающих предположений, распространяющихся вокруг ИИ. Убедительных доказательств того, что обычные смартфоны каждую ночь массово изучают личную переписку и фотографии владельцев ради создания подробных психологических профилей, нет.

Аналогичная осторожность необходима и в отношении популярного утверждения, будто смартфоны постоянно подслушивают разговоры пользователей ради последующего показа рекламы. Сам факт существования фоновых процессов на устройствах не доказывает подобную практику.

Одновременно развитие более совершенных моделей ставит перед исследователями новые вопросы. Специалисты изучают способность алгоритмов демонстрировать вводящее в заблуждение поведение и предупреждают об опасности передачи ИИ слишком большого количества решений без человеческого контроля.

Особенно чувствительной эта проблема становится при использовании алгоритмов в системах безопасности и военной сфере. Чем больше функций получает искусственный интеллект, тем важнее определить границу, за которой окончательное решение должно оставаться за человеком.

Ранее "Курсор" писал, что эксперты рассказали, почему стоит отключать зарядное устройство от сети.