Страшнее, чем в фильмах: ИИ создает реальную угрозу человечеству

Еще несколько десятилетий назад сценарии о восстании машин и опасном искусственном интеллекте казались исключительно фантазией писателей и режиссеров. Сегодня развитие технологий заставляет воспринимать некоторые из этих сюжетов уже не как далекое будущее, а как потенциальные вызовы, к которым человечеству необходимо готовиться заранее.

Об этом сообщает Zero Hedge.

Почему фантастические сценарии снова стали актуальными

Искусственный интеллект развивается значительно быстрее, чем еще недавно предполагали специалисты. Системы ИИ уже способны самостоятельно анализировать большие массивы информации, принимать решения в рамках поставленных задач и управлять сложными технологическими процессами.

На этом фоне возникает вопрос о том, насколько надежными являются существующие механизмы контроля. Одних программных ограничений и стандартных средств кибербезопасности может быть недостаточно, поскольку программное обеспечение потенциально можно изменить, взломать или обойти.

Именно поэтому сторонники более жесткого контроля ИИ считают необходимым одновременно развивать технические средства защиты и совершенствовать законодательство, регулирующее применение подобных технологий.

Что об искусственном интеллекте предупреждала научная фантастика

Задолго до появления современных нейросетей писатели и кинематографисты представляли ситуации, в которых созданные человеком машины выходят из-под контроля.

Один из наиболее известных примеров это «Терминатор», где искусственный интеллект воспринимает человечество как угрозу собственному существованию. Похожие идеи появлялись и в других произведениях, включая «Звездный путь». В одном из сюжетов суперкомпьютер M5, действуя согласно собственной логике, принимает решение уничтожить людей во время военных учений.

Еще одним известным примером является вселенная «Звездного крейсера», где развитие технологий также становится источником конфликта между людьми и искусственными системами.

Общий мотив многих подобных историй заключается в одном: машина, лишенная человеческих ценностей и ограничений, способна воспринимать людей исключительно как препятствие для достижения поставленной цели.

Три закона Азимова

Одним из самых известных литературных способов решить проблему контроля над роботами стали три закона робототехники, придуманные писателем Айзеком Азимовым.

Согласно первому закону, робот не должен причинять вред человеку или человечеству и не может своим бездействием допускать причинение такого вреда.

Второй закон обязывает робота выполнять распоряжения человека, если они не противоречат первому правилу.

Третий закон предусматривает необходимость сохранять собственное существование, но только до тех пор, пока это не вступает в противоречие с двумя предыдущими законами.

Позднее сам Азимов в своих произведениях показал, что даже такая система ограничений не способна решить все возможные моральные и логические противоречия.

Почему программных ограничений может быть недостаточно

Одна из главных проблем заключается в том, что современные системы безопасности в основном существуют на уровне программного обеспечения. А программный код можно изменить, заменить или подвергнуть атаке.

История кибербезопасности уже знает множество случаев масштабных взломов, когда злоумышленники получали доступ к защищенным системам и конфиденциальной информации. Поэтому абсолютной гарантии сохранности данных и программного контроля сегодня не может дать ни одна технологическая система.

Одним из рассматриваемых направлений является перенос части защитных механизмов непосредственно на аппаратный уровень. Иными словами, определенные ограничения могут быть физически заложены в архитектуру компьютерного чипа, чтобы их нельзя было просто изменить обычным обновлением программного обеспечения.

В перспективе подобные технологии могли бы использоваться в компьютерах, смартфонах и других устройствах, где требуется гарантированное соблюдение определенных правил безопасности.

ИИ уже используется в военных технологиях

Особенно остро вопрос контроля искусственного интеллекта стоит в военной сфере. В условиях войны в Украине обе стороны развивают беспилотные системы, способные использовать элементы искусственного интеллекта для навигации, распознавания объектов и выполнения задач с меньшим участием человека.

Одно из наиболее спорных направлений заключается в создании систем, которые смогут самостоятельно определять цели и атаковать их без непосредственного решения оператора.

Именно поэтому международные эксперты и правозащитники выступают за усиление правил использования автономного оружия. В частности, обсуждается необходимость международных ограничений, которые не позволяли бы искусственному интеллекту самостоятельно принимать окончательное решение о лишении человека жизни.

Таким образом, вопрос уже заключается не только в том, насколько умными станут машины, но и в том, какие границы человечество установит для их применения. Технологическое развитие само по себе не обязательно представляет угрозу, однако отсутствие четких правил контроля способно превратить полезный инструмент в источник серьезных рисков.

Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.