Бывший сотрудник Google перечислил главные угрозы от искусственного интеллекта

Наиболее опасным специалист считает оружие на основе искусственного интеллекта, направленное против людей.

Об этом сообщает Yahoo! Finance.

Кай-Фу Ли отметил, что подобные технологии навсегда изменят представление о войне, поскольку из-за доступности оружия на основе искусственного интеллекта, его точности и скорости программирования будет невозможно определить организаторов военных преступлений.

«Представьте себе дрон, который может находить конкретных людей с помощью системы распознавания лиц или чего-то еще. Я думаю, что это меняет будущее терроризма, потому что террористы больше не обязаны будут жертвовать своими жизнями, совершая нападения на мирных граждан. Любая террористическая группа сможет использовать 10 тыс. таких дронов для свершения чего-то столь же ужасного, как геноцид», – отметил специалист.

Кай-Фу Ли отметил, что не менее важной угрозой будет риск непреднамеренных негативных последствий, когда искусственный интеллект будет выполнять исключительно одну задачу и игнорировать все остальные.

В частности, наиболее ярким примером является влияние алгоритмов на основе искусственного интеллекта в соцсетях и на таких медиа-платформах как YouTube, на сознание детей и подростков.

Не менее серьезной угрозой является слежка и сбор личной информации о людях. Уже сейчас алгоритмы на основе искусственного интеллекта могут наблюдать за деятельностью людей в Сети, а также совершенствоваться и совершенствовать предлагаемые пользователям запросы. С другой стороны, они собирают данные, которые могут помочь скомпрометировать человека.

«Может ли ИИ объяснить нам, почему он принимал те или иные решения, когда речь идет об автоматическом управлении автономными транспортными средствами, или о принятии решений при проведении хирургических операций? Это становится серьезной проблемой», – отметил Кай-Фу Ли.

Кай-Фу Ли занимался разработкой искусственного интеллекта на протяжении десятилетий, с тех пор, как он участвовал в создании технологии распознавания речи и автоматизированной речи в качестве докторанта в Университете Карнеги-Меллона.

Курсор уже сообщал, что ООН призывает ввести мораторий на использование искусственного интеллекта.