Ученые предупредили об опасности искусственного интеллекта для человечества
В разгаре бурного развития искусственного интеллекта, вопрос о его потенциальной угрозе для человечества остается актуальным.
Доктор физико-математических наук и заведующий отделом теории цифровых автоматов Института кибернетики имени В. Глушкова НАН Украины, Александр Летичевский, поделился своими мыслями об этом в эксклюзивном интервью для РБК-Украина.
"Человечество можно будет цивилизационно уничтожить, если искусственный интеллект будет активно участвовать в социальных сетях и влиять на обычных пользователей. На какую степень мы ему позволим вмешиваться в жизнь человечества, так это и будет. Ведь если мы ему позволим запускать ракеты и принимать решения на основе искусственного интеллекта, тогда, конечно, это опасно," предостерегает ученый.
Он также уточнил, что фантастические сценарии уничтожения человечества вроде известных из фильмов пока далеки от реализации. Однако Летичевский подчеркнул случаи ошибок, такие как инцидент на складе, где робот ошибочно воспринял человека за товар и причинил вред. Ученый отметил, что плохо натренированные нейронные сети могут допускать ошибки, и эти инциденты будут происходить, поскольку технология еще совершенствуется.
"Нужно контролировать такие продукты и сертифицировать. Chat GPT не опасен, но люди начинают ему уже доверять. Но там есть такие явления, как галлюцинации - вымышленные факты и события," добавил Летичевский, подчеркивая важность легитимации и контроля искусственного интеллекта.
Он высказал мнение, что системы искусственного интеллекта должны проходить лицензирование, аналогичное лекарствам или аттракционам, чтобы быть безопасными для использования в различных отраслях. "С чат-ботами можно создать много аккаунтов в соцсетях, и они будут агитировать людей за определенные политические партии или подстрекать к неправомерным действиям. Это уже нападение на демократию. Поэтому это нужно отслеживать и сертифицировать, потому что это влияние на общее сознание в соцсетях," заключил ученый.
Он также подчеркнул, что развитие искусственного интеллекта будет влиять на все сферы человеческой деятельности, и необходим контроль и оценка его воздействия на общество.
Ранее “Курсор” сообщал, что пользователи обратили внимание, что ChatGPT иногда ведет себя не как обычный бот, а похоже на человека. В некоторых случаях бот отказывается отвечать на вопросы, прекращает разговор из-за множества вопросов или даже советует пользователям делать что-то сами. Разработчики OpenAI подтвердили наличие этой проблемы, но пока не выпустили исправлений.
