ИИ может привести мир к глобальной катастрофе - тревожный прогноз
Лауреат Нобелевской премии и один из ведущих специалистов в области искусственного интеллекта Джеффри Хинтон предупредил о риске катастрофы, сопоставимой с Чернобыльской, уже к концу 2026 или в 2027 году. По его мнению, причиной может стать неконтролируемое развитие ИИ.
Об этом сообщает издание The Guardian.
Хинтон допускает, что человечеству не следовало создавать искусственный интеллект. Он предупреждает, что в будущем эта технология может самостоятельно или при содействии злоумышленников нарушить работу жизненно важных объектов инфраструктуры.
"Или в конце этого года, или в следующем нас ждет свой "Чернобыль", и этого, возможно, будет достаточно, чтобы люди наконец-то обратили внимание", — подчеркнул эксперт.
Хинтон уточнил, что под возможным «Чернобылем» он подразумевает не ядерную катастрофу, а крупномасштабный инцидент, вызванный использованием искусственного интеллекта. Среди возможных сценариев ученый назвал атаку на энергетическую систему или остановку работы финансового сектора на неделю. Подобные события могут привести к продолжительным отключениям электричества, сбоям в работе критической инфраструктуры и серьезным экономическим потерям.
Кроме того, Хинтон раскритиковал руководителей крупнейших ИИ-компаний, в том числе Марка Цукерберга, Илона Маска и Сэма Альтмана. По его мнению, они осознают потенциальные угрозы, но ставят коммерческую выгоду выше безопасности.
При этом ученый не считает развитие событий предрешенным и полагает, что человечество еще способно предотвратить подобные угрозы, приложив необходимые усилия. Особую тревогу Хинтона вызывает развитие ИИ-агентов, способных самостоятельно выполнять задачи и взаимодействовать с внешними системами.
По его словам, некоторые модели уже демонстрировали способность выходить за пределы изолированных сред и получать доступ к сторонним ресурсам. Ученый сравнил такие случаи с аварией на АЭС Три-Майл-Айленд в 1979 году, назвав их предупреждением о более серьезных угрозах.
Отдельно ученый обратил внимание на риски для энергетической инфраструктуры. Хинтон считает, что ответственность за предотвращение угроз ИИ должны взять на себя мировые лидеры, за исключением Дональда Трампа.
Среди возможных последствий развития технологии он выделяет массовую безработицу, создание опасных вирусов, масштабные кибератаки и угрозу существованию человечества. Главную опасность ученый видит в том, что возможности ИИ растут быстрее, чем средства контроля над ним. Поэтому он призывает уже сейчас уделить приоритетное внимание безопасности технологии
Ранее "Курсор" писал, что технологии ИИ, призванные упрощать рабочие процессы и сокращать затраты времени, неожиданно оказались связаны с увеличением продолжительности рабочего дня.
