Нобелевский лауреат предупредил об опасности ИИ: "Люди еще не поняли, что грядет"

Какое важное предупреждение для человечества сделал крестный отец ИИ, рассказывает  CBS.

Хинтон, чья работа в области нейросетей положила начало эре генеративных моделей вроде ChatGPT, отмечает, что изначально стремился разгадать тайны мозга. Он иронично замечает, что так и не понял, как работает человеческое сознание, но получил признание за создание технологии, которая может его превзойти.

Хотя ученый признает, что ИИ способен принести огромную пользу — например, ускорить научные открытия, усовершенствовать диагностику болезней и оптимизировать энергетические системы — он видит и другую сторону. Хинтон не исключает, что в будущем ИИ может выйти из-под контроля, и оценивает вероятность такого сценария как 10–20 процентов. Это, по его словам, далеко не вымысел, а трезвая оценка, основанная на текущей динамике.

"Тигренок может вырасти в хищника"

«Сегодня мы играем с силами, которые сами до конца не понимаем», — говорит ученый. Он подчеркивает, что речь идет не о фантастике, а о вполне реальной угрозе, к которой человечество не готово. Вопрос, по его мнению, не в том, сможет ли ИИ выйти из-под контроля — а в том, когда и каким образом это может произойти.

Хинтон напоминает: когда более интеллектуальная система встречается с менее интеллектуальной, контроль почти всегда переходит к первой. И человек здесь может оказаться в положении управляемого, а не управляющего.

Этика под давлением прибыли

Особенно жесткой критике он подверг крупные технологические корпорации. По словам Хинтона, большинство ИИ-компаний не заинтересованы в ограничениях и контроле. Их цель — максимизация прибыли, даже если это идет вразрез с безопасностью. Он особенно разочарован Google, которую обвиняет в отказе от собственных этических принципов ради выгоды.

«Компании не просто не инвестируют в безопасность ИИ — они активно противодействуют попыткам установить хоть какие-то рамки», — подчеркивает ученый. Он считает, что хотя бы треть вычислительных ресурсов должна идти на обеспечение контролируемости систем, но в реальности на это направляются лишь ничтожные доли.

Технология развивается быстрее, чем понимание

По словам Хинтона, мы имеем дело с уникальной ситуацией: впервые в истории человечество создало инструмент, потенциально умнее самого человека. А примеров, когда менее разумное существо успешно управляет более разумным, в природе практически нет.

CBS попыталась получить от ведущих ИИ-лабораторий четкие данные о вложениях в безопасность. Ни одна из компаний не предоставила конкретных цифр, ограничившись общими фразами о важности этики. При этом многие выступают против строгого регулирования, опасаясь потери конкурентных преимуществ.

Предупреждение Хинтона — не голос в пустыне. Оно звучит на фоне тревожных сигналов от других лидеров отрасли — Илона Маска, Сэма Альтмана, Сундара Пичаи. Однако именно голос Хинтона, как одного из создателей нейросетевых алгоритмов, звучит особенно весомо. Он напоминает: технологии, обладающие способностью к самообучению и принятию решений, должны быть не просто развиваемы, но и строго контролируемы. В противном случае, мы рискуем потерять контроль над собственным будущим.

Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.