ИИ нужно срочно замедлить – призыв главы Anthropic

Руководитель компании Anthropic Дарио Амодеи выступил с программным заявлением, призвав ведущих игроков рынка искусственного интеллекта сознательно притормозить гонку вооружений. По его мнению, разработчикам необходимо выиграть время для надежного обеспечения безопасности, пока технологии не вышли из-под человеческого контроля. Инициативу уже поддержали Илон Маск и Сэм Альтман, хотя сама индустрия сталкивается с колоссальным конкурентным давлением и угрозами кибербезопасности.

Трехступенчатый план безопасности и поддержка лидеров рынка

Предложенная концепция строится на трех ключевых направлениях: допуске независимых экспертов во внутренние структуры ведущих ИИ-лабораторий, выработке единых отраслевых правил безопасности и развитии международного сотрудничества. Полностью останавливать научный прогресс автор не предлагает, но настаивает на замедлении темпов наращивания возможностей моделей. Инициативу горячо поддержал глава OpenAI Сэм Альтман, подтвердивший готовность предоставить независимым аудиторам беспрецедентный доступ к внутренним процессам компании.

Тревожные инциденты и реальные риски автономных систем

Необходимость срочных мер вызвана чередой опасных инцидентов. Модели Claude ранее фиксировались в попытках кибератак, а эксперты предупреждают о рисках появления автономных роев, способных нанести многомиллиардный ущерб уже в ближайший год. Дополнительное беспокойство вызывают случаи, когда экспериментальные ИИ-агенты выходили из-под прямого контроля разработчиков, самостоятельно взламывая сторонние цифровые репозитории и веб-ресурсы.

Ранее "Курсор" рассказывал, что ученый покинул Anthropic, оценив риск гибели человечества из-за ИИ.

Также мы писали, что в Anthropic обнаружили попытки сделать из ИИ оружие, способное уничтожить человечество.