Две главные угрозы от ИИ – о чем предупредил глава OpenAI

Вопрос безопасности искусственного интеллекта и контроля над его развитием выходит на новый уровень дискуссий среди технологических лидеров. Генеральный директор OpenAI Сэм Альтман открыто обозначил два катастрофических сценария, которых человечество обязано избежать любой ценой.

Реакция на призыв к замедлению

Дискуссия развернулась после того, как глава компании Anthropic Дарио Амодеи опубликовал программное эссе We Must Pace the Frontier. В своем материале он предложил комплексный план по снижению темпов совершенствования наиболее мощных моделей ради защиты общества от непредсказуемых рисков.

Сэм Альтман публично поддержал инициативу коллеги в соцсети X, отметив необходимость регулирования скорости прогресса. По его словам, OpenAI уже внедряет превентивные меры безопасности, включая углубленный анализ рисков перед запуском обучения передовых систем с подкреплением. При этом глава компании призвал всю индустрию к выработке единых стандартов мониторинга и прозрачного контроля.

Два главных кошмара цифровой эпохи

Позднее Альтман детализировал собственные опасения, выделив два тупиковых пути, способных привести цивилизацию к краху:

• Потеря контроля над будущим ИИ. Главный страх заключается в том, что человечество может утратить рычаги влияния на развитие технологий. Чтобы этого не произошло, методы согласования алгоритмов с человеческими ценностями должны развиваться опережающими темпами.

• Чрезмерная концентрация власти. Альтман предупреждает об угрозе монополизации сверхмощного искусственного интеллекта в руках одного человека или корпорации. Навязывание узкого видения мира всему остальному человечеству чревато построением глубоко антиутопического общества.

Объясняя свою позицию, руководитель OpenAI подчеркнул, что под «замедлением» вовсе не подразумевается полная остановка науки. Прогресс продолжится, но станет более размеренным и контролируемым, а оправданная цена за дополнительную безопасность пойдет на пользу всему миру.

Ранее "Курсор" рассказывал о том, как израильские дети взаимодействуют с ИИ.