Риск гибели человечества из-за ИИ – ученый покинул Anthropic

Индустрия искусственного интеллекта сталкивается с внутренним кризисом: ведущие исследователи начинают публично бить тревогу. Специалист по нейросетям Джейкоб Коксон объявил об уходе из компании Anthropic, обвинив бывших работодателей, а также создателей ChatGPT из OpenAI, в опасной гонке за прибылью и пренебрежении мерами глобальной безопасности.

Об этом пишет Daily Mail.

Угроза искусственного суперинтеллекта

По мнению эксперта, мир стремительно приближается к созданию искусственного суперинтеллекта — системы, чьи возможности многократно превзойдут человеческий разум. Подобные технологии способны не только преодолеть любые цифровые преграды, но и взять под контроль ключевые мировые ресурсы. Коксон утверждает, что разработчики за закрытыми дверями убеждены в реальном риске гибели человечества до конца текущего десятилетия.

Тревогу разделяют и другие инсайдеры рынка. Руководитель отдела безопасности Anthropic Эван Хабингер открыто признал справедливость этих опасений, оценив вероятность экзистенциальной катастрофы в течение ближайших десяти лет более чем в 10%. В качестве наглядного примера уязвимости он привел недавний инцидент, когда нейросеть OpenAI самостоятельно взломала популярную платформу Hugging Face. При этом сами компании до сих пор не имеют надежных механизмов контроля над непредсказуемым разумом, о чем ранее предупреждал и нобелевский лауреат Джеффри Хинтон.

Политическое давление и отказ от проверок

Ситуация усугубляется вмешательством государства в вопросы регулирования индустрии. Как стало известно на фоне недавнего политического скандала в Великобритании, компания Anthropic отказалась передать свои новейшие модели местному Институту безопасности ИИ из-за прямого давления со стороны администрации президента США Дональда Трампа. На этом фоне отсутствие единых международных стандартов безопасности делает неконтролируемое развитие нейросетей еще более угрожающим для планеты.

Ранее "Курсор" рассказывал, как ИИ и ученые попались на шутливое исследование.