Появление искусственного суперинтеллекта несет экзистенциальную угрозу. Машины смогут обойти любые защиты и захватить контроль над планетой.
Pixabay
Индустрия искусственного интеллекта сталкивается с внутренним кризисом: ведущие исследователи начинают публично бить тревогу. Специалист по нейросетям Джейкоб Коксон объявил об уходе из компании Anthropic, обвинив бывших работодателей, а также создателей ChatGPT из OpenAI, в опасной гонке за прибылью и пренебрежении мерами глобальной безопасности.
Об этом пишет Daily Mail.
По мнению эксперта, мир стремительно приближается к созданию искусственного суперинтеллекта — системы, чьи возможности многократно превзойдут человеческий разум. Подобные технологии способны не только преодолеть любые цифровые преграды, но и взять под контроль ключевые мировые ресурсы. Коксон утверждает, что разработчики за закрытыми дверями убеждены в реальном риске гибели человечества до конца текущего десятилетия.
Тревогу разделяют и другие инсайдеры рынка. Руководитель отдела безопасности Anthropic Эван Хабингер открыто признал справедливость этих опасений, оценив вероятность экзистенциальной катастрофы в течение ближайших десяти лет более чем в 10%. В качестве наглядного примера уязвимости он привел недавний инцидент, когда нейросеть OpenAI самостоятельно взломала популярную платформу Hugging Face. При этом сами компании до сих пор не имеют надежных механизмов контроля над непредсказуемым разумом, о чем ранее предупреждал и нобелевский лауреат Джеффри Хинтон.
Ситуация усугубляется вмешательством государства в вопросы регулирования индустрии. Как стало известно на фоне недавнего политического скандала в Великобритании, компания Anthropic отказалась передать свои новейшие модели местному Институту безопасности ИИ из-за прямого давления со стороны администрации президента США Дональда Трампа. На этом фоне отсутствие единых международных стандартов безопасности делает неконтролируемое развитие нейросетей еще более угрожающим для планеты.
Ранее "Курсор" рассказывал, как ИИ и ученые попались на шутливое исследование.
В системе безопасности были приняты экстренные меры на фоне возможности атаки со стороны Ирана в…
В Adidas обратились к бойцу ЦАХАЛа с тяжелой травмой, который был героем одной из реклам.
После 50 лет знакомства в интернете могут быть не менее увлекательными, чем в молодости, уверяют…
Какой завтрак способствует здоровью и бодрости в течение дня, а также может помочь прожить долгую…
Установить контакт и добиться расположения человека довольно просто, уверены психологи, главное условие - искренне им…
Центральная окружная прокуратура передала дело в судебные инстанции. 31-летней злоумышленнице инкриминируют не менее шестнадцати эпизодов.