ИИ способен убить человечество новым оружием - тревожные данные

Компания Anthropic выявила и заблокировала попытки задействовать ее ИИ-модель для разработки биологического оружия и кибершпионажа. Случай усилил опасения экспертов относительно возможных крайне серьезных последствий стремительного развития искусственного интеллекта.

Об этом сообщает телеканал BBC.

Anthropic опубликовала новый отчет об угрозах, связанных с использованием ИИ. В документе говорится, что модель Claude применялась в кибершпионской операции, связанной с Россией, а также использовалась иранской пропагандистской организацией.

За последние восемь месяцев Anthropic выявила множество способов злоупотребления ИИ. Технологию использовали для создания поддельных приложений для знакомств, мошенничества через гостиничные Wi-Fi-сети и разработки систем слежения за диссидентами.

Компания также сообщила о попытках китайских разработчиков ИИ скопировать возможности модели Claude. В отчете приведены случаи неправомерного использования технологий компании. По данным разработчика, к ним могли иметь отношение государственные структуры, киберпреступники, создатели шпионского ПО, пропагандистские организации и политически мотивированные группы.

По данным Anthropic, с декабря 2025 года по август 2026-го компания выявила и пресекла случаи злоупотребления моделями Claude Haiku, Sonnet и Opus. При этом модели Claude Fable и более мощного класса Mythos не фигурировали в таких инцидентах, за исключением одного случая "дистилляции" — обучения менее мощной ИИ-модели с использованием возможностей более крупной.

В Anthropic заявили, что Claude применяли не только для кибератак, пропаганды, слежки и мошенничества, но и в работе, потенциально связанной с созданием биологического оружия. Компания блокировала доступ исследователей, использовавших ИИ для подобных целей.

В Anthropic считают такие злоупотребления одним из наиболее серьезных рисков для передовых ИИ-моделей, способным без надежных ограничений привести к катастрофическим последствиям.

Компания также выявила шесть случаев использования Claude для разработки ПО, связанного с обычными вооружениями. Среди них были системы для огнестрельного оружия, ракет, ударных дронов, бомб и боеприпасов, а также технологии наведения и управления.

Anthropic сообщает, что киберпреступники и связанные с государствами хакерские группы все чаще используют ее ИИ. В отчете упомянуты ShinyHunters, китайские структуры и группа, которую связывают с Россией.

По данным компании, последняя с помощью ИИ разработала систему, способную автоматически менять вредоносный код, пока антивирусы и другие средства защиты не перестанут его обнаруживать.

Это первый отчет Anthropic об угрозах за 2026 год. Он появился после предупреждения ведущего исследователя компании по безопасности: по его оценке, вероятность того, что ИИ в течение следующего десятилетия уничтожит человечество, превышает 10%.

Ранее "Курсор" писал, что ИИ быстро становится частью повседневной жизни, но вместе с его развитием расширяется и спектр связанных с ним угроз. Еще недавно некоторые из них казались фантастикой, а сегодня уже используются злоумышленниками и становятся предметом серьезного изучения.