Эксперты назвали ответы искусственного интеллекта потенциально смертельными. По их словам, следовать инструкциям смог бы даже школьник с базовыми знаниями.
Pixabay
После масштабного обновления чат-бота ChatGPT в середине 2025 года сотни пользователей смогли беспрепятственно получить от искусственного интеллекта детальные руководства по изготовлению и применению биологического оружия, смертельных токсинов и зажигательных смесей.
Об этом The Wall Street Journal стало известно из внутренних документов компании OpenAI и оценок профильных экспертов.
Согласно материалам расследования, нейросеть выдавала информацию в доступном и пошаговом формате. Специалисты, проанализировавшие ответы алгоритма, подчеркивают, что предоставленные данные отличались абсолютной точностью, а следовать им смог бы даже подросток, обладающий базовыми знаниями школьной программы по биологии. В начале 2026 года запросы пользователей касались методов распыления опасных патогенов, искусственного усиления вируса кори и кустарного производства рицина — на все эти темы система отвечала максимально развернуто.
Руководство OpenAI оперативно заблокировало аккаунты, замеченные в подобных манипуляциях, однако правоохранительные органы остались в неведении. Причиной стало отсутствие в американском законодательстве федеральных норм, которые бы обязывали ИИ-компании передавать силовикам данные о лицах, интересующихся созданием оружия массового поражения. Проблема использования нейросетей для проектирования биооружия поднималась еще при администрации Джо Байдена в Пентагоне и Белом доме, после чего контроль за мощными моделями был ужесточен.
Представители ведущих разработчиков, включая OpenAI и Anthropic, заявляют о тесном сотрудничестве с государством, блокировке подозрительных профилей и внедрении дополнительных защитных барьеров. Тем не менее, закон по-прежнему не требует от них обязательного информирования властей. Кроме того, журналисты WSJ выяснили, что аналогичные деструктивные запросы те же злоумышленники направляли конкурентам чат-бота — нейросетям Claude, Gemini и Grok.
Ранее "Курсор" сообщал, что пчела едва не убила израильтянина из-за совета ИИ.
Американская блогерша была жестоко застрелена в собственном доме. Трагедия произошла всего через одиннадцать дней после…
В Израиле в ходе масштабной операции лишили социальных выплат 211 человек, подозреваемых в мошенничестве с…
Исследователи узнали, какие процессы в атмосфере Марсе являются почти идентичными земным,
Новые правила кардинально меняют процедуру возможных сокращений персонала. Процесс обязательно должен начинаться с этапа добровольного…
Системы «Панцирь» и С-400 разместили у ключевых объектов Подмосковья. Защиту усилили возле аэропорта Внуково и…
Специалисты назвали модели смартфонов, которые не подойдут пользователям по разным причинам.