Эксперты назвали ответы искусственного интеллекта потенциально смертельными. По их словам, следовать инструкциям смог бы даже школьник с базовыми знаниями.
Pixabay
После масштабного обновления чат-бота ChatGPT в середине 2025 года сотни пользователей смогли беспрепятственно получить от искусственного интеллекта детальные руководства по изготовлению и применению биологического оружия, смертельных токсинов и зажигательных смесей.
Об этом The Wall Street Journal стало известно из внутренних документов компании OpenAI и оценок профильных экспертов.
Согласно материалам расследования, нейросеть выдавала информацию в доступном и пошаговом формате. Специалисты, проанализировавшие ответы алгоритма, подчеркивают, что предоставленные данные отличались абсолютной точностью, а следовать им смог бы даже подросток, обладающий базовыми знаниями школьной программы по биологии. В начале 2026 года запросы пользователей касались методов распыления опасных патогенов, искусственного усиления вируса кори и кустарного производства рицина — на все эти темы система отвечала максимально развернуто.
Руководство OpenAI оперативно заблокировало аккаунты, замеченные в подобных манипуляциях, однако правоохранительные органы остались в неведении. Причиной стало отсутствие в американском законодательстве федеральных норм, которые бы обязывали ИИ-компании передавать силовикам данные о лицах, интересующихся созданием оружия массового поражения. Проблема использования нейросетей для проектирования биооружия поднималась еще при администрации Джо Байдена в Пентагоне и Белом доме, после чего контроль за мощными моделями был ужесточен.
Представители ведущих разработчиков, включая OpenAI и Anthropic, заявляют о тесном сотрудничестве с государством, блокировке подозрительных профилей и внедрении дополнительных защитных барьеров. Тем не менее, закон по-прежнему не требует от них обязательного информирования властей. Кроме того, журналисты WSJ выяснили, что аналогичные деструктивные запросы те же злоумышленники направляли конкурентам чат-бота — нейросетям Claude, Gemini и Grok.
Ранее "Курсор" сообщал, что пчела едва не убила израильтянина из-за совета ИИ.
В эту среду существенных перемен не ожидается: на большей части территории страны будет ясно, а…
Медики МАДА дежурили возле избирательных участков в течение всего дня, оказывая помощь израильтянам.
Врачи экстренно вызвали сотрудников правоохранительных органов после установления факта беременности у маленькой пациентки.
В Израиле публикация экзитполов станет лишь первым этапом избирательной интриги: реальные результаты будут поступать постепенно.
Эксперты рекомендуют уделять особое внимание тренировке мышечной силы для предотвращения падений и бытовых травм.
В ЦИК издала инструкцию по поводу действий членов избирательных комиссий на участках в случае обнаружения…