Эксперты назвали ответы искусственного интеллекта потенциально смертельными. По их словам, следовать инструкциям смог бы даже школьник с базовыми знаниями.
Pixabay
После масштабного обновления чат-бота ChatGPT в середине 2025 года сотни пользователей смогли беспрепятственно получить от искусственного интеллекта детальные руководства по изготовлению и применению биологического оружия, смертельных токсинов и зажигательных смесей.
Об этом The Wall Street Journal стало известно из внутренних документов компании OpenAI и оценок профильных экспертов.
Согласно материалам расследования, нейросеть выдавала информацию в доступном и пошаговом формате. Специалисты, проанализировавшие ответы алгоритма, подчеркивают, что предоставленные данные отличались абсолютной точностью, а следовать им смог бы даже подросток, обладающий базовыми знаниями школьной программы по биологии. В начале 2026 года запросы пользователей касались методов распыления опасных патогенов, искусственного усиления вируса кори и кустарного производства рицина — на все эти темы система отвечала максимально развернуто.
Руководство OpenAI оперативно заблокировало аккаунты, замеченные в подобных манипуляциях, однако правоохранительные органы остались в неведении. Причиной стало отсутствие в американском законодательстве федеральных норм, которые бы обязывали ИИ-компании передавать силовикам данные о лицах, интересующихся созданием оружия массового поражения. Проблема использования нейросетей для проектирования биооружия поднималась еще при администрации Джо Байдена в Пентагоне и Белом доме, после чего контроль за мощными моделями был ужесточен.
Представители ведущих разработчиков, включая OpenAI и Anthropic, заявляют о тесном сотрудничестве с государством, блокировке подозрительных профилей и внедрении дополнительных защитных барьеров. Тем не менее, закон по-прежнему не требует от них обязательного информирования властей. Кроме того, журналисты WSJ выяснили, что аналогичные деструктивные запросы те же злоумышленники направляли конкурентам чат-бота — нейросетям Claude, Gemini и Grok.
Ранее "Курсор" сообщал, что пчела едва не убила израильтянина из-за совета ИИ.
После отказа США Саудовская Аравия обратилась к другому союзнику, но его ответ поставил под сомнение…
Охлаждение поврежденного участка слишком холодной водой лишь замедляет процесс заживления кожи.
Производство работает круглосуточно, но затяжная война заставляет Израиль постоянно искать способ быстрее пополнять стратегические запасы.
Трамп не намерен втягивать США в новую войну с хуситами, несмотря на просьбы Саудовской Аравии…
Сентябрь задаст практичный ритм и заставит многих сосредоточиться на работе, деньгах и незавершённых обязательствах.
Итай Персон пропал после поездки на пляж в Хайфе, а спустя несколько дней поисков полиция…