В ChatGPT обнаружили опасную уязвимость, позволявшую обойти защиту

Исследователь в области кибербезопасности обнаружил уязвимость в ChatGPT, которая позволяла получить доступ к внутренним системным файлам через специально сформированный диалог. В OpenAI подтвердили проблему и сообщили, что уже устранили ее.

Как сообщает "Cyber Press", исследователь под псевдонимом zer0dac выявил комбинацию уязвимостей, связанных с механизмами локального доступа к файлам и обходом ограничений директорий. По его словам, атака была направлена на функцию Code Interpreter и систему обработки загружаемых файлов.

Специалист утверждает, что сумел обойти существующие ограничения без использования вредоносного кода. Для этого применялись методы социальной инженерии и специально составленные текстовые запросы, которые заставляли систему обращаться к внутренним файлам из изолированной среды.

В ходе эксперимента исследователь получил доступ к структуре служебной среды ChatGPT и смог открыть системный файл, традиционно используемый для проверки подобных уязвимостей. По его словам, это продемонстрировало, что даже обычный текстовый диалог при определенных условиях способен обойти отдельные механизмы защиты.

В OpenAI заявили, что после получения сообщения об уязвимости специалисты оперативно переработали механизм обработки файлов по URL и закрыли выявленные сценарии атаки. При этом компания подчеркнула, что инцидент не привел к утечке персональных данных пользователей, поскольку доступ был ограничен изолированной средой выполнения, не связанной с основными серверами сервиса.

По мнению исследователя, подобные ошибки требуют особого внимания, поскольку в отдельных случаях могут стать отправной точкой для более сложных атак на системы искусственного интеллекта.

Ранее "Курсор" писал, что названы признаки прослушки смартфона.