Обычный на первый взгляд запрос помог выявить неожиданную особенность работы защитных механизмов ChatGPT.
Pixabay
Исследователь в области кибербезопасности обнаружил уязвимость в ChatGPT, которая позволяла получить доступ к внутренним системным файлам через специально сформированный диалог. В OpenAI подтвердили проблему и сообщили, что уже устранили ее.
Как сообщает "Cyber Press", исследователь под псевдонимом zer0dac выявил комбинацию уязвимостей, связанных с механизмами локального доступа к файлам и обходом ограничений директорий. По его словам, атака была направлена на функцию Code Interpreter и систему обработки загружаемых файлов.
Специалист утверждает, что сумел обойти существующие ограничения без использования вредоносного кода. Для этого применялись методы социальной инженерии и специально составленные текстовые запросы, которые заставляли систему обращаться к внутренним файлам из изолированной среды.
В ходе эксперимента исследователь получил доступ к структуре служебной среды ChatGPT и смог открыть системный файл, традиционно используемый для проверки подобных уязвимостей. По его словам, это продемонстрировало, что даже обычный текстовый диалог при определенных условиях способен обойти отдельные механизмы защиты.
В OpenAI заявили, что после получения сообщения об уязвимости специалисты оперативно переработали механизм обработки файлов по URL и закрыли выявленные сценарии атаки. При этом компания подчеркнула, что инцидент не привел к утечке персональных данных пользователей, поскольку доступ был ограничен изолированной средой выполнения, не связанной с основными серверами сервиса.
По мнению исследователя, подобные ошибки требуют особого внимания, поскольку в отдельных случаях могут стать отправной точкой для более сложных атак на системы искусственного интеллекта.
Ранее "Курсор" писал, что названы признаки прослушки смартфона.
Группировка Хизбалла готовится к атакам на Израиль путем изменения тактики боевых действий в Ливане.
Закрытые переговоры арабских лидеров с Дональдом Трампом могут повлиять на его отношение к Нетаниягу.
Даже незначительное недосыпание может повлиять на тело быстрее, чем кажется.
В египетских медиа обвинили Иран в отказе наносить удары по Израилю и терроризме в регионе.
Какие продукты позитивно влияют на женский организм, поддерживают гормональный баланс и продлевают молодость.
По итогам тендера только небольшая часть электроэнергии по льготной цене будет доступна бытовым потребителям.