С целью выявления уязвимостей в генеративном искусственном интеллекте разработчики решили обратиться к хакерскому сообществу. На ежегодной конференции DEFCON в Лас-Вегасе в августе было проведено мероприятие Generative Red Team Challenge.
Об этом пишет "Вusinesswire".
За последний год генеративный ИИ стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ имеют уязвимости и могут быть взломаны, несмотря на применяемые защитные меры.
Для выявления этих уязвимостей разработчики обратились за помощью к хакерскому сообществу. На конференции DEFCON было организовано мероприятие Generative Red Team Challenge.
Около 2200 участников приняли участие в данном мероприятии. В рамках конференции были предложены различные задачи, связанные с взломом генеративного ИИ.
Участники получили 50 минут для выполнения задач. В результате четыре лучших участника были награждены графическими процессорами NVIDIA RTX A6000.
Как отметили организаторы конкурса, в последний год генеративный искусственный интеллект стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ оказались уязвимыми и могут быть взломаны путем обхода защитных мер.
Читайте также: стало известно, как минобразования собирается использовать искусственный интеллект в школах.