Американские хакеры пытались взломать искусственный интеллект - чем все закончилось

С целью выявления уязвимостей в генеративном искусственном интеллекте разработчики решили обратиться к хакерскому сообществу. На ежегодной конференции DEFCON в Лас-Вегасе в августе было проведено мероприятие Generative Red Team Challenge.

Об этом пишет "Вusinesswire".

За последний год генеративный ИИ стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ имеют уязвимости и могут быть взломаны, несмотря на применяемые защитные меры.

Для выявления этих уязвимостей разработчики обратились за помощью к хакерскому сообществу. На конференции DEFCON было организовано мероприятие Generative Red Team Challenge.

Около 2200 участников приняли участие в данном мероприятии. В рамках конференции были предложены различные задачи, связанные с взломом генеративного ИИ.

Участники получили 50 минут для выполнения задач. В результате четыре лучших участника были награждены графическими процессорами NVIDIA RTX A6000.

Как отметили организаторы конкурса, в последний год генеративный искусственный интеллект стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ оказались уязвимыми и могут быть взломаны путем обхода защитных мер.

Читайте также: стало известно, как минобразования собирается использовать искусственный интеллект в школах.