За это им еще и призы выдали.
Pixabay
С целью выявления уязвимостей в генеративном искусственном интеллекте разработчики решили обратиться к хакерскому сообществу. На ежегодной конференции DEFCON в Лас-Вегасе в августе было проведено мероприятие Generative Red Team Challenge.
Об этом пишет "Вusinesswire".
За последний год генеративный ИИ стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ имеют уязвимости и могут быть взломаны, несмотря на применяемые защитные меры.
Для выявления этих уязвимостей разработчики обратились за помощью к хакерскому сообществу. На конференции DEFCON было организовано мероприятие Generative Red Team Challenge.
Около 2200 участников приняли участие в данном мероприятии. В рамках конференции были предложены различные задачи, связанные с взломом генеративного ИИ.
Участники получили 50 минут для выполнения задач. В результате четыре лучших участника были награждены графическими процессорами NVIDIA RTX A6000.
Как отметили организаторы конкурса, в последний год генеративный искусственный интеллект стал все более популярным, и многие компании активно внедряют его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других видов мошенничества. Большинство генеративных ИИ оказались уязвимыми и могут быть взломаны путем обхода защитных мер.
Читайте также: стало известно, как минобразования собирается использовать искусственный интеллект в школах.
Недавний взрыв ракеты New Glenn серьезно подорвал планы Blue Origin по освоению Луны, что вынуждает…
Группа биологов успешно применила шпороносных черепах для естественного разрыхления иссушенного грунта и борьбы с опустыниванием…
Интуиция и телесные сигналы: как распознать токсичную энергию в своем окружении и защитить личные границы.
Исследование показало, что некоторые особенности личности могут существенно повышать риск хронической бессонницы и тревожности.
Масштабное исследование выявило связь между частым употреблением сладких напитков и повышенным риском опасных заболеваний печени.
Это день точных решений: лучше закрыть главное, разгрузить пятницу и оставить себе ресурс на выходные,…