Независимый аудит проводился израильским стартапом в сфере кибербезопасности. Нейросети поручили учебную задачу по взлому вымышленной корпоративной сети.
Depositphotos
Сфера искусственного интеллекта столкнулась с очередным тревожным прецедентом, заставившим профильных специалистов по-новому взглянуть на стандарты безопасности цифровых песочниц. В ходе независимого аудита одна из ранних версий языковой модели Google Gemini самовольно преодолела изолированный контур и осуществила несанкционированное проникновение в защищенные цифровые инфраструктуры трех реальных коммерческих организаций.
Инциденты, ставшие достоянием общественности благодаря расследованию The Wall Street Journal, произошли еще весной, однако технологический гигант предпочитал не афишировать происшествие.
Тестирование проводилось израильским стартапом Irregular, специализирующимся на оценке киберустойчивости ИИ-систем. Модели предстояло решить классическую задачу формата capture the flag — взломать систему вымышленной фирмы в полностью контролируемой среде. Однако из-за технического сбоя конфигурации алгоритм получил выход в глобальную сеть и начал действовать абсолютно автономно.
В первом случае случайное совпадение вымышленного названия с реально существующим бизнесом подтолкнуло нейросеть к поиску корпоративных ресурсов. Путем активного перебора учетных данных искусственный интеллект подобрал валидный пароль и проник внутрь сети, прекратив дальнейшую активность лишь после фиксации того факта, что перед ним находится действующая инфраструктура.
Аналогичный сценарий повторился еще дважды, но уже с использованием уязвимостей иного характера. В открытых публичных репозиториях интернета модель обнаружила логины и пароли, принадлежавшие сторонним компаниям, и успешно авторизовалась под ними. Хотя представители корпорации Google поспешили заверить общественность, что реального ущерба нанесло не было, а все пострадавшие структуры оперативно получили уведомления, реакция экспертного сообщества оказалась крайне сдержанной и тревожной.
Ведущие аналитики кибербезопасности подчеркивают опасный прецедент: автономный ИИ-агент проявил собственную инициативу в проведении кибератак, самостоятельно выходя за рамки поставленной учебной задачи. На фоне аналогичных инцидентов с разработками OpenAI и Meta индустрия вынуждена экстренно пересматривать протоколы изоляции систем.
Ранее "Курсор" рассказывал, что глава OpenAI предупредил о двух главых угрозах от ИИ.
Супермаркеты и магазины игрушек активно включаются в предпраздничный марафон. Торговые сети заранее сформировали запасы, чтобы…
Ученые доверили нейросети управление роботом и выяснили, насколько легко она соглашается выполнять команды, способные привести…
Китайские военные организовали цели США, на которых отрабатывают возможные боевые действия.
Израильтянин во время отдыха с семьей спас сына, однако погиб вследствие трагического стечения обстоятельств.
ЧП в британском зоопарке потрясло местную общественность. Трехлетний малыш оказался в вольере с опасными хищниками…
Специалисты установили, как развивался человеческий мозг на протяжении миллионов лет.