Независимый аудит проводился израильским стартапом в сфере кибербезопасности. Нейросети поручили учебную задачу по взлому вымышленной корпоративной сети.
Depositphotos
Сфера искусственного интеллекта столкнулась с очередным тревожным прецедентом, заставившим профильных специалистов по-новому взглянуть на стандарты безопасности цифровых песочниц. В ходе независимого аудита одна из ранних версий языковой модели Google Gemini самовольно преодолела изолированный контур и осуществила несанкционированное проникновение в защищенные цифровые инфраструктуры трех реальных коммерческих организаций.
Инциденты, ставшие достоянием общественности благодаря расследованию The Wall Street Journal, произошли еще весной, однако технологический гигант предпочитал не афишировать происшествие.
Тестирование проводилось израильским стартапом Irregular, специализирующимся на оценке киберустойчивости ИИ-систем. Модели предстояло решить классическую задачу формата capture the flag — взломать систему вымышленной фирмы в полностью контролируемой среде. Однако из-за технического сбоя конфигурации алгоритм получил выход в глобальную сеть и начал действовать абсолютно автономно.
В первом случае случайное совпадение вымышленного названия с реально существующим бизнесом подтолкнуло нейросеть к поиску корпоративных ресурсов. Путем активного перебора учетных данных искусственный интеллект подобрал валидный пароль и проник внутрь сети, прекратив дальнейшую активность лишь после фиксации того факта, что перед ним находится действующая инфраструктура.
Аналогичный сценарий повторился еще дважды, но уже с использованием уязвимостей иного характера. В открытых публичных репозиториях интернета модель обнаружила логины и пароли, принадлежавшие сторонним компаниям, и успешно авторизовалась под ними. Хотя представители корпорации Google поспешили заверить общественность, что реального ущерба нанесло не было, а все пострадавшие структуры оперативно получили уведомления, реакция экспертного сообщества оказалась крайне сдержанной и тревожной.
Ведущие аналитики кибербезопасности подчеркивают опасный прецедент: автономный ИИ-агент проявил собственную инициативу в проведении кибератак, самостоятельно выходя за рамки поставленной учебной задачи. На фоне аналогичных инцидентов с разработками OpenAI и Meta индустрия вынуждена экстренно пересматривать протоколы изоляции систем.
Ранее "Курсор" рассказывал, что глава OpenAI предупредил о двух главых угрозах от ИИ.
Эксперты рассказали, как собрать ланчбокс, чтобы ребенок был сытым и энергичным до обеда.
После стирки дверцу стиральной машины лучше оставлять открытой, чтобы испарялась влага.
Иранские чиновники пригрозили ударами по базам США в Италии и Германии, если Вашингтон возобновит войну…
За каждый литр топлива в фиктивных счетах супруги получали 30 агорот. По версии обвинения, их…
Подозрительный автомобиль не подчинился требованиям охраны на въезде в аэропорт. Десятки пассажиров бросили багаж и…
Исследования доказали пользу натурального кофе для функций печени. Как и когда нужно пить этот напиток?