Мошенничество с помощью ИИ – предупреждение израильских экспертов

Современные системы искусственного интеллекта стали не только незаменимыми помощниками в повседневных задачах, но и новой мишенью для киберпреступников. Израильские специалисты по информационной безопасности выявили масштабную и изощренную кампанию, получившую название Dark Sourcery. Злоумышленники научились внедрять вредоносные данные в источники, используемые популярными нейросетями, обманывая пользователей фальшивыми контактами служб поддержки.

Об этом пишет Israel Defense.

Масштаб кампании и методы «отравления» данных

В ходе проведенного исследования эксперты обнаружили следы кибератак против 374 всемирно известных брендов. В список пострадавших и уязвимых компаний попали крупнейшие авиаперевозчики (Lufthansa, United Airlines, Emirates, Qatar Airways, Delta), сервисы бронирования (Airbnb, TripAdvisor), а также ведущие финансовые организации и банки (Chase, Citi, Wells Fargo).

Механизм атаки не связан со взломом самих языковых моделей вроде ChatGPT, Google Gemini или поискового инструмента Google AI Overview. Преступники применяют метод поискового отравления (SEO poisoning): они массово создают фальшивые страницы служб поддержки, оптимизированные под поисковые запросы PDF-файлы, поддельные отзывы и статьи. Когда нейросети сканируют эти скомпрометированные источники для ответа на запрос пользователя, они принимают фальшивую информацию за чистую монету и выдают мошеннические телефонные номера или фишинговые ссылки за официальные контакты компании.

Опасные последствия для пользователей и реакция IT-гигантов

На практике это создает серьезные риски для граждан. Например, путешественник, пытающийся срочно изменить авиабилет через чат с ИИ, может получить номер поддельного колл-центра. Лжеоператоры под видом помощи выманивают данные банковских карт или заставляют платить астрономические комиссии за стандартные услуги.

Когда исследователи обратились к технологическим гигантам, реакция оказалась неоднозначной. Представители Google заявили, что подобные случаи дезинформации не подпадают под их программу раскрытия уязвимостей. В компании OpenAI закрыли обращение из-за сложности стабильного воспроизведения ошибки, поскольку ответы языковых моделей постоянно меняются. Эксперты настоятельно рекомендуют пользователям всегда перепроверять контактные данные служб поддержки напрямую на официальных сайтах компаний, избегая слепого доверия к рекомендациям нейросетей.

Ранее "Курсор" рассказывал, что перед Суккотом аферисты разработали способы добраться до денег израильтян там, где подвоха ожидают меньше всего.