Внимание пользователям AI: специалисты предупреждают о рисках мошенничества

Искусственный интеллект становится всё более продвинутым и облегчает нашу жизнь. Но, как и любая технология, он может быть использован во зло.

Недавно с этим столкнулся Алекс Ривлин, генеральный директор компании по недвижимости в Лас-Вегасе. Он использовал сервис Google, чтобы найти контактные данные компаний, предлагающих круизы по Карибскому морю. В результате его обманули.

В интервью The Washington Post Ривлин рассказал, что пользовался сервисом AI Overview — тем самым, что отображает краткие сведения в начале страницы результатов поиска Google. Он позвонил по найденному номеру и вскоре обнаружил, что со счёта было списано 768 долларов. Преступники получили данные его кредитной карты во время этого звонка.

По словам экспертов, схема мошенничества знакома. Но теперь она усовершенствована. Мошенники размещают фальшивые номера на различных сайтах и форумах. Когда эти страницы получают большую видимость, системы вроде AI Google могут ошибочно считать информацию достоверной.

«Способность AI критически оценивать информацию, особенно если источники ненадёжные или отсутствуют, вызывает серьёзное беспокойство», — говорят специалисты.

Они отмечают, что риск проявляется уже сейчас в виде мошенничеств. А в будущем опасность возрастёт, учитывая улучшенные возможности искусственного интеллекта.

Ранее Курсор писал, что туристка доверилась совету ChatGPT — и ее отпуск превратился в кошмар.