Хуже ядерной войны: об опасности ИИ рассказал Нобелевский лауреат

Один из основателей ИИ и обладатель Нобелевской премии Джеффри Хинтон предупредил, что человечество недооценивает опасность, которую несет развитие ИИ. В интервью телеканалу "CBS" он заявил, что вероятность того, что машины возьмут контроль над людьми, достигает 20%. По его словам, искусственный интеллект — это не просто технология, а потенциальная угроза цивилизационного масштаба.

«Мы выращиваем тигренка. Он может быть милым сейчас, но вы уверены, что он не убьет вас, когда вырастет?» — отметил Хинтон.

Он сравнил ситуацию с искусственным интеллектом с экспериментом, над которым человечество теряет контроль.

77-летний ученый, чьи исследования легли в основу больших языковых моделей, не скрывает разочарования в направлении, куда движется индустрия. Хинтон подчеркнул, что, несмотря на потенциальную пользу ИИ в медицине или экологии, нынешние приоритеты крупных корпораций направлены на прибыль, а не на безопасность.

Особенно он критикует Google, где ранее работал, и обвиняет компанию в отказе от этических стандартов. «Они лоббируют снижение регулирования. Хотя уже сейчас никакого реального контроля нет», — заявил Хинтон.

По его словам, технологические гиганты обязаны выделять не менее трети своих вычислительных ресурсов на безопасность, но на практике эти расходы — символические.

Он добавил, что развитие ИИ идет гораздо быстрее, чем ожидалось. И, как отметил Хинтон, история не знает случаев, когда менее разумные существа удерживали контроль над более разумными. «Мы впервые сталкиваемся с чем-то умнее нас», — заключил он.

Запрос CBS к крупнейшим ИИ-компаниям о доле ресурсов, выделяемых на безопасность, остался без конкретного ответа. Все заявили, что безопасность — важна, но при этом выступили против ужесточения контроля.

Ранее "Курсор" писал, что назван продукт, который повышает риск деменции.