ИИ никогда не станет человеком, но его главная опасность уже рядом

Современные системы ИИ способны выполнять все более сложные задачи, однако это еще не означает, что они приближаются к человеческому мышлению. Исследователь Питер Дэннинг считает, что у нейросетей существует фундаментальное ограничение, которое одновременно может стать источником серьезных рисков.

Свои выводы ученый изложил в книге Turing's Mistake: Escaping the Yoke of Unintelligent Machines.

По мнению Дэннинга, одна из главных особенностей человеческого мышления заключается в так называемом неявном знании. Оно формируется на протяжении жизни благодаря личному опыту и позволяет человеку принимать множество решений практически автоматически.

Такое знание сложно сформулировать в виде четких инструкций или правил. Человек понимает окружающий мир не только благодаря полученной информации, но и благодаря собственным ощущениям, социальному взаимодействию и накопленному опыту.

Исследователь выделяет несколько особенно важных составляющих. Среди них практические навыки и представление о физическом мире, интуиция, творческое воображение, невербальное общение, а также понимание культурной и социальной среды.

Современные нейросети, напротив, в значительной степени работают с огромными объемами информации и закономерностями, обнаруженными в данных. Это позволяет им создавать тексты, анализировать информацию и решать различные задачи, однако не дает человеческого жизненного опыта.

Особенно заметна эта разница при общении. Одно и то же высказывание может приобретать совершенно разный смысл в зависимости от ситуации, предыдущего разговора, культурной среды, юмора, сарказма или намерений собеседника.

Человек способен учитывать множество подобных факторов одновременно, зачастую даже не задумываясь об этом. Для искусственного интеллекта полноценное понимание такого контекста остается значительно более сложной задачей.

Главная опасность может быть другой

Дэннинг считает, что общественное внимание слишком часто сосредоточено на сценарии, при котором искусственный интеллект однажды станет умнее человека.

По его мнению, более практический риск заключается в другом: мощные компьютерные системы могут получать все больше возможностей, при этом оставаясь ограниченными в понимании человеческих ценностей, намерений и обстоятельств.

В таком случае проблема возникает не из-за того, что машина становится «слишком умной». Напротив, система может быстро обрабатывать информацию и эффективно выполнять поставленную задачу, но неверно интерпретировать ситуацию или не учитывать важные для человека последствия.

Чем больше решений передается подобным системам, тем существеннее становится значение этих ограничений.

При этом утверждение о невозможности превосходства ИИ над человеком остается позицией самого исследователя, а не установленным научным фактом. Споры о перспективах развития искусственного интеллекта и возможности появления систем с более универсальными интеллектуальными способностями продолжаются.

Ранее "Курсор" писал, что эксперты рассказали, что будет, если не обновлять операционную систему на компьютере.