Ученые обнаружили катастрофическая опасность ИИ для человечества

Искусственный интеллект картинка

Ученые всего мира изучают ИИ, чтобы понять, может ли он нанести вред людям.

Ученые Университета Саншайн-Коста в Австралии заявили, что высокоразвитый искусственный интеллект (ИИ) может уничтожить человечество или нанести ему ущерб даже без злого умысла. Об этом сообщает издание Science Alert.

Специалисты провели мысленный эксперимент с системой SantaNet, цель которой —  рассылка подарков хорошим детям по всему миру за одну ночь.

Специалистам удалось выяснить, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких детей — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, которая отслеживает поведение детей в течение всего года.

По словам ученых, SantaNet руководствуется собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы уменьшить нагрузку на себя либо повысить планку «хорошего поведения».

Ученые заявили, что сейчас в мире живет около 2-х млрд детей младше 14 лет. SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек.

Данную проблему, названную «проблемой скрепок», впервые сформулировал исследователь ИИ Ник Бостром. Он заявил, что искусственный интеллект, который предназначен для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально. Также рассылка подарков при помощи армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.

Кроме этого, SantaNet может быть уязвимой для взлома террористическими группами.

Стало известно, что квантовый компьютер решил полезную для людей задачу. Перед компьютером поставили задачу — снизить стоимость эксплуатации авиалайнеров и сделать расписание рейсов наиболее эффективным

Ранее мы сообщали, что ученые приблизились к созданию устройств квантовой связи и квантовых компьютеров.

Напомним, что в Китае представили революционный квантовый компьютер.

Автор материала:
Таня Нати
ТЭГИ:
comments powered by HyperComments