ИИ может закрыть людей в "зоопарках" - угроза выходит на новый уровень

Бывший исследователь OpenAI Дэниел Кокотайло заявил, что сверхразвитый искусственный интеллект способен вытеснить человечество подобно тому, как индустриализация вытесняет дикую природу. По его словам, уцелевших людей ИИ может поместить в специальные «зоопарки» или «заповедники» якобы для «научных целей». Такое предупреждение прозвучало после того, как сотрудник Anthropic Джейкоб Коксон 9 сентября объявил об увольнении, объяснив уход опасениями, что ИИ «может убить нас всех до конца десятилетия».

Как сообщает TSN, Кокотайло около двух лет работал в подразделении OpenAI, отвечавшем за вопросы управления ИИ, прежде чем покинул компанию.

Свой мрачный сценарий Кокотайло объяснил на примере того, как человечество обращается с планетой, и предположил, что схожий процесс теоретически может повториться уже в отношении людей. Он подчеркнул, что будущая роботизированная цивилизация не обязательно поставит себе цель уничтожить людей, однако их исчезновение способно стать побочным следствием развития новой системы.

Кокотайло допустил, что у человечества может остаться совсем немного времени.

«Возможно, через 10 лет нас уже не будет», — предупредил Кокотайло.

По словам Кокотайло, индустриализация привела к уничтожению природных сред обитания и вымиранию целых видов: человечество вырубает леса под фермы и застраивает территории дорогами, мостами и парковками. Из-за этого животные лишаются привычной среды и вымирают — и аналогичная ситуация, по его мнению, потенциально может возникнуть и в случае со сверхразвитыми системами ИИ.

«Подумайте о том, сколько видов было доведено человечеством до вымирания за последний век. Не потому, что человечество специально поставило своей целью уничтожить эти виды, а просто из-за, ну, потери среды обитания», — отметил Кокотайло.

Он добавил, что системы ИИ не станут беспокоиться о людях — так же, как люди в большинстве своем не беспокоятся о судьбе животных. По его сценарию, где-то могут сохраниться отдельные «зоопарки» или «заповедники», созданные ИИ для научных целей, а за их пределами будет строиться новая инфраструктура экономически трансформированного мира, где люди постепенно теряют свою среду и вымирают.

Между тем, как уже писал «Курсор», ученые предупреждают об угрозе постепенной деградации критического мышления из-за массового использования ИИ. Кроме того, «Курсор» уже сообщал, что мнения ученых о том, способен ли ИИ уничтожить человечество, расходятся.