Творец ChatGPT признал, что ИИ может "случайно" захватить мир
Генеральный директор OpenAI Сэм Альтман, возглавляющий компанию, создавшую ChatGPT, поделился своими размышлениями о том, каким может стать ближайшее будущее искусственного интеллекта. По его словам, существует риск, что ИИ «непреднамеренно возьмёт верх над миром» — но не в фантастическом смысле восстания машин.
В беседе в подкасте MD MEETS Альтман уточнил, что под «захватом» он имеет в виду постепенное и почти незаметное подчинение человеческих привычек, решений и образа жизни работе алгоритмов. «Сейчас сотни миллионов людей активно используют ChatGPT, а через несколько лет счёт пойдёт на миллиарды. Сначала люди обращаются за советом к ИИ осознанно, потом это превращается в автоматическую привычку», — отметил глава OpenAI.
По его словам, пользователи становятся всё сильнее зависимыми от подсказок и решений, предлагаемых нейромоделями. Это формирует своеобразный цикл: чем больше люди доверяют ИИ и делегируют ему часть своих задач, тем быстрее он обучается и совершенствуется. В итоге, как подчеркнул Альтман, можно даже не заметить момент, когда модели начнут фактически направлять наши выборы, влияя на повседневные решения, мировоззрение и поведение.
Дополнительная информация по теме: эксперты в сфере цифровой этики уже давно предупреждают о рисках «тихой автоматизации» человеческого мышления. Постепенная передача рутинных и интеллектуальных задач ИИ может привести к снижению критического мышления, а также к росту информационных пузырей, когда алгоритмы «подстраивают» мир под предпочтения пользователя. На этом фоне всё громче звучат дискуссии о необходимости прозрачных правил для ИИ, обязательной маркировки ИИ-контента и развитии цифровой гигиены, чтобы сохранить человеческий контроль над технологиями, а не наоборот.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
