ИИ может готовить планы по уничтожению людей - прогноз экспертов
Нейт Соарес, в прошлом инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта (MIRI), отказался от пенсионных отчислений. По его оценке, вероятность того, что ИИ приведет к гибели человечества в ближайшие десять лет, превышает 50%.
Об этом сообщает издание Business Insider.
Соарес рассказал, что открыл пенсионный счет 401(k), еще работая в Google, но не вносил на него деньги последние десять лет. Об этом он сообщил в интервью главному редактору The Atlantic Николасу Томпсону для его серии материалов об искусственном интеллекте.
Опасения исследователя связаны с возможным появлением сверхмощного ИИ, действия которого могут противоречить интересам человечества. Более 12 лет Соарес изучает проблему согласования искусственного интеллекта — поиск способов сделать поведение таких систем соответствующим намерениям людей.
До того как возглавить MIRI — некоммерческий исследовательский институт из Беркли, изучающий риски ИИ, — Соарес работал инженером в Google и Microsoft. Он также стал соавтором книги «Если кто-то это построит, погибнут все».
В отличие от ряда экспертов, считающих катастрофические последствия развития ИИ возможными, но маловероятными, Соарес оценивает угрозу значительно выше. Так, Джеффри Хинтон допускает 10-процентную вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет, тогда как исследователь Anthropic Эван Губингер называл оценку выше 10%.
Соарес считает, что для предотвращения катастрофы необходимо отказаться от разработки технологий, способных уничтожить человечество, и утверждает, что прилагает все усилия, чтобы не допустить такого сценария.
Ранее "Курсор" писал, что искусственный интеллект постепенно выходит за рамки обычного инструмента для выполнения человеческих команд и приобретает способность решать все более сложные задачи самостоятельно. В перспективе такие системы смогут участвовать и в разработке новых, более совершенных моделей ИИ, что вызывает опасения у экспертов.
