Представьте, что с ним может сделать путин, - создатель ИИ сожалеет о своей разработке

Джеффри Хилтон, известный как основоположник искусственного интеллекта, покинул компанию Google и выразил озабоченность относительно своего изобретения. Хилтон предупредил об опасности, которую оно представляет.

Об этом пишет "ВВС".

Он отметил, что нейронные сети, ChatGPT и чат-боты все быстрее развиваются, и в скором времени они достигнут уровня человеческого интеллекта. Хилтон призвал к осторожности и сказал, что сожалеет о создании этой технологии.

"На самом деле я пошел, чтобы говорить об опасности искусственного интеллекта, не рассматривая, как это влияет на Google ", – признался Джеффри.

Хилтон считают основателем искусственного интеллекта, в частности, нейронных сетей и глубинного обучения. Тем не менее, он отметил, что такие технологии могут стать инструментом в "плохих" руках, используемым для победы в войнах или манипулирования электоратом.

"Это лишь худший сценарий - сценарий кошмара. Вы можете себе представить, что, например, какой-то плохой деятель, как путин, решил дать работам возможность создавать собственные подцели вроде "Мне нужно получить больше власти", - подчеркнул основатель ИИ.

Он уверен, что обучение искусственному интеллекту отличается от человеческого.

"Большая разница заключается в том, что с цифровыми системами у вас есть много копий того же набора весов, той же модели мира. Они могут учиться по отдельности, но мгновенно делиться своими знаниями. Таким образом, это так, будто у вас есть 10 000 человек, и каждый раз, когда один человек чего-то узнает, все это автоматически узнают. И именно поэтому эти чат-боты могут знать гораздо больше, чем любое лицо", - подчеркнул Хилтон.

В конце марта 2023 года подписано открытое письмо, где Илон Маск, Стив Возняк, Эндрю Янг и более тысячи других технических лидеров призывали к мораторию на создание мощных систем искусственного интеллекта. Они высказывали опасения о "больших рисках для общества", связанных с этими технологиями.