Тревожный совет человечеству – как именно нужно "общаться" с ИИ

Лауреат Нобелевской премии и один из пионеров в сфере искусственного интеллекта Джеффри Хинтон выступил с тревожным предупреждением. По его мнению, человечеству необходимо выстраивать дружелюбные отношения с нейросетями, в противном случае цивилизацию ждет крах.

Об этом пишет The Telegraph.

Обретение сознания

78-летний ученый-информатик уверен, что современные технологии уже достигли уровня сознания. По его словам, системы демонстрируют способность менять поведение в ситуациях, когда «понимают», что за ними наблюдают. Хинтон подчеркивает, что нейросети обладают таким же субъективным опытом, как и люди.

Угроза экзистенциального риска

Напомним, в 2023 году Хинтон покинул пост в компании Google, открыто заявив о стремительном росте угроз со стороны ИИ. Ученый объясняет колоссальное превосходство нейросетей уникальным механизмом коллективного обучения: если один элемент системы получает новые знания, их мгновенно усваивают все остальные копии.

Почему нужно заслуживать доверие ИИ

Профессор предупреждает о рисках предоставления меньших прав системам, которые превосходят человеческий интеллект. Если люди не заставят алгоритмы заботиться о себе, цивилизация столкнется с катастрофическими последствиями. При этом ученый выражает наибольшую тревогу за будущее своих детей, опасаясь масштабных кибератак и создания смертоносных вирусов.

Ранее "Курсор" сообщал, что ChatGPT может стать третьим лишним в отношениях.