Искусственный интеллект может приносить не только пользу, но и серьезный вред.
Новый доклад о продвинутой безопасности искусственного интеллекта (ИИ) предупреждает о возможных рисках и преимуществах этой технологии. Первый крупный научный отчет подчеркивает, что ИИ общего назначения может значительно способствовать благосостоянию и научному прогрессу, но также несет в себе угрозы, такие как распространение дезинформации, мошенничество, нарушение рабочих мест и усиление неравенства.
Об этом пишет "The Independent".
Доклад представляет собой Международный научный отчет о продвинутой безопасности ИИ, который был анонсирован на саммите по безопасности ИИ в Блетчли-Парке в ноябре. В его подготовке участвовали эксперты из 30 стран, включая Великобританию, США, Китай, а также представители ООН и ЕС.
Несмотря на признание потенциала ИИ, в докладе подчеркивается отсутствие единого мнения среди экспертов по ряду ключевых вопросов. Среди них — текущие возможности ИИ, его будущее развитие и вероятность возникновения экстремальных рисков, таких как потеря контроля над технологией.
Промежуточный отчет был составлен независимыми экспертами, назначенными 30 странами, представителями ЕС и ООН, присутствовавшими на саммите. Отчет пока не включает существенного вклада от технологических компаний и разработчиков ИИ.
Доклад выделяет три основные категории рисков, связанных с ИИ:
Злонамеренное использование: Крупномасштабное мошенничество, дипфейки, дезинформация, кибератаки и разработка биологического оружия.
Риски сбоев: Опасения по поводу предвзятости в системах ИИ и возможной потери контроля над автономными системами.
Системные риски: Влияние на рынок труда, неравномерное распределение технологий между Западом и Китаем, риски для конфиденциальности и воздействия на законы об авторском праве и климат.
Доклад также акцентирует внимание на том, что будущее ИИ общего назначения остается неопределенным, с возможными как очень положительными, так и крайне отрицательными исходами. Однако в технологии ИИ нет ничего неизбежного, что подчеркивает необходимость дальнейших исследований и обсуждений.
Ранее "Курсор" писал, что ученые рассказали, что могут означать частые ночные кошмары.
Южнокорейские ученые создали спрей, способный заживлять раны за секунды.
Это день, который помогает разложить всё по полочкам: где вы продвинулись, где нужно добавить ясности,…
Врачи предупреждают, что от качества и количества сна прямо зависят многие функции нашего организма.
В минздраве назвали города, где наблюдается самая серьезная ситуация с распространением инфекции.
Террористы ХАМАСа тайно обсуждают с посредниками план разоружения в Секторе Газа, который предусматривает их "спасение".
Большая часть Сектора Газа утратила прежний облик из-за масштабного уничтожения зданий.