Искусственный интеллект может приносить не только пользу, но и серьезный вред.
Новый доклад о продвинутой безопасности искусственного интеллекта (ИИ) предупреждает о возможных рисках и преимуществах этой технологии. Первый крупный научный отчет подчеркивает, что ИИ общего назначения может значительно способствовать благосостоянию и научному прогрессу, но также несет в себе угрозы, такие как распространение дезинформации, мошенничество, нарушение рабочих мест и усиление неравенства.
Об этом пишет "The Independent".
Доклад представляет собой Международный научный отчет о продвинутой безопасности ИИ, который был анонсирован на саммите по безопасности ИИ в Блетчли-Парке в ноябре. В его подготовке участвовали эксперты из 30 стран, включая Великобританию, США, Китай, а также представители ООН и ЕС.
Несмотря на признание потенциала ИИ, в докладе подчеркивается отсутствие единого мнения среди экспертов по ряду ключевых вопросов. Среди них — текущие возможности ИИ, его будущее развитие и вероятность возникновения экстремальных рисков, таких как потеря контроля над технологией.
Промежуточный отчет был составлен независимыми экспертами, назначенными 30 странами, представителями ЕС и ООН, присутствовавшими на саммите. Отчет пока не включает существенного вклада от технологических компаний и разработчиков ИИ.
Доклад выделяет три основные категории рисков, связанных с ИИ:
Злонамеренное использование: Крупномасштабное мошенничество, дипфейки, дезинформация, кибератаки и разработка биологического оружия.
Риски сбоев: Опасения по поводу предвзятости в системах ИИ и возможной потери контроля над автономными системами.
Системные риски: Влияние на рынок труда, неравномерное распределение технологий между Западом и Китаем, риски для конфиденциальности и воздействия на законы об авторском праве и климат.
Доклад также акцентирует внимание на том, что будущее ИИ общего назначения остается неопределенным, с возможными как очень положительными, так и крайне отрицательными исходами. Однако в технологии ИИ нет ничего неизбежного, что подчеркивает необходимость дальнейших исследований и обсуждений.
Ранее "Курсор" писал, что ученые рассказали, что могут означать частые ночные кошмары.
Причина ранних пробуждений скрывается не только в биологических часах, но и в возрастных изменениях, о…
Ученые измерили сон 95 тыс. человек и около девяти лет следили за их здоровьем. Одна…
Расклад Таро на 13 октября показывает день новых импульсов, важных выборов и глубокого обновления.
Диетологи объясняют, чем полезен этот продукт и как правильно включить его в рацион.
В Fire Point заявили о первом запуске украинской баллистической ракеты по российской территории. FP-7 скоро…
Важное значение имеет не только то, сколько часов мы спим, но когда именно ложимся в…