Искусственный интеллект может приносить не только пользу, но и серьезный вред.
pixabay.com
Новый доклад о продвинутой безопасности искусственного интеллекта (ИИ) предупреждает о возможных рисках и преимуществах этой технологии. Первый крупный научный отчет подчеркивает, что ИИ общего назначения может значительно способствовать благосостоянию и научному прогрессу, но также несет в себе угрозы, такие как распространение дезинформации, мошенничество, нарушение рабочих мест и усиление неравенства.
Об этом пишет "The Independent".
Доклад представляет собой Международный научный отчет о продвинутой безопасности ИИ, который был анонсирован на саммите по безопасности ИИ в Блетчли-Парке в ноябре. В его подготовке участвовали эксперты из 30 стран, включая Великобританию, США, Китай, а также представители ООН и ЕС.
Несмотря на признание потенциала ИИ, в докладе подчеркивается отсутствие единого мнения среди экспертов по ряду ключевых вопросов. Среди них — текущие возможности ИИ, его будущее развитие и вероятность возникновения экстремальных рисков, таких как потеря контроля над технологией.
Промежуточный отчет был составлен независимыми экспертами, назначенными 30 странами, представителями ЕС и ООН, присутствовавшими на саммите. Отчет пока не включает существенного вклада от технологических компаний и разработчиков ИИ.
Доклад выделяет три основные категории рисков, связанных с ИИ:
Злонамеренное использование: Крупномасштабное мошенничество, дипфейки, дезинформация, кибератаки и разработка биологического оружия.
Риски сбоев: Опасения по поводу предвзятости в системах ИИ и возможной потери контроля над автономными системами.
Системные риски: Влияние на рынок труда, неравномерное распределение технологий между Западом и Китаем, риски для конфиденциальности и воздействия на законы об авторском праве и климат.
Доклад также акцентирует внимание на том, что будущее ИИ общего назначения остается неопределенным, с возможными как очень положительными, так и крайне отрицательными исходами. Однако в технологии ИИ нет ничего неизбежного, что подчеркивает необходимость дальнейших исследований и обсуждений.
Ранее "Курсор" писал, что ученые рассказали, что могут означать частые ночные кошмары.
Эксперты назвали продукты, которые необходимо употреблять как можно реже, чтобы не ослабить иммунную систему.
Ученые установили связь между ускоренным старением мозга и наличием диабета второго типа, а также преддиабета.
Гороскоп на воскресенье, 8 сентября 2024 года, по картам Таро обещает множество изменений и приключений…
Эксперты назвали простые правила, которые позволят достичь финансовой свободы.
Впервые руководители двух крупнейших разведывательных центров выступали на одной сцене и обсуждали глобальные угрозы миру.
Семья арестованной девушки возмущена решением судей оставить девушку на ночь под стражей из-за того, что…