Искусственный интеллект может приносить не только пользу, но и серьезный вред.
Новый доклад о продвинутой безопасности искусственного интеллекта (ИИ) предупреждает о возможных рисках и преимуществах этой технологии. Первый крупный научный отчет подчеркивает, что ИИ общего назначения может значительно способствовать благосостоянию и научному прогрессу, но также несет в себе угрозы, такие как распространение дезинформации, мошенничество, нарушение рабочих мест и усиление неравенства.
Об этом пишет "The Independent".
Доклад представляет собой Международный научный отчет о продвинутой безопасности ИИ, который был анонсирован на саммите по безопасности ИИ в Блетчли-Парке в ноябре. В его подготовке участвовали эксперты из 30 стран, включая Великобританию, США, Китай, а также представители ООН и ЕС.
Несмотря на признание потенциала ИИ, в докладе подчеркивается отсутствие единого мнения среди экспертов по ряду ключевых вопросов. Среди них — текущие возможности ИИ, его будущее развитие и вероятность возникновения экстремальных рисков, таких как потеря контроля над технологией.
Промежуточный отчет был составлен независимыми экспертами, назначенными 30 странами, представителями ЕС и ООН, присутствовавшими на саммите. Отчет пока не включает существенного вклада от технологических компаний и разработчиков ИИ.
Доклад выделяет три основные категории рисков, связанных с ИИ:
Злонамеренное использование: Крупномасштабное мошенничество, дипфейки, дезинформация, кибератаки и разработка биологического оружия.
Риски сбоев: Опасения по поводу предвзятости в системах ИИ и возможной потери контроля над автономными системами.
Системные риски: Влияние на рынок труда, неравномерное распределение технологий между Западом и Китаем, риски для конфиденциальности и воздействия на законы об авторском праве и климат.
Доклад также акцентирует внимание на том, что будущее ИИ общего назначения остается неопределенным, с возможными как очень положительными, так и крайне отрицательными исходами. Однако в технологии ИИ нет ничего неизбежного, что подчеркивает необходимость дальнейших исследований и обсуждений.
Ранее "Курсор" писал, что ученые рассказали, что могут означать частые ночные кошмары.
Врачи предупреждают, что регулярное употребление слишком горячего чая или кофе может значительно повышать риск рака…
14 марта 2026 года — суббота, когда после рабочей недели особенно важно вернуть себе ресурс…
Эксперты рассказали про полезнейшие напитки, которые можно приготовить всего за несколько минут из доступных продуктов.
Беспорядок или случайные вещи в спальне могут создавать чувство напряжения и мешать полноценному отдыху.
Иран теряет возможность наносить прежние масштабные ракетные удары по Израилю, интенсивность и точность обстрелов снижается.
Исследование показало, что влияние некоторых животных на ребенка может быть совершенно неожиданным.