Ученые: лаборатории искусственного интеллекта вышли из-под контроля

Системы искусственного интеллекта могут представлять серьезную опасность для общества.

Об этом говорится на сайте некоммерческой организации Future of Life Institute.

Поэтому генеральный директор SpaceX, Tesla и Twitter Илон Маск, соучредитель Apple Стив Возняк и еще 1100 профессоров, инженеров и исследователей призывают приостановить эксперименты.

Авторы считают, что обучение и испытание более мощных систем искусственного интеллекта, чем GPT-4, должны быть прекращены по меньшей мере на полгода, пока не появятся общие протоколы безопасности. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий.

Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами.

Ранее Курсор информировал о том, что финские эксперты по безопасности заявили, что хакеры начнут использовать технологии искусственного интеллекта для осуществления кибератак. Согласно докладу компании WithSecure, риски использования ИИ в преступных целях возрастают, а в ближайшие 5 лет мы услышим о мошеннических методах похищения цифровых активов совместно с ИИ.

Как сообщал Курсор, искусственный интеллект назвал дату гибели цивилизации.

Ранее «Курсор» сообщал о том, что по мнению кинорежиссера Джеймса Кэмерон роботы, способные убить человечество, могли уже захватить наш мир.