Под обращением подписались: основатели SpaceX, Apple, Pinterest, Ripple, профессора ведущих мировых университетов и исследователи искусственного интеллекта.
depositphotos.com
Стив Возняк, Илон Маск, ученые и другие эксперты отрасли призывают приостановить разработку искусственного интеллекта, ссылаясь на то, что это несет огромный риск для человечества. Об этом говорится в письме опубликованном некоммерческой организацией Future of Life Institute.
Группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем, более мощных, чем GPT-4.
Авторы письма призвали приостановить разработку передового ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами совместные протоколы безопасности для таких проектов.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски — управляемыми», — говорится в письме.
Исследования и разработки ИИ должны быть сосредоточены на том, чтобы сделать современные системы более точными, безопасными, интерпретируемыми, прозрачными, устойчивыми, согласованными, надежными и лояльными.
Рабочая группа независимых экспертов и лабораторий ИИ должна быть разработана для разработки и внедрения общих протоколов безопасности для разработки ИИ.
Также сообщается, что параллельно разработчики ИИ должны сотрудничать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ.
Кроме того, они должны включать как минимум: новые и способные регулирующие органы, занимающиеся ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших вычислительных возможностей; системы происхождения и водяных знаков, чтобы помочь отличить подлинное от синтетического и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за ущерб, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; а также хорошо обеспеченные ресурсы учреждения для преодоления драматических экономических и политических потрясений (особенно для демократии), которые вызовет ИИ.
Ранее «Курсор» сообщал о том, что по мнению кинорежиссера Джеймса Кэмерон роботы, способные убить человечество, могли уже захватить наш мир.
Мать сержанта Оза Дэниэла, погибшего и похищенного 7 октября, призналась, что сознательно отказалась смотреть опубликованное…
Гражданку россии признали виновной в разжигании вражды к евреям.
Заседание кабинета министров Израиля, которое должно было пройти во вторник вечером, вызвало острый политический скандал.
В частной клинике хирург перепутал глаза пациентки.
В магазинах резко упали цены на популярный фрукт, одна из причин - необычные погодные условия.
Давление прямо зависит от вашего рациона.