Под обращением подписались: основатели SpaceX, Apple, Pinterest, Ripple, профессора ведущих мировых университетов и исследователи искусственного интеллекта.
depositphotos.com
Стив Возняк, Илон Маск, ученые и другие эксперты отрасли призывают приостановить разработку искусственного интеллекта, ссылаясь на то, что это несет огромный риск для человечества. Об этом говорится в письме опубликованном некоммерческой организацией Future of Life Institute.
Группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем, более мощных, чем GPT-4.
Авторы письма призвали приостановить разработку передового ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами совместные протоколы безопасности для таких проектов.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски — управляемыми», — говорится в письме.
Исследования и разработки ИИ должны быть сосредоточены на том, чтобы сделать современные системы более точными, безопасными, интерпретируемыми, прозрачными, устойчивыми, согласованными, надежными и лояльными.
Рабочая группа независимых экспертов и лабораторий ИИ должна быть разработана для разработки и внедрения общих протоколов безопасности для разработки ИИ.
Также сообщается, что параллельно разработчики ИИ должны сотрудничать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ.
Кроме того, они должны включать как минимум: новые и способные регулирующие органы, занимающиеся ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших вычислительных возможностей; системы происхождения и водяных знаков, чтобы помочь отличить подлинное от синтетического и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за ущерб, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; а также хорошо обеспеченные ресурсы учреждения для преодоления драматических экономических и политических потрясений (особенно для демократии), которые вызовет ИИ.
Ранее «Курсор» сообщал о том, что по мнению кинорежиссера Джеймса Кэмерон роботы, способные убить человечество, могли уже захватить наш мир.
Британка живет без денег, не сделав ни одной покупки с 2015 года.
Выбор хлеба может оказаться сложной задачей для тех, кто следит за своим питанием.
Этот день, 5 апреля 2025, принесет успешные возможности многим знакам, но некоторым придется столкнуться с…
Сильный аппетит и постоянная тяга к еде по вечерам может мешать заснуть и портить настроение,…
Какие неприятности могут поджидать путешественников во время пребывания в хостеле.
Метеорологи предупредили о небезопасных условиях на море в ближайшие дни.