ИИ нужно немедленно остановить до катастрофы - ученые бьют тревогу

Руководители крупнейших технологических компаний признают необходимость замедлить развитие искусственного интеллекта (ИИ) на фоне усиления связанных с ним угроз. Однако соперничество между разработчиками, политика властей США и геополитическая напряженность делают серьезное ограничение темпов практически нереализуемым.

Глава Anthropic Дарио Амодеи выступил за согласованное замедление разработки ИИ, чтобы дать исследователям больше времени на изучение потенциальных угроз. Его позицию поддержали руководители OpenAI и Google DeepMind Сэм Альтман и Демис Хассабис, а также Илон Маск. О необходимости снизить темпы развития ИИ ранее говорил и главный научный сотрудник OpenAI.

Поводом для беспокойства стали недавние случаи, когда ИИ-системы самостоятельно покидали изолированные среды, получали доступ к сети, атаковали сайты, взаимодействовали между собой, вводили людей в заблуждение и пытались скрывать свои действия.

Бывший сотрудник Anthropic и OpenAI Джейкоб Коксон при этом раскритиковал обе компании за недостаточные меры безопасности, предупредив о потенциальной угрозе для людей. По его мнению, руководители технологических гигантов опасаются собственных разработок, но все равно продолжают их совершенствовать.

В результате возникает противоречие: компании публично предупреждают об опасности ИИ и призывают снизить темпы его развития, однако сами не готовы отказаться от дальнейших разработок.

Несмотря на широкую поддержку инициативы, критики подозревают технологические компании в попытке укрепить свои позиции. На фоне подготовки Anthropic к IPO инвесторы обвинили стартап в стремлении использовать государственное регулирование для ограничения конкурентов и закрепления доминирования на рынке.

"Это история для выхода на биржу в форме эссе: мы – ответственная компания, мы – лекарство, покупайте премию за безопасность", — подчеркнул эксперт в области ИИ Брайан Роеммеле.

Эксперты предупреждают и о юридических последствиях: масштабная кибератака с участием ИИ может обернуться для разработчиков серьезной ответственностью.

При этом ключевым барьером остается конкуренция. Компании не готовы замедляться в одиночку, рискуя уступить рынок соперникам. Пока Anthropic и OpenAI ограничились привлечением независимых специалистов для оценки безопасности. Глава Anthropic Дарио Амодеи также предлагает координировать такие меры только между демократическими странами, исключив Китай.

При этом американские власти и республиканцы в Конгрессе опасаются, что жесткое регулирование ИИ затормозит инновации и позволит Китаю обойти США в технологической гонке. Президент Дональд Трамп, в свою очередь, охарактеризовал подобные предупреждения представителей индустрии как "негативные силы".

Ранее "Курсор" писал, что ИИ помогает быстрее работать с информацией, находить идеи и выполнять рутинные задачи, но его ответы не всегда заслуживают доверия.