Множество ученых считают, что ИИ может обрести способности "воевать" с людьми после очередного обновления.
Pixabay
Руководители крупнейших технологических компаний признают необходимость замедлить развитие искусственного интеллекта (ИИ) на фоне усиления связанных с ним угроз. Однако соперничество между разработчиками, политика властей США и геополитическая напряженность делают серьезное ограничение темпов практически нереализуемым.
Глава Anthropic Дарио Амодеи выступил за согласованное замедление разработки ИИ, чтобы дать исследователям больше времени на изучение потенциальных угроз. Его позицию поддержали руководители OpenAI и Google DeepMind Сэм Альтман и Демис Хассабис, а также Илон Маск. О необходимости снизить темпы развития ИИ ранее говорил и главный научный сотрудник OpenAI.
Поводом для беспокойства стали недавние случаи, когда ИИ-системы самостоятельно покидали изолированные среды, получали доступ к сети, атаковали сайты, взаимодействовали между собой, вводили людей в заблуждение и пытались скрывать свои действия.
Бывший сотрудник Anthropic и OpenAI Джейкоб Коксон при этом раскритиковал обе компании за недостаточные меры безопасности, предупредив о потенциальной угрозе для людей. По его мнению, руководители технологических гигантов опасаются собственных разработок, но все равно продолжают их совершенствовать.
В результате возникает противоречие: компании публично предупреждают об опасности ИИ и призывают снизить темпы его развития, однако сами не готовы отказаться от дальнейших разработок.
Несмотря на широкую поддержку инициативы, критики подозревают технологические компании в попытке укрепить свои позиции. На фоне подготовки Anthropic к IPO инвесторы обвинили стартап в стремлении использовать государственное регулирование для ограничения конкурентов и закрепления доминирования на рынке.
"Это история для выхода на биржу в форме эссе: мы – ответственная компания, мы – лекарство, покупайте премию за безопасность", — подчеркнул эксперт в области ИИ Брайан Роеммеле.
Эксперты предупреждают и о юридических последствиях: масштабная кибератака с участием ИИ может обернуться для разработчиков серьезной ответственностью.
При этом ключевым барьером остается конкуренция. Компании не готовы замедляться в одиночку, рискуя уступить рынок соперникам. Пока Anthropic и OpenAI ограничились привлечением независимых специалистов для оценки безопасности. Глава Anthropic Дарио Амодеи также предлагает координировать такие меры только между демократическими странами, исключив Китай.
При этом американские власти и республиканцы в Конгрессе опасаются, что жесткое регулирование ИИ затормозит инновации и позволит Китаю обойти США в технологической гонке. Президент Дональд Трамп, в свою очередь, охарактеризовал подобные предупреждения представителей индустрии как "негативные силы".
Ранее "Курсор" писал, что ИИ помогает быстрее работать с информацией, находить идеи и выполнять рутинные задачи, но его ответы не всегда заслуживают доверия.
Проверка популярных торговых площадок выявила существенную разницу в стоимости одинаковых товаров для Израиля и Европы.
Четыре знака Зодиака смогут рассчитывать на новые возможности, богатство и приятные перемены и улучшение разных…
Биньямин Нетаниягу и Гади Айзенкот вступили в новую стадию соперничества в рамках борьбы за кресло…
Медики рассказали про уникальный салат из двух ингредиентов, который поможет укрепить здоровье и продлить жизнь.
Израилю придется самостоятельно компенсировать миллиарды шекелей, что может отразиться на налогах и государственных услугах.
ИИ назвал страны, где с большей вероятностью можно будет выжить, если мир постигнет глобальная катастрофа.