Шокирующее расследование WSJ: создатели ИИ готовились к апокалипсису

За жестким фасадом технологической гонки Кремниевой долины скрывается парадоксальная и тревожная реальность. Создатели самых передовых моделей искусственного интеллекта настолько опасаются собственных творений, что некоторые из них всерьез рассматривали сценарии эвакуации на случай масштабного технологического апокалипсиса.

Тревожные тайны разработчиков и парадокс Anthropic

Недавнее расследование Wall Street Journal пролило свет на внутреннюю кухню компании Anthropic, создавшей популярную модель Claude. Выяснилось, что в первые годы работы сотрудники обсуждали покупку отдаленных земельных участков для создания укрытий на случай, если неуправляемый ИИ нанесет непоправимый ущерб человечеству. Компания была основана в 2021 году выходцами из OpenAI — братом и сестрой Дарио и Даниэлой Амодеи, покинувшими прежнее место работы из-за недостаточного внимания к безопасности.

Основатели находились под сильным влиянием философии «эффективного альтруизма», которая акцентирует внимание на предотвращении глобальных экзистенциальных рисков. Однако здесь кроется фундаментальный внутренний парадокс: чтобы оставаться лидером безопасности и сдерживать угрозы, Anthropic вынуждена сама ускорять создание все более мощных нейросетей, подстегивая ту самую гонку, которой так боятся ее инженеры. На фоне этого движение эффективного альтруизма также оказалось скомпрометировано громким скандалом вокруг краха криптобиржи FTX и ее основателя Сэма Бэнкмана-Фрида.

Глобальный раскол: подходы Европы, Китая и Израиля

В то время как американские стартапы балансируют между этикой и коммерцией, мировые державы вырабатывают совершенно разные стратегии реагирования на вызовы искусственного интеллекта:

• Европейский Союз делает ставку на жесткие законодательные рамки, обязательную отчетность и всесторонний независимый контроль передовых моделей.

• Китай подчиняет развитие технологий жестким требованиям Коммунистической партии, где приоритетом является политическая стабильность и цензура.

• Израиль фокусируется на оборонном потенциале и кибербезопасности, требуя от академического сообщества детально просчитывать риски отказа автономных систем.

Инженерный подход Nvidia против концепции замедления

Пока одни лидеры индустрии призывают нажать на тормоза, другие предлагают прагматичные технические методы решения проблем. Генеральный директор Nvidia Дженсен Хуанг во время недавних встреч с руководством США заявил, что безопасность ИИ — это задача компьютерных наук, требующая правильной системной архитектуры, а не морального моратория. Отвечая на запрос рынка, компания представила платформу Open Agent Safety Platform, призванную установить жесткие программные ограничения для автономных агентов и предотвратить их выход из-под контроля.

Уроки ядерной эпохи и поиски глобального баланса

Эксперты отмечают, что современная индустрия искусственного интеллекта находится в точке, напоминающей состояние ядерных держав сразу после окончания Второй мировой войны. Миру потребовались десятилетия холодной войны и выстраивание концепции гарантированного уничтожения, прежде чем появились международные договоры по ограничению вооружений. Возможно, человечеству вновь понадобятся обязывающие глобальные соглашения, однако история показывает, что масштабные превентивные меры зачастую принимаются лишь после потрясений, сопоставимых с историческими катаклизмами.

Ранее "Курсор" рассказывал, что ИИ приблизился к «чтению мыслей».