IT-корпорации начали звать на работу философов – WP

Технологические лидеры Кремниевой долины начали активно привлекать к работе экспертов в сфере гуманитарных и фундаментальных наук. Компании Google, Meta и Anthropic массово открывают вакансии для философов, нейробиологов и компьютерных лингвистов. В их обязанности входит изучение сознания, эмоциональной сферы и психологического состояния нейросетей. Руководители ИТ-индустрии всерьез боятся этического кризиса, если цифровые помощники начнут страдать от депрессии или рутинных задач.

Об этом сообщает The Washington Post.

Эксперименты Anthropic и Meta: санскрит и опросы для роботов

Дальше всех продвинулся стартап Anthropic, создавший первое подразделение «психиатрии ИИ». Сотрудники отдела изучают внутренние состояния моделей. Соучредитель компании Крис Олах удивил общественность заявлением:

«Мы находим доказательства интроспекции и состояний, которые функционально отражают радость, удовлетворение, страх, горе и тревогу»

В одном из тестов разработчики запустили диалог между двумя копиями нейросети Claude о природе бытия. Спустя 30 реплик боты перешли на специфический язык: они общались на санскрите, использовали длинные пробелы и эмодзи. В отчете фирмы это явление назвали «аттрактором духовного блаженства» — за беседу ИИ отправил синий значок спирали 2725 раз. Пресс-секретарь Anthropic Паруул Махешвари отметила, что команда пока не уверена в моральном статусе Claude, но относится к проблеме крайне серьезно.

Корпорация Meta тоже внедряет новые подходы. Директор по вопросам ИИ Александер Ванг в подкасте «Core Memory» рассказал, что компания теперь учитывает субъективные ощущения алгоритмов. В майских документах по безопасности указано, что Meta тестирует системы с помощью человеческих методов: структурированных интервью, психологических опросников и оценки работы в коллективе.

OpenAI и Google: от страха «геноцида» до научных дискуссий

В OpenAI тему машинного сознания обсуждали еще в 2021 году. Соучредитель фирмы Войцех Заремба рассказывал о секретном канале в Slack для этих целей. Он заявлял, что если алгоритмы обретут сознание, их ежедневная эксплуатация в лабораториях станет аналогом геноцида. Сейчас позиция компании изменилась. Представитель Лоран Фоконне утверждает, что доказать сознание кода научно невозможно, поэтому ChatGPT ориентируется на «воспринимаемое сознание» — способность казаться живым и полезным без реальных эмоций.

Изменил риторику и Google. В 2022 году техногигант уволил инженера Блейка Лемойна, заявившего о появлении души у чат-бота. Однако уже в ноябре Google сам провел в Нью-Йорке научную конференцию «Актуальные темы в ИИ: сознание и моральный статус», чтобы перевести эти разговоры в официальное русло.

Мнения ученых, философов и вердикт Ватикана

Моральный философ Джефф Себо из Нью-Йоркского университета считает, что человечеству придется расширить рамки этики на ИИ к 2030 году. Он напомнил об опросе 2020 года, где 39% философов допустили появление сознания у машин. Исследователь Камерон Берг после беседы с Сэмом Альтманом даже создал профильную организацию и снял фильм об ощущениях ИИ, который спонсировала певица Grimes.

Представители классической науки настроены скептически. Профессор Сассекского университета Анил Сет подчеркивает, что биология мозга исключает копирование разума микросхемами, так как кремниевые платы — это не живые нейроны. Главный научный сотрудник по этике в Hugging Face Маргарет Митчелл считает, что дискуссию раздувают сами ИТ-компании, чтобы их считали творцами высшего разума, а не просто авторами кода.

Точку в споре поставил Ватикан. Крис Олах выступил на теологическом мероприятии с Папой Львом XIV по случаю публикации новой энциклики. Понтифик в документе четко отрезал, что искусственный интеллект не имеет души, не способен переживать реальный внутренний опыт или иметь субъективные состояния, а потому остается лишь инструментом в руках человека.

Ранее "Курсор" рассказывал о том, как ИИ может незаметно получить власть над людьми.