ИИ доверили управлять бизнесом – одно из решений может вызвать тревогу

Впервые в истории искусственный интеллект (ИИ) взял на себя роль полноценного руководителя реального предприятия и самостоятельно принял решение об увольнении сотрудника.

Об этом сообщает Time.

Подобный эксперимент запустил стартап Andon Labs из США. В качестве площадки для теста был выбран розничный магазин в Сан-Франциско, где языковую модель Claude назначили управлять штатом живых сотрудников, заключивших официальные трудовые договоры. Проект стартовал в начале года с целью оценить перспективы и экономические последствия внедрения алгоритмов в реальный бизнес-сегмент.

Хотя автоматизация в сфере управления персоналом применяется давно, в данном случае продвинутая языковая модель впервые функционировала как самостоятельный менеджер. Поводом для увольнения стало злостное нарушение трудовой дисциплины: сотрудник опоздал на работу в 17 из 23 своих смен. Примечательно, что на начальном этапе Claude долгое время закрывал глаза на эти проступки. Из-за ограничений рабочей памяти созданное самой нейросетью внутреннее руководство для персонала «стерлось» из ее контекста, что привело к избыточной мягкости и снисходительности со стороны цифрового начальника. Как подчеркнул генеральный директор Andon Labs Лукас Петерссон, человек-управляющий указал бы такому работнику на дверь гораздо раньше.

Стоит отметить, что степень автономности ИИ оказалась преувеличенной. Наблюдателю от компании пришлось вручную напоминать модели о существовании утраченного руководства и обращать ее внимание на систематические опоздания подчиненного. Более того, даже после этого искусственный интеллект намеревался ограничиться лишь официальным предупреждением. И лишь после того, как человеческий куратор сообщил о ранее проведенных с нарушителем профилактических беседах, Claude вынес решение об увольнении. Фактически именно подсказка менеджера подтолкнула систему к этому шагу.

Тем не менее, руководство стартапа расценивает этот прецедент как тревожный звонок для рынка труда. По мнению Петерссона, если подобные тенденции получат развитие, уже в ближайшем будущем многим людям придется трудиться под прямым началом алгоритмов.

Сам эксперимент в финансовом плане оказался далек от идеала. Когда проект стартовал в марте, на банковском счете торговой точки имелось 100 тысяч долларов, однако спустя пять месяцев под управлением Claude эта сумма сократилась до 61 186 долларов. Аналитики полагают, что убытки стали прямым следствием мягкотелости ИИ и его сомнительных управленческих решений.

Тем не менее разработчики предупреждают, что алгоритмы будут совершенствоваться, становясь более жесткими и целеустремленными. Если в будущем ИИ научат бескомпромиссно увольнять людей для достижения бизнес-показателей, человечество может столкнуться с реальностью, жить в которой захочется далеко не каждому. Один из работников магазина также поделился впечатлениями, охарактеризовав опыт подчинения нейросети как крайне «нудный», хотя и воздержался от детальных комментариев.

Ранее "Курсор" рассказывал, что ИИ представляет серьезную опасность для личных данных.