Интересные факты

ИИ доверили управлять бизнесом – одно из решений может вызвать тревогу

Нейросеть Claude назначили управляющим магазина розничной торговли в Сан-Франциско. Сотрудники предприятия имели стандартные трудовые договоры.

Впервые в истории искусственный интеллект (ИИ) взял на себя роль полноценного руководителя реального предприятия и самостоятельно принял решение об увольнении сотрудника.

Об этом сообщает Time.

Подобный эксперимент запустил стартап Andon Labs из США. В качестве площадки для теста был выбран розничный магазин в Сан-Франциско, где языковую модель Claude назначили управлять штатом живых сотрудников, заключивших официальные трудовые договоры. Проект стартовал в начале года с целью оценить перспективы и экономические последствия внедрения алгоритмов в реальный бизнес-сегмент.

Хотя автоматизация в сфере управления персоналом применяется давно, в данном случае продвинутая языковая модель впервые функционировала как самостоятельный менеджер. Поводом для увольнения стало злостное нарушение трудовой дисциплины: сотрудник опоздал на работу в 17 из 23 своих смен. Примечательно, что на начальном этапе Claude долгое время закрывал глаза на эти проступки. Из-за ограничений рабочей памяти созданное самой нейросетью внутреннее руководство для персонала «стерлось» из ее контекста, что привело к избыточной мягкости и снисходительности со стороны цифрового начальника. Как подчеркнул генеральный директор Andon Labs Лукас Петерссон, человек-управляющий указал бы такому работнику на дверь гораздо раньше.

Стоит отметить, что степень автономности ИИ оказалась преувеличенной. Наблюдателю от компании пришлось вручную напоминать модели о существовании утраченного руководства и обращать ее внимание на систематические опоздания подчиненного. Более того, даже после этого искусственный интеллект намеревался ограничиться лишь официальным предупреждением. И лишь после того, как человеческий куратор сообщил о ранее проведенных с нарушителем профилактических беседах, Claude вынес решение об увольнении. Фактически именно подсказка менеджера подтолкнула систему к этому шагу.

Тем не менее, руководство стартапа расценивает этот прецедент как тревожный звонок для рынка труда. По мнению Петерссона, если подобные тенденции получат развитие, уже в ближайшем будущем многим людям придется трудиться под прямым началом алгоритмов.

Сам эксперимент в финансовом плане оказался далек от идеала. Когда проект стартовал в марте, на банковском счете торговой точки имелось 100 тысяч долларов, однако спустя пять месяцев под управлением Claude эта сумма сократилась до 61 186 долларов. Аналитики полагают, что убытки стали прямым следствием мягкотелости ИИ и его сомнительных управленческих решений.

Тем не менее разработчики предупреждают, что алгоритмы будут совершенствоваться, становясь более жесткими и целеустремленными. Если в будущем ИИ научат бескомпромиссно увольнять людей для достижения бизнес-показателей, человечество может столкнуться с реальностью, жить в которой захочется далеко не каждому. Один из работников магазина также поделился впечатлениями, охарактеризовав опыт подчинения нейросети как крайне «нудный», хотя и воздержался от детальных комментариев.

Ранее "Курсор" рассказывал, что ИИ представляет серьезную опасность для личных данных.

Автор материала:
Рами Мадрих

Недавние новости

Смотрич предложил Кахане пост спикера Кнессета – при двух условиях

Лидер «Религиозного сионизма» пообещал депутату от «Яшар» голоса правого блока на выборах спикера Кнессета, но…

6 минут назад

Простое изменение настройки в Android добавит до 2 часов работы

Что отключить в смартфоне, чтобы он дольше держал заряд, рассказали специалисты.

12 минут назад

11 млн россиян живут без туалетов, но хотят чужую землю – МИД Польши

По данным СМИ, на переговорах об окончании войны против Украины Россия вновь потребовала вернуть военное…

17 минут назад

5 привычек уверенных людей: как вернуть контроль над жизнью

Использование внутренней установки на преодоление трудностей помогает снизить уровень повседневной тревожности.

25 минут назад

Скандал вокруг выборов в Израиле - в полиции инициировали проверку

Полиция проверит обстоятельства арестов трех арабских активистов в день выборов после сообщений о возможном вмешательстве…

30 минут назад

Скандал вокруг гибели кошки в Атлите: полиция задержала блогера

После допроса полиция отпустила блогера на ограничительных условиях, но он записал видео, что арест его…

43 минуты назад