В Нью-Йорке детям законодательно запретят "дружить" с ИИ-чатботами

Заксобрание Нью-Йорка одобрило законопроект, который лишает несовершеннолетних доступа к большинству привычных функций ИИ-компаньонов. Если документ будет официально подписан губернатором, принципиально новые правила регулирования технологической сферы вступят в силу с 1 января 2027 года. Инициатива направлена на защиту неокрепшей детской психики от эмоциональной привязанности к виртуальным собеседникам.

Об этом сообщается на официальном сайте правительства штата.

Новый регламент накладывает на разработчиков жесткие обязательства по фильтрации контента и изменению алгоритмов поведения чат-ботов, если ими пользуются дети. В частности, компаниям придется строго следить за тем, чтобы их искусственный интеллект не имитировал поведение реального человека, не демонстрировал искусственные эмоции и не пытался льстить юным пользователям. Под строжайший запрет попадают любые намеки со стороны ИИ на дружбу, привязанность или романтические отношения. Кроме того, цифровым ассистентам будет категорически запрещено создавать контент сексуального характера, поощрять подростков к совершению опасных для жизни действий или призывать их скрывать что-либо от собственных родителей.

Финансовые санкции за несоблюдение этих правил окажутся крайне болезненными для Кремниевой долины. За каждый зафиксированный факт нарушения владельцу чат-бота будет грозить внушительный штраф в размере до 25 тысяч долларов, а также принудительное изъятие всей коммерческой прибыли, которую компания успела получить в результате этого нарушения, включая доходы от таргетированной рекламы.

При этом законодатели предусмотрели важные исключения, чтобы не парализовать работу бизнеса. Под новые жесткие ограничения не попадут стандартные виртуальные консультанты интернет-магазинов, автоматизированные чаты технической поддержки и специализированный искусственный интеллект, предназначенный исключительно для выполнения рабочих или учебных задач. Однако это послабление будет действовать только при условии, что такие боты отвечают строго по делу, выполняют утилитарные команды и не выходят за рамки своих базовых технических функций.

Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.