OpenAI ограничила возможности ChatGPT: какие советы теперь запрещены ИИ

Американская компания OpenAI внесла изменения в правила использования своих продуктов, ограничив возможности ChatGPT в области профессиональных консультаций.

Согласно новым требованиям, нейросеть больше не может самостоятельно предоставлять рекомендации по вопросам медицины и юриспруденции.

Теперь любые советы, которые требуют наличия лицензии специалиста, разрешено давать только при участии квалифицированного эксперта. Эти изменения вступили в силу после обновления политики, опубликованного 29 октября 2025 года.

Нововведение направлено на повышение безопасности пользователей и снижение рисков, связанных с получением недостоверной или потенциально опасной информации.

Ранее "Курсор" сообщал, что американец попал в больницу с психозом из-за рекомендаций ИИ.

Житель США оказался в больнице после того, как несколько месяцев следовал рекомендациям ChatGPT, став первым официально зафиксированным случаем отравления, вызванного советами искусственного интеллекта.

Мужчина принимал бромид натрия, полагая, что это безопасная альтернатива поваренной соли, что привело к тяжелому отравлению и психозу. При поступлении в больницу у него наблюдались галлюцинации, паранойя и отказ от питья. Врачи изолировали пациента в психиатрическом отделении и назначили капельницы и антипсихотические препараты, после чего состояние стабилизировалось.

Источник проблемы оказался в ранней версии ChatGPT, которая предложила бромид натрия без предупреждения о токсичности. После трёх недель лечения и постепенной отмены препаратов мужчина полностью восстановился.

Случай стал наглядным примером, что советы ИИ не заменяют консультации специалистов, а человеческий контроль при применении любых рекомендаций жизненно необходим.