ИИ принял чипсы за пистолет - школьников поставили на колени

14:04, Сегодня
Наручники фото
Обычный перекус после футбольной тренировки закончился наручниками, обыском и судебным иском против школы и полиции.

В американском штате Мэриленд четверо подростков подали в суд после того, как вооруженные полицейские задержали их возле школы из-за ложного предупреждения искусственного интеллекта. Система безопасности приняла действия одного из учеников с пакетом чипсов Doritos за возможную угрозу применения оружия, после чего школьники оказались под прицелом полицейских.

Об этом сообщает Israel Hayom.

Инцидент произошел 20 октября 2025 года возле средней школы Кенвуд в округе Балтимор, однако судебное разбирательство началось только сейчас. Около 18:30 четверо подростков ожидали родителей после футбольной тренировки, когда один из них ел чипсы Doritos со вкусом Cool Ranch, полученные от тренера.

Внезапно к школьникам приблизились не менее шести полицейских, некоторые из которых держали оружие наготове. Подростков заставили опуститься на колени прямо на бетон, надели на них наручники и провели обыск, хотя никакого оружия у них не оказалось.

Лишь после завершения проверки ученики узнали, что причиной задержания стало предупреждение системы Omnilert. Эта технология использует искусственный интеллект для анализа изображений со школьных камер видеонаблюдения и обнаружения потенциально вооруженных людей.

Однако в судебных документах говорится, что ситуация могла разрешиться еще до прибытия полиции. Сотрудники школы и правоохранительных органов вскоре после первоначального сигнала установили отсутствие оружия и отменили предупреждение, но информация об этом не дошла до всех участников реагирования.

Согласно иску, директор школы вместо сообщения об отмене тревоги переслал снимок первоначального предупреждения школьному полицейскому. Тот передал информацию коллегам, что в итоге привело к вооруженному задержанию подростков.

Особое возмущение родителей вызвала реакция директора после выяснения обстоятельств происшествия. Как утверждают истцы, руководитель школы отправил сотрудникам сообщение о том, что причиной тревоги оказался пакет чипсов, сопроводив его четырьмя смеющимися эмодзи.

Адвокат подростков Лия Фрейзер считает, что ситуация вообще не должна была закончиться вмешательством полиции. Защита намерена добиться ответственности причастных сторон и предотвратить повторение подобных случаев в других учебных заведениях.

В иске фигурируют полицейское управление округа Балтимор, школа, ее директор и компания, отвечающая за систему безопасности. Истцы обвиняют ответчиков в незаконном задержании, необоснованном обыске и халатности.

Сами подростки описывают случившееся как крайне тяжелое переживание, поскольку во время задержания опасались за собственную жизнь и безопасность друзей. Один из участников происшествия продолжает учиться в школе, тогда как трое остальных уже поступили в колледжи.

Мать одного из подростков Фрида Уинфилд рассказала, что полицейские предупредили ее сына о возможных серьезных последствиях случившегося. Женщина считает недопустимой ситуацию, при которой ребенок подвергается подобной опасности, просто ожидая родителей возле школы.

При этом официальная проверка обстоятельств инцидента выявила важную деталь, которая несколько отличается от первоначального описания ошибки. Согласно отчету управления генерального инспектора образования Мэриленда, искусственный интеллект не распознал непосредственно синий пакет Doritos как пистолет.

Алгоритм посчитал потенциально опасным сочетание движения руки подростка, ее положения и ракурса изображения с камеры. Именно эти визуальные признаки привели к формированию предупреждения о возможном оружии.

Проверка также не выявила доказательств расовой предвзятости при реагировании на происшествие. Вместе с тем представители подростков обращают внимание на опасность вооруженного задержания несовершеннолетних, особенно когда первоначальная информация об угрозе оказывается ошибочной.

Компания Omnilert и полицейское управление округа Балтимор отказались подробно комментировать ситуацию, сославшись на продолжающееся судебное разбирательство. Представители школьного округа также не предоставили комментариев журналистам NBC.

Этот случай поднимает вопрос не только о точности алгоритмов распознавания оружия, но и о действиях людей после получения автоматического предупреждения. Даже отмененный сигнал способен привести к опасному вмешательству полиции, если информация об отсутствии угрозы своевременно не передается ответственным сотрудникам.

Ранее "Курсор" сообщал, что в Израиле исследование выявило высокий уровень доверия к искусственному интеллекту, несмотря на риск получения ошибочной информации. Согласно результатам опроса, лишь 53% участников знают, что нейросети способны предоставлять недостоверные сведения, а 41% уверены в полной точности ответов чат-ботов.

Также мы сообщали, что специалисты предупредили об опасности передачи искусственному интеллекту слишком большого количества самостоятельных решений. Особое значение этот вопрос приобретает в системах безопасности, где ошибка алгоритма и недостаточный человеческий контроль могут иметь серьезные последствия.

Автор материала
ТЭГИ:
facebook telegram whatsapp viber instagram youtube camera images logo general logo general white