В средней школе Кенвуд, расположенной в штате Мэриленд, произошел резонансный инцидент: система видеонаблюдения на основе искусственного интеллекта ошибочно распознала пакет чипсов Doritos как огнестрельное оружие. В результате старшеклассника задержали, поставили на колени и заковали в наручники, прежде чем обнаружили ошибку системы.
Об этом сообщает Бизнес • Медиа
Как технология сработала против школьника
Инцидент произошел, когда ученик Таки Аллен шел по коридору, держа в руках пакет чипсов. По его словам, он просто вытянул руки вперед, а система идентификации угроз зафиксировала предмет, напоминающий пистолет. Служба безопасности немедленно отреагировала в соответствии с протоколом: ученика задержали и провели обыск.
Только после проверки выяснилось, что никакой угрозы нет. Как сообщила директор школы Кэти Смит, сигнал тревоги был быстро отменен службой безопасности, однако она не успела получить сообщение до того, как вызвала школьного инспектора, который, в свою очередь, привлек полицию.
Компания Omnilert заявила, что инцидент «произошел в рамках штатной процедуры».
Реакция компании и семьи ученика
Поставщик системы безопасности, компания Omnilert, выразила соболезнования по поводу инцидента и поддержала ученика и его семью. В компании подчеркнули, что технология сработала в соответствии с алгоритмом, а сам инцидент станет полезным опытом для дальнейшего совершенствования системы. Разработчики отметили, что их решения внедрены в более чем ста учебных заведениях США и неоднократно помогали предотвращать реальные угрозы. Представители Omnilert добавили, что система постоянно обучается на новых данных, а подобные случаи позволяют улучшать точность распознавания объектов.
Родители Таки Аллена отметили, что инцидент стал причиной сильного стресса для их сына и заставил задуматься о безопасности использования подобных технологий в школах. Управление образования штата начало внутреннее расследование для оценки действий сотрудников безопасности и проверки соблюдения протоколов.
Ранее сообщалось о другом резонансном случае, когда во Флориде школьника арестовали из-за вопроса к ChatGPT о способе убийства друга.