У середній школі Кенвуд, що розташована у штаті Мериленд, сталася резонансна подія: система відеоспостереження на основі штучного інтелекту помилково розпізнала пакет чипсів Doritos як вогнепальну зброю. Через це старшокласника затримали, поставили на коліна та закували в наручники перед тим, як виявили помилку системи.
Про це розповідає Бізнес • Медіа
Як технологія спрацювала проти школяра
Інцидент трапився, коли учень, Такі Аллен, прямував коридором, тримаючи в руках пакет чипсів. За його словами, він просто витягнув руки вперед, а система ідентифікації загроз зафіксувала предмет, що нагадував пістолет. Служба безпеки миттєво відреагувала згідно з протоколом: учня затримали та провели обшук.
Лише після перевірки з’ясувалося, що жодної загрози немає. Як повідомила директорка школи Кеті Сміт, сигнал тривоги було швидко скасовано службою безпеки, однак вона не встигла отримати повідомлення до того, як викликала шкільного інспектора, який, у свою чергу, залучив поліцію.
Компанія Omnilert заявила, що інцидент «стався в рамках штатної процедури».
Реакція компанії та родини учня
Постачальник системи безпеки, компанія Omnilert, висловив співчуття через подію та підтримав учня й його сім’ю. У компанії наголосили, що технологія спрацювала відповідно до алгоритму, а сам інцидент стане корисним досвідом для подальшого вдосконалення системи. Розробники підкреслили, що їхні рішення запроваджені у понад сотні навчальних закладів США й неодноразово допомагали запобігати реальним загрозам. Представники Omnilert додали, що система постійно навчається на нових даних, а подібні випадки дозволяють покращувати точність розпізнавання об’єктів.
Батьки Такі Аллена зазначили, що інцидент став причиною сильного стресу для їхнього сина й змусив задуматися про безпеку використання подібних технологій у школах. Управління освіти штату розпочало внутрішнє розслідування для оцінки дій співробітників безпеки та перевірки дотримання протоколів.
Раніше повідомлялося про інший резонансний випадок, коли у Флориді школяра заарештували через питання до ChatGPT щодо способу вбивства друга.