- В школе во Флориде система видеонаблюдения с искусственным интеллектом ошибочно приняла кларнет за оружие и ввела режим изоляции.
- Полиция, прибывшая на место, быстро прекратила режим изоляции, подтвердив, что детям ничего не угрожало.
- Похожий инцидент произошёл в Мэриленде, где ИИ ошибочно принял пачку чипсов за пистолет, что снова выявило проблемы в системах безопасности без человеческого контроля.
В средней школе имени Лоутона Чайлза во Флориде была активирована система безопасности с искусственным интеллектом, которая на основании видеонаблюдения ошибочно распознала клaрнет ученика как оружие. В результате был введён режим изоляции, предусматривающий ограничение свободы передвижения учащихся для предотвращения возможной опасности. Однако прибывшие на место происшествия сотрудники полиции оперативно установили, что угрозы нет и дети находятся в безопасности, после чего режим изоляции был отменён.
Директор школы Мелисса Лаудани подчеркнула, что в образовательном учреждении реализован многоуровневый комплекс мер безопасности, в том числе автоматизированная система, способная выявлять потенциальные угрозы. Тем не менее, в данном случае ИИ ошибочно классифицировал кларнет — музыкальный инструмент с семнадцатью клавишами — как опасное оружие. Руководство школы намерено провести беседы с учениками, разъясняя риски и негативные последствия имитации владения оружием на территории учебного заведения.
Точная модель и производитель системы видеонаблюдения остаются неизвестными, однако подобная ошибка вызвала обеспокоенность экспертов и общественности. Аналогичная ситуация недавно произошла в штате Мэриленд: там технология на основании ИИ признала пачку чипсов Doritos в руках старшеклассника за пистолет. В обоих случаях системы функционировали без непосредственного вмешательства операторов-человеческих лиц, что ставит под вопрос надёжность и целесообразность полностью автономной работы подобных систем безопасности.
Компания Omniilert, поставляющая систему для школы в Мэриленде, заявила, что оборудование сработало корректно, вероятно, имея в виду соответствие техническим спецификациям. Тем не менее случаи с ошибочным распознаванием объектов, не представляющих угрозу, подчёркивают важность доработки алгоритмов и внедрения дополнительных мер контроля. В частности, необходима более тщательная валидация с участием человека, чтобы избежать излишних действий и стрессовых ситуаций среди учащихся.
