- Полицейское управление Хибер-Сити (Юта) тестировало ИИ-систему Draft One для автоматического составления отчетов на основе видео и аудио с нательных камер.
- ИИ ошибочно интерпретировал аудиодорожку мультфильма Disney «Принцесса и лягушка» как реальные события, заявив, что офицер превратился в лягушку.
- В департаменте также тестируют конкурирующую систему Code Four, которая показывает более точные результаты, но окончательное решение о внедрении еще не принято.
Полицейское управление города Хибер-Сити в штате Юта столкнулось с курьёзной ситуацией при тестировании программного обеспечения Draft One, использующего искусственный интеллект для автоматического составления полицейских отчетов на основе данных с нательных камер. При анализе записи один из отчетов содержал абсурдное утверждение — офицер якобы превратился в лягушку. Как выяснилось, причиной стал мультфильм Disney «Принцесса и лягушка», который играл на фоне записи. ИИ воспринял аудиодорожку анимации за реальные события и включил это в отчет.
Draft One построен на основе модели GPT-4 Turbo и интегрирован в экосистему компании Axon, ведущего поставщика оборудования для правоохранительных органов США. Стоимость использования программы составляет около 65–70 долларов в месяц на одного сотрудника. Помимо Draft One, департамент параллельно тестирует другую систему — Code Four, которая, по словам разработчиков и сотрудников полиции, способна более точно распознавать и интерпретировать аудиоданные, а также анализировать эмоциональный тон речи. Обе платформы поддерживают составление отчетов на английском и испанском языках.
Представители полиции отмечают, что внедрение ИИ значительно сокращает время на подготовку отчетности. Если ранее офицеры тратили на это до двух часов, то сейчас экономия составляет около 6–8 часов в неделю. Несмотря на положительные стороны, инцидент с неверной интерпретацией аудио напоминает о важности человеческой проверки итоговых документов. В департаменте считают, что использование ИИ будет расширяться, однако окончательный выбор программного обеспечения пока не сделан.
Таким образом, опыт Хибер-Сити демонстрирует как преимущества, так и нынешние ограничения технологий искусственного интеллекта в сфере правоохранительной деятельности. Особенно это касается ситуаций, связанных с неверным восприятием контекста аудиовизуальных данных, что требует обязательной курирования со стороны специалистов.
