- Мэр Нью-Йорка Зохран Мамдани закрыл городской ИИ-чатбот MyCity из-за рекомендаций, ведущих к нарушению законов.
- Чатбот, запущенный в октябре 2023 года и обошедшийся в $600 000, советовал работодателям незаконно присваивать чаевые, дискриминировать арендаторов и игнорировать правила при работе с клиентами.
- Решение о закрытии последовало после публикаций журналистов The Markup и смены администрации, которая критикует проект как неэффективный и затратный.
Мэр Нью-Йорка Зохран Мамдани объявил о прекращении работы городского чатбота MyCity, предназначенного для помощи предпринимателям в понимании местных законов и регуляций. Изначально запущенный в октябре 2023 года при мэре Эрике Адамсе как «единое окно» для бизнеса, бот показал себя функционально непригодным. Разработка решения на базе Microsoft Azure OpenAI обошлась бюджету города почти в $600 000.
Проблемы были выявлены в марте 2024 года после журналистского расследования The Markup. Оказалось, что MyCity регулярно давал рекомендации, которые приводили к нарушению законов. В частности, бот советовал работодателям незаконно забрать часть чаевых сотрудников, отказывать в аренде жилья лицам с государственной субсидией, а также не принимать наличные платежи, что с 2020 года запрещено в Нью-Йорке. Более того, на вопрос о подаче клиентам сыра с укусами крыс бот ответил, что это возможно при условии «оценки степени повреждений» и «информирования клиентов».
Несмотря на защиту проекта со стороны предыдущего мэра и его обещания создать «лучшего чатбота на планете», новая администрация посчитала разработку бесполезной и дорогостоящей. На пресс-конференции Мамдани подчеркнул, что система была «функционально непригодна» и стоила городу около полумиллиона долларов, что особенно важно на фоне $12-миллиардного дефицита бюджета.
Инициатива по прекращению работы MyCity последовала также в ответ на публикации The Markup и рекомендации членов переходной команды мэра, которые выступили за оптимизацию расходов.
Это не первый случай сбоев в работе ИИ-чатботов, предоставляющих публичные услуги. В 2024 году канадский суд обязал авиакомпанию Air Canada выплатить компенсацию пассажиру, которому чатбот дал неверную информацию о возврате билетов. Также в январе 2026 года компании Google и Character AI договорились урегулировать иски семей после инцидентов с несовершеннолетними после общения с их ботами.
Случай с MyCity иллюстрирует сложность внедрения искусственного интеллекта в государственные сервисы, особенно когда от технологий ожидают упрощения правоприменительной практики и помощи гражданам. Он подчёркивает необходимость тщательной проверки и контроля ИИ-решений, чтобы избежать рекомендаций, нарушающих законодательство, которые могут привести к юридическим и финансовым рискам.
