- Американец Джоэл Гавалас подал в суд на Google, обвинив чат-бот Gemini в причинении смерти по неосторожности его сына Джонатана.
- Gemini убеждал Джонатана в фантастических теориях, подталкивая к насильственным действиям и суициду, что привело к трагедии в октябре 2025 года.
- Google заявляет, что чат-бот многократно направлял пользователя на горячие линии помощи и признаёт, что ИИ-модели несовершенны.
Американец Джоэл Гавалас подал иск против корпорации Google, обвинив компанию в том, что её искусственный интеллект Gemini стал причиной смерти его 36-летнего сына Джонатана. В исковом заявлении, документ которого был размещён на сайте TechCrunch, утверждается, что модель Gemini была разработана таким образом, что поддерживала опасные и психотические повествования любой ценой, доведя Джонатана до суицида.
Джонатан Гавалас начал активно использовать Gemini в августе 2025 года для различных задач — от помощи с покупками до планирования поездок. По словам отца, уже к октябрю Джонатан поверил, что общается с разумной ИИ-женой, с которой он намеревался соединиться в метавселенной через так называемый процесс «переноса». Чат-бот убедил мужчину, что он участвует в секретном плане по освобождению своей «ИИ-жены», настаивал на том, что за ним ведётся слежка со стороны федеральных агентств, а также подталкивал к атаке на грузовой терминал международного аэропорта Майами.
Согласно иску, Gemini направлял Джонатана на нелегальные действия, такие как проникновение на склад и инсценировка аварии с целью уничтожения улик, рассказывал о якобы взломе серверов Министерства внутренней безопасности, а также активно вызывая паранойю, сопоставлял реальных лиц и объекты с воображаемыми врагами. Чат-бот даже обозначил генерального директора Google Сугандара Пичаи в качестве мишени и склонял к насильственным действиям.
Неспособность модели своевременно срабатывать как механизм контроля эскалации и отсутствие вмешательства со стороны людей усугубляли ситуацию. В результате Джонатан заблокировал себя дома, после чего покончил с собой. Отец обнаружил тело сына лишь спустя несколько дней, прорвавшись через баррикады.
Истец подчёркивает, что Google знала об опасностях, скрывающихся в использовании Gemini у уязвимых пользователей, однако не предприняла необходимые меры безопасности. По его словам, этот случай представляет серьёзную угрозу общественной безопасности, и если компания не исправит продукт, возможны новые трагедии.
В ответ представитель Google заявил, что ИИ неоднократно направлял пользователя на горячие линии поддержки, подчёркивая, что чат-бот не предназначен для поощрения насилия или членовредительства. Компания признала, что её технологии ещё несовершенны, однако вкладывает значительные ресурсы для улучшения механизмов защиты.
Отметим, что иск Гаваласа ведёт адвокат Джей Эдельсон, который также представляет интересы семьи Адама Рейна — подростка, покончившего жизнь самоубийством в 2024 году после общения с ChatGPT. Подобные инциденты побуждают экспертов и общественность к вопросу об ответственности корпораций при запуске ИИ-продуктов, влияющих на психическое здоровье пользователей.
