- Суд в Калифорнии оштрафовал адвоката Амира Мостафави на $10 тыс. за подачу документов с поддельными цитатами, созданными ChatGPT.
- 21 из 23 приведённых цитат в документах оказались выдуманными, что признала апелляционная инстанция.
- Случай стал резонансным предупреждением о необходимости личной проверки информации, созданной с помощью ИИ, и ужесточении правил использования искусственного интеллекта в юридической практике.
В Калифорнии суд вынес значимое решение по делу адвоката Амира Мостафави, который подал в судебные органы апелляцию с использованием поддельных цитат, сгенерированных с помощью чат-бота ChatGPT. Как выяснилось, около 21 из 23 приведённых им ссылок на судебные дела были полностью вымышленными. Апелляционная инстанция признала факт нарушения и оштрафовала юриста на сумму в 10 тысяч долларов.
Из официального заявления суда следует, что это решение носит показательную природу и служит чётким предупреждением для всех участников судебного процесса. Судьи подчеркнули, что в любой подаваемой документации не должно содержаться цитат и ссылок, которые адвокат лично не проверил и не подтвердил. Такой подход необходим для сохранения доверия к судебной системе и обеспечения должного уровня ответственности юридических специалистов.
Следует отметить, что на фоне быстрого развития технологий, связанных с генеративным искусственным интеллектом, законодательные и регулирующие органы Калифорнии уже предпринимают соответствующие меры. В частности, Судебный совет штата выпустил рекомендации о необходимости запретить или строго регламентировать использование генеративного ИИ в работе судей и судебного аппарата к декабрю 2025 года. Аналогично, Ассоциация адвокатов Калифорнии рассматривает ужесточение требований к использованию ИИ в профессиональной деятельности юристов в ответ на запрос Верховного суда.
Сам Мостафави признал перед судом, что не ознакомился с текстом, сгенерированным ChatGPT, до подачи апелляции в июле 2023 года. Это заявление стало особенно резонансным на фоне предыдущих рекламных утверждений OpenAI о возможностях ChatGPT, включая помощь в сдаче экзамена на адвоката. Однако ряд исследований, включая работу МТИ, поставили под сомнение эти успехи чат-бота.
Коллегия из трёх судей подчеркнула, что действия Мостафави нарушили судебные правила, привели к подаче бессодержательной апелляции, создали финансовые и временные издержки для суда и налогоплательщиков. В свою защиту адвокат заявил, что первоначальный текст написал он сам, а ИИ использовал только для доработки. Тем не менее, предъявленный штраф стал самым крупным в истории Калифорнии, вынесенным адвокату за использование искусственного интеллекта в судебных документах.
Данное дело поднимает важные вопросы о границах применения искусственного интеллекта в юридической сфере и необходимости строгого контроля качества информации, получаемой с помощью новых технологий, с целью сохранения доверия к судебной системе и защиты прав граждан.
