РУКОВОДСТВО ПО ОБЩЕСТВУ

Юристы наказаны за цитирование дел, сфабрикованных с помощью искусственного интеллекта

Адвокаты были наказаны за подачу меморандумов, содержащих ссылки на дела, выдуманные генеративными ИИ‑инструментами, наиболее известный случай — Mata v.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее адвокатов, наказанных за ИИ‑созданные ссылки на судебные дела
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Avianca в 2023 году, когда федеральный судья наложил штраф в размере 5 000 долларов на двух адвокатов и их фирму. Эти дела важны, потому что ошибка заключается в отсутствии проверки, а не в использовании инструмента, и суды рассматривают непроверенные ссылки как нарушение обязанности адвоката перед судом.

Глубокое погружение

Mata v. Avianca, Inc. was an ordinary personal injury suit in the Southern District of New York: a passenger said a metal serving cart struck his knee on a 2019 flight. When Avianca moved to dismiss, the plaintiff's opposition cited decisions, including one styled Varghese v. China Southern Airlines, that did not exist. Neither opposing counsel nor the court could find them. The lawyer who did the research, Steven Schwartz, had used ChatGPT, believed it worked like a search engine, and asked it to confirm the cases were real, which it did. His colleague Peter LoDuca signed the filings. When the court ordered them to produce the decisions, they submitted AI-generated text presented as opinions. On June 22, 2023, Judge P. Kevin Castel imposed a $5,000 penalty on the two lawyers and their firm under Rule 11 and ordered them to write to their client and to each real judge falsely named as an author. The court made clear that using AI was not the problem. The lawyers failed by abandoning their responsibilities and continuing to stand by the fake cases after they were questioned. Later cases show the pattern persisting. The Second Circuit in Park v. Kim (2024) referred an attorney for possible discipline. In United States v. Cohen, Bard-generated citations reached a filing, though the judge declined sanctions. In Wadsworth v. Walmart (2025), lawyers were sanctioned over citations from their firm's in-house AI tool, showing that internal or legal-specific tools are not immune. Some judges, including Judge Brantley Starr of the Northern District of Texas in 2023, now require certifications about AI use. The central misconception is that asking the AI to double-check itself counts as verification. It does not. A model asked whether a case exists will often generate a confident yes. Verification means retrieving the actual opinion from an authoritative source and reading it.

Реальная реализация

В деле Mata v. Avianca адвокат использовал ChatGPT для исследования дела о травме в авиакомпании, затем спросил ChatGPT, являются ли эти дела реальными; ИИ ответил, что да, и вымышленные источники были поданы в суд.

В деле Park v. Kim (2024) Второй окружной суд направил адвоката в свою дисциплинарную панель после того, как в ответном меморандуме была указана несуществующая судебная постановка, которую она признала полученной от ChatGPT.

В деле United States v. Cohen ссылки, найденные Майклом Коэном с помощью Google Bard и переданные его адвокату, оказались в судебном документе; судья Джесси Фурман отказался налагать санкции, но отметил, что ссылки не были проверены.

В деле Wadsworth v. Walmart (2025) федеральный суд Вайоминга наложил санкции на адвокатов после того, как ходатайства ссылались на дела, созданные внутренним ИИ‑инструментом их фирмы, при этом наибольшая санкция была наложена на юриста, который подготовил исковое заявление.

Будущее адвокатов, наказанных за ИИ‑созданные ссылки на судебные дела

Суды продолжают сталкиваться с искусственно созданными ИИ ссылками, как от опытных адвокатов в крупных фирмах, так и от самопредставляющихся истцов, поэтому проблема не исчезает сама по себе. Реакции различаются: одни судьи издают постоянные распоряжения, требующие раскрытия или сертификации, другие опираются на существующие обязанности по Правилу 11, а регулирующие органы адвокатской деятельности всё чаще рассматривают повторные или скрытые нарушения как дисциплинарные вопросы. Функции проверки ссылок в платформах для исследований и составления документов могут выявлять больше ошибок до подачи, но подтвердить, что дело существует, проще, чем подтвердить, что оно поддерживает заявленное утверждение. Долговременное решение остаётся привычкой на уровне всей фирмы: каждый источник читается перед тем, как его цитировать.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Пройдите викторину «Адвокаты, наказанные за искусственно созданные ИИ ссылки на дела»

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое «Адвокаты, наказанные за искусственно созданные ИИ ссылки на дела»?

Адвокаты были наказаны за подачу материалов, содержащих ссылки на дела, придуманные генеративными ИИ‑инструментами, наиболее известный случай — Mata v. Avianca в 2023 году, когда федеральный судья наложил штраф в размере 5 000 долларов на двух юристов и их фирму. Эти случаи важны, потому что ошибка заключается в отсутствии проверки, а не в использовании инструмента, и суды рассматривают непроверенные ссылки как нарушение обязанности адвоката перед судом.

Что произошло в деле Мата против Авианки, когда адвокат-расследователь спросил ChatGPT, реальны ли упомянутые случаи?

ChatGPT подтвердил, что придуманные случаи были реальными, что иллюстрирует, почему запрос модели на проверку собственных результатов не является проверкой.

Какую санкцию наложил судья Кастель в деле Мата против Авианки 22 июня 2023 г.?

Суд наложил штраф в размере 5000 долларов США по Правилу 11 и потребовал от адвокатов уведомить своего клиента и каждого судью, ошибочно идентифицированного как автор ложного мнения.

В чем, по мнению руководства, суд в Мате назвал настоящую неудачу адвокатов?

Суд заявил, что использование ИИ само по себе не является проблемой. Провалом было не проверить, а затем продолжить защищать сфабрикованные авторитеты.

Какой урок руководство извлекло из дела Уодсворт против Walmart?

Цитаты взяты из собственной платформы искусственного интеллекта компании и показывают, что внутренние или юридические инструменты не устраняют необходимость проверки.

Почему языковая модель может создавать фальшивую цитату, которая выглядит убедительно?

Предсказуемая структура названий партий, репортера, тома, страницы, суда и года позволяет модели генерировать правдоподобные строки без какой-либо связи с реальным мнением.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →