A continuaciónSiguiente guía
Citas falsas de casos de IA y sanciones judiciales: Mata v. Avianca
sociedad
GUÍA de sociedad
Abogados sancionados por citaciones de casos fabricados con IA
Los abogados han sido sancionados por presentar escritos que contienen citas de casos inventados por herramientas de inteligencia artificial generativa, el más famoso en Mata v.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Avianca en 2023, donde un juez federal impuso una multa de 5.000 dólares a dos abogados y su firma. Estos casos son importantes porque la falla es la verificación omitida, no el uso de la herramienta, y los tribunales tratan las citaciones no verificadas como un incumplimiento del deber del abogado para con el tribunal.
Buceo profundo
Mata contra Avianca, Inc. fue una demanda ordinaria por lesiones personales en el Distrito Sur de Nueva York: un pasajero dijo que un carrito de servicio de metal le golpeó la rodilla en un vuelo de 2019. Cuando Avianca solicitó desestimar el caso, la oposición del demandante citó decisiones, incluida una denominada Varghese contra China Southern Airlines, que no existía. Ni el abogado de la parte contraria ni el tribunal pudieron encontrarlos. El abogado que realizó la investigación, Steven Schwartz, había utilizado ChatGPT, creía que funcionaba como un motor de búsqueda y le pidió que confirmara que los casos eran reales, y así fue. Su colega Peter LoDuca firmó los documentos. Cuando el tribunal les ordenó presentar las decisiones, presentaron textos generados por IA presentados como opiniones. El 22 de junio de 2023, el juez P. Kevin Castel impuso una multa de $5,000 a los dos abogados y su firma bajo la Regla 11 y les ordenó escribir a su cliente y a cada juez real nombrado falsamente como autor. El tribunal dejó claro que el uso de la IA no era el problema. Los abogados fracasaron al abandonar sus responsabilidades y continuar defendiendo los casos falsos después de ser interrogados. Los casos posteriores muestran que el patrón persiste. El Segundo Circuito en Park v. Kim (2024) remitió a un abogado para una posible disciplina. En Estados Unidos contra Cohen, las citaciones generadas por Bard llegaron a un expediente, aunque el juez rechazó las sanciones. En Wadsworth v. Walmart (2025), los abogados fueron sancionados por citaciones de la herramienta de inteligencia artificial interna de su firma, lo que demuestra que las herramientas internas o legales específicas no son inmunes. Algunos jueces, incluido el juez Brantley Starr del Distrito Norte de Texas en 2023, ahora exigen certificaciones sobre el uso de IA. El error central es que pedirle a la IA que se verifique dos veces cuenta como verificación. No es así. Un modelo al que se le pregunta si existe un caso a menudo generará un sí confiado. Verificación significa recuperar la opinión real de una fuente autorizada y leerla.
Implementación en el mundo real
En Mata v. Avianca, un abogado utilizó ChatGPT para investigar un caso de lesiones de una aerolínea y luego preguntó a ChatGPT si los casos eran reales; dijo que sí, y las autoridades inventadas se presentaron ante el tribunal.
En Park v. Kim (2024), el Segundo Circuito remitió a un abogado a su panel de quejas después de que un escrito de respuesta citara una decisión inexistente que ella reconoció que provenía de ChatGPT.
En Estados Unidos contra Cohen, las citaciones que Michael Cohen encontró usando Google Bard y transmitidas a su abogado terminaron en un expediente judicial; El juez Jesse Furman se negó a imponer sanciones pero consideró que las citaciones no habían sido verificadas.
En Wadsworth v. Walmart (2025), un tribunal federal de Wyoming sancionó a abogados después de que mociones citaran casos producidos por la herramienta de inteligencia artificial interna de su empresa, con la pena más severa para el abogado que redactó la presentación.
El futuro de los abogados sancionados por citaciones de casos fabricados con IA
Los tribunales siguen encontrando citaciones fabricadas por IA, tanto de abogados experimentados de grandes bufetes como de litigantes que se representan a sí mismos, por lo que el problema no está desapareciendo por sí solo. Las respuestas varían: algunos jueces emiten órdenes permanentes que exigen divulgación o certificación, otros se basan en deberes existentes de la Regla 11, y los reguladores de los colegios de abogados tratan cada vez más las faltas repetidas u ocultas como asuntos disciplinarios. Las funciones de verificación de citas en las plataformas de investigación y redacción pueden detectar más errores antes de presentarlo, pero confirmar que existe un caso es más fácil que confirmar que respalda la propuesta declarada. La solución duradera sigue siendo un hábito en toda la empresa: cada autoridad se lee antes de citarla.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Realice el cuestionario sobre abogados sancionados por citaciones de casos fabricados por IA
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué se sanciona a los abogados por citaciones de casos fabricados por IA?
Los abogados han sido sancionados por presentar escritos que contienen citaciones de casos inventados por herramientas de inteligencia artificial generativa, el más famoso en Mata v. Avianca en 2023, donde un juez federal impuso una multa de $5,000 a dos abogados y su firma. Estos casos son importantes porque la falla es la verificación omitida, no el uso de la herramienta, y los tribunales tratan las citaciones no verificadas como un incumplimiento del deber del abogado para con el tribunal.
En Mata v. Avianca, ¿qué pasó cuando el abogado investigador preguntó a ChatGPT si los casos citados eran reales?
ChatGPT confirmó que los casos inventados eran reales, lo que ilustra por qué pedirle a un modelo que verifique su propia salida no es verificación.
¿Qué sanción impuso el juez Castel en Mata vs. Avianca del 22 de junio de 2023?
El tribunal impuso una multa de 5.000 dólares según la Regla 11 y exigió a los abogados que notificaran a su cliente y a cada juez identificado falsamente como autor de una opinión falsa.
Según la guía, ¿qué identificó el juzgado de Mata como el verdadero fracaso de los abogados?
El tribunal dijo que el uso de la IA en sí no era el problema. El fracaso fue no verificar y luego seguir defendiendo a las autoridades fabricadas.
What lesson does the guide draw from Wadsworth v. Walmart?
The citations came from the firm's own AI platform, showing that in-house or legal-specific tools do not remove the need for verification.
Why can a language model produce a fake citation that looks convincing?
The predictable structure of party names, reporter, volume, page, court and year lets a model generate plausible-looking strings without any link to a real opinion.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.