que paso
KOAT informa que la Corte Suprema de Nuevo México declaró desacato al abogado de Santa Fe Stephen Aarons, le impuso una multa de 5.000 dólares, lo remitió a una junta disciplinaria y le prohibió temporalmente comparecer ante el tribunal. Aarons admitió haber utilizado ChatGPT mientras preparaba un escrito de apelación, pero dijo que no entendía que podría fabricar testigos, testimonios, citas y autoridades legales plausibles.
KOAT informa que la Corte Suprema de Nuevo México declaró a Aarons en desacato después de que se descubrió que un escrito que presentó en la apelación de Oscar Renee Sandoval contenía material fabricado por ChatGPT. Sandoval se había declarado inocente del asesinato de su pareja y de la madre de sus hijos, según el informe.
El tribunal multó a Aarons con 5.000 dólares, lo remitió a una junta disciplinaria y le prohibió comparecer ante el Tribunal Supremo mientras continúan las investigaciones y los procedimientos. KOAT dice que el tribunal consideró que la conducta del abogado mostraba una falta de remordimiento y preocupación por su cliente.
Aarons reconoció haber utilizado ChatGPT para preparar el escrito y reconoció que no pudo verificar los reclamos fácticos antes de firmarlo y presentarlo. KOAT informa que dijo que no había apreciado que ChatGPT pudiera generar testigos, testimonios, citas y autoridades aparentemente coherentes pero inventados.
Según KOAT, la presentación incluía falsos testimonios de testigos totalmente inventados identificados como la oficial Michelle Amarillo, la oficial Sánchez, Manal Al-Jibury y Teresa Márquez, así como falsos testimonios atribuidos a testigos reales. KOAT dice que OpenAI no había respondido a las solicitudes de comentarios al momento de la publicación.
El relato se basa en el informe de KOAT y su descripción de los expedientes judiciales. Esas presentaciones no se reproducen en la fuente proporcionada, por lo que los detalles no se confirmaron aquí de forma independiente.
Detalles de la fuente: koat.com ↗
Por qué es importante
El caso muestra una consecuencia legal concreta cuando un abogado presenta resultados de IA generativa no verificados en una apelación penal. También ilustra que la responsabilidad de los expedientes judiciales sigue siendo del abogado que los firma, incluso cuando el material se produjo con una herramienta de inteligencia artificial. El incidente es especialmente trascendental porque KOAT informa que el material fabricado incluía tanto testigos enteramente ficticios como testimonios falsos atribuidos a testigos reales.
El fallo hace tangible el riesgo de fabricación legal generada por la IA: un escrito aparentemente coherente puede introducir personas y declaraciones inventadas en un procedimiento que involucra la libertad de una persona. La sanción reportada también refuerza que los abogados deben revisar y autenticar las presentaciones antes de presentarlas.
Esto no es evidencia de que ChatGPT por sí solo haya causado el resultado legal o de que cada uso de la herramienta produzca material fabricado. Se trata de una falla específica reportada para verificar las afirmaciones generadas por IA en un entorno de alto riesgo. La fuente no dice qué versión de ChatGPT o nivel de cuenta se utilizó y no proporciona pruebas independientes del comportamiento del modelo.
Para los tribunales y los profesionales del derecho, la implicación práctica es que la redacción asistida por IA requiere una verificación a nivel de fuente de cada afirmación, cita y autoridad fáctica. El caso también puede informar la orientación profesional y las expectativas disciplinarias, aunque KOAT no informa ninguna nueva regla estatal resultante del mismo.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
Why can ethical evaluation not be reduced to one model score?
Qué ver a continuación
La investigación de la junta disciplinaria y los procedimientos relacionados determinarán si Aarons enfrenta sanciones profesionales adicionales. La prohibición temporal de la Corte Suprema de Nuevo México también permanecerá vigente en espera de esos procedimientos, según KOAT. La fuente no establece de forma independiente el contenido preciso de los documentos judiciales, el alcance del daño a la apelación del acusado o si OpenAI responderá.
La revisión de la junta disciplinaria y cualquier procedimiento judicial adicional podrían aclarar las consecuencias profesionales más allá de la multa de 5.000 dólares y la prohibición temporal de comparecencia.
Del informe proporcionado se desconoce si la apelación del acusado recibirá una reparación, si el material inventado afectó la decisión del tribunal y si otros participantes en el caso enfrentarán las consecuencias.
KOAT informa que OpenAI no respondió a las solicitudes de comentarios. La fuente tampoco identifica ninguna protección, advertencia o cambio de producto específico de OpenAI relacionado con el incidente.