Cuestionario vinculado a una guía · duro Nivel
Tasas de alucinaciones en el cuestionario sobre herramientas legales de inteligencia artificial
Prueba cómo los estudios de Stanford definieron y midieron las alucinaciones legales de la IA, qué son las respuestas erróneas y por qué la generación de recuperación aumentada todavía falla.
Pregunta 1 de 8
¿Cómo definió el estudio de Stanford "¿Libre de alucinaciones?" una alucinación?
Vista previa de cada pregunta8 preguntas
Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.
- ¿Cómo definió el estudio de Stanford "¿Libre de alucinaciones?" una alucinación?
- Any answer longer than the source document
- An answer that is either incorrect or misgrounded
- Only a citation to a case that does not exist
- Any answer the tool took more than a minute to produce
- En los términos del estudio de Stanford, ¿qué es una respuesta "mal fundamentada"?
- An answer that refuses to respond
- An answer written in the wrong language
- An answer with no citations at all
- An answer that cites a real source that does not support its claim
- ¿Qué herramienta obtuvo los mejores resultados en la prueba de Stanford 2024 pero aún alucinó en más del 17 % de las consultas?
- Lexis+ AI
- Westlaw AI-Assisted Research
- Ask Practical Law AI
- GPT-4 used as a comparison
- ¿Qué rango de alucinación encontró "Large Legal Fictions" para los chatbots de propósito general en preguntas verificables de tribunales federales?
- 1 to 3 percent
- 17 to 33 percent
- 69 to 88 percent
- 95 to 100 percent
- ¿Por qué un paso de recuperación puede encontrar la autoridad equivocada aun cuando la base de datos contiene la correcta?
- Legal databases are encrypted and cannot be searched
- Retrieval only works for statutes, not cases
- Retrieval ranks documents alphabetically
- Retrieval matches similar wording or meaning, which is not the same as legal relevance
- What tendency did the research find when questions contained a false premise?
- Models tended to accept the premise and answer as if it were true
- Models always corrected the premise
- Models refused every such question
- Models replied only with the text of the relevant statute
- Which mitigation specifically helps flag a cited case that was later reversed or overruled?
- Raising the model's temperature setting
- Making answers shorter
- Translating the query into another language
- Connecting a citator such as KeyCite or Shepard's
- What marketing claim did the Stanford study's title directly question?
- That legal AI tools were cheaper than paralegals
- That some tools were 'hallucination-free'
- That legal AI could pass the bar exam
- That AI tools were approved by courts