Cuestionario vinculado a una guía · duro Nivel

Tasas de alucinaciones en el cuestionario sobre herramientas legales de inteligencia artificial

Prueba cómo los estudios de Stanford definieron y midieron las alucinaciones legales de la IA, qué son las respuestas erróneas y por qué la generación de recuperación aumentada todavía falla.

Pregunta 1 de 8

¿Cómo definió el estudio de Stanford "¿Libre de alucinaciones?" una alucinación?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Cómo definió el estudio de Stanford "¿Libre de alucinaciones?" una alucinación?
    • Any answer longer than the source document
    • An answer that is either incorrect or misgrounded
    • Only a citation to a case that does not exist
    • Any answer the tool took more than a minute to produce
  2. En los términos del estudio de Stanford, ¿qué es una respuesta "mal fundamentada"?
    • An answer that refuses to respond
    • An answer written in the wrong language
    • An answer with no citations at all
    • An answer that cites a real source that does not support its claim
  3. ¿Qué herramienta obtuvo los mejores resultados en la prueba de Stanford 2024 pero aún alucinó en más del 17 % de las consultas?
    • Lexis+ AI
    • Westlaw AI-Assisted Research
    • Ask Practical Law AI
    • GPT-4 used as a comparison
  4. ¿Qué rango de alucinación encontró "Large Legal Fictions" para los chatbots de propósito general en preguntas verificables de tribunales federales?
    • 1 to 3 percent
    • 17 to 33 percent
    • 69 to 88 percent
    • 95 to 100 percent
  5. ¿Por qué un paso de recuperación puede encontrar la autoridad equivocada aun cuando la base de datos contiene la correcta?
    • Legal databases are encrypted and cannot be searched
    • Retrieval only works for statutes, not cases
    • Retrieval ranks documents alphabetically
    • Retrieval matches similar wording or meaning, which is not the same as legal relevance
  6. What tendency did the research find when questions contained a false premise?
    • Models tended to accept the premise and answer as if it were true
    • Models always corrected the premise
    • Models refused every such question
    • Models replied only with the text of the relevant statute
  7. Which mitigation specifically helps flag a cited case that was later reversed or overruled?
    • Raising the model's temperature setting
    • Making answers shorter
    • Translating the query into another language
    • Connecting a citator such as KeyCite or Shepard's
  8. What marketing claim did the Stanford study's title directly question?
    • That legal AI tools were cheaper than paralegals
    • That some tools were 'hallucination-free'
    • That legal AI could pass the bar exam
    • That AI tools were approved by courts