Útmutatóhoz kapcsolódó kvíz · Kemény Szint

Hallucinációk aránya a jogi AI-eszközök kvízben

Azt teszteli, hogy a Stanford-tanulmányok hogyan határozták meg és mérték a legális mesterséges intelligencia hallucinációkat, mik a téves válaszok, és miért nem sikerül még mindig a visszakereséssel kiegészített generálás.

kérdés 1 -ból 8

Hogyan sikerült a Stanford "hallucinációmentes"? tanulmány meghatározza a hallucinációt?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Hogyan sikerült a Stanford "hallucinációmentes"? tanulmány meghatározza a hallucinációt?
    • Any answer longer than the source document
    • An answer that is either incorrect or misgrounded
    • Only a citation to a case that does not exist
    • Any answer the tool took more than a minute to produce
  2. A Stanford-tanulmány értelmében mit jelent a „téves” válasz?
    • An answer that refuses to respond
    • An answer written in the wrong language
    • An answer with no citations at all
    • An answer that cites a real source that does not support its claim
  3. Melyik eszköz teljesített a legjobban a 2024-es Stanford-tesztben, de még mindig hallucinált a lekérdezések több mint 17 százalékánál?
    • Lexis+ AI
    • Westlaw AI-Assisted Research
    • Ask Practical Law AI
    • GPT-4 used as a comparison
  4. Milyen hallucinációs tartományt talált a "Large Legal Fictions" az általános célú chatbotoknál az ellenőrizhető szövetségi bírósági kérdésekben?
    • 1 to 3 percent
    • 17 to 33 percent
    • 69 to 88 percent
    • 95 to 100 percent
  5. Miért találhat egy visszakeresési lépés rossz jogosultságot, még akkor is, ha az adatbázis tartalmazza a megfelelő jogosultságot?
    • Legal databases are encrypted and cannot be searched
    • Retrieval only works for statutes, not cases
    • Retrieval ranks documents alphabetically
    • Retrieval matches similar wording or meaning, which is not the same as legal relevance
  6. What tendency did the research find when questions contained a false premise?
    • Models tended to accept the premise and answer as if it were true
    • Models always corrected the premise
    • Models refused every such question
    • Models replied only with the text of the relevant statute
  7. Which mitigation specifically helps flag a cited case that was later reversed or overruled?
    • Raising the model's temperature setting
    • Making answers shorter
    • Translating the query into another language
    • Connecting a citator such as KeyCite or Shepard's
  8. What marketing claim did the Stanford study's title directly question?
    • That legal AI tools were cheaper than paralegals
    • That some tools were 'hallucination-free'
    • That legal AI could pass the bar exam
    • That AI tools were approved by courts