LegközelebbKövetkező útmutató
AI hallucinációk
Nyelvi AI
Nyelvi AI ÚTMUTATÓ
Chain-of-Verification vázlatot készít, célzott ellenőrző kérdéseket tervez, ezeket a kérdéseket különválaszolja, és módosítja a választ.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It reduced hallucinations in the original study's tasks, but self-checking does not guarantee truth or provide independent external evidence.
The 2023 CoVe study uses four stages: produce a baseline response, plan verification questions about its factual claims, execute those questions, and generate a revised response. Variants separate the checking answers from the original draft to reduce the influence of an earlier mistaken assertion. Separation concerns the checking context, not a proof that the same model's knowledge errors are statistically independent. The model can still answer a checking question incorrectly or repeat a shared misconception. The method reported reductions on evaluated tasks such as entity lists and long-form generation. A tool-assisted extension can use external records or calculations for checking, but evidence quality and interpretation still matter.
A kutatóasszisztens kétszer ellenőrzi a dátumokat és a neveket a generált életrajzban, mielőtt megmutatná a felhasználónak.
Egy vállalati tudásrobot, amely ellenőrzi az általa hivatkozott termékleírásokat a saját utókérdéseihez képest.
Létrehoz egy listát azokról az entitásokról (pl. „Bostonban született politikusok”), és levágja azokat, amelyeknél nem sikerült az ellenőrzés.
Orvosi információs összefoglaló, amely megjelöli és felülvizsgálja azokat az állításokat, amelyeket független ellenőrzései nem tudnak megerősíteni.
A CoVe közeledik a visszakereséshez és az eszközhasználathoz: az ellenőrző kérdésekre egyre inkább a keresés, a számológépek vagy az adatbázisok adnak választ, nem pedig a modell memóriája, ami tovább növeli a pontosságot. Várható, hogy az ügynök-keretrendszerek beépüljenek az automatikus ellenőrzési hurkokba, és a könnyebb desztillált verziók, amelyek olcsón futtatják az ellenőrzést. A bizonytalansági becslésekkel kombinálva a jövőbeli rendszerek csak olyan állítások ellenőrzését indíthatják el, amelyekben a modell nem biztos, és egyensúlyba hozza a költségeket a megbízhatósággal.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Chain-of-Verification drafts an answer, plans targeted checking questions, answers those questions separately, and revises the response. It reduced hallucinations in the original study's tasks, but self-checking does not guarantee truth or provide independent external evidence.
A CoVe egy kezdeti választervezet elkészítésével kezdődik, amelyet a későbbi lépések ellenőriznek és felülvizsgálnak.
Separating context can reduce confirmation bias, but does not eliminate knowledge errors or guarantee correctness.
A modell a tervezetében szereplő konkrét tényállításokra irányuló ellenőrző kérdéseket tervez.
Az ellenőrző válaszok és a piszkozat összehasonlítása után a CoVe kiad egy javított végső választ.
A CoVe a gördülékeny, de hamis állításokat célozza meg, csökkentve a tényszerű hibaarányt.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
AI hallucinációk
Nyelvi AI