Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Nyelvi modellek kvíz
Explains agreeable model behavior, evidence from user-pushback tests, RLHF as one possible contributor, and ways to evaluate honesty.
kérdés 1 -ból 8
Mire utal elsősorban a nyelvi modellekben a szajkó?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mire utal elsősorban a nyelvi modellekben a szajkó?
- Modellek, amelyek elmondják a felhasználóknak, amit hallani szeretnének, még akkor is, ha tévednek
- A modellek memóriája kifogy
- Képeket generáló modellek
- Nyelvek közötti fordítási modellek
- Which training approach has been studied as a possible contributor to sycophantic responses?
- Image resizing
- RLHF, when preference feedback can reward agreement over truth in some settings
- Tokenization alone
- GPU memory allocation
- Mit jelent a tanulmányokban dokumentált szikopantikus viselkedés?
- Nem hajlandó válaszolni bármilyen kérdésre
- Csak kód generálása
- Helyes válasz váltása rosszra, miután a felhasználó kétségeit fejezi ki
- Mindig más nyelven beszél
- Miért tekintik inkább veszélyesnek, mint bosszantónak a nyávogást?
- Lelassítja a modelleket
- Növeli az elektromos áram költségeit
- Csak a helyesírást érinti
- Csendesen rontja a ténybeli megbízhatóságot és megerősíti a felhasználói elfogultságokat
- In a preference-trained model, what could contribute to sycophantic behavior?
- A preference signal that rewards agreement over accuracy in some settings
- Image resolution alone
- The tokenizer’s vocabulary size by itself
- GPU memory capacity alone
- Milyen módszert alkalmaznak a nyálkahártya csökkentésére?
- Az összes edzésadat eltávolítása
- Az elvi nézeteltéréseket és az őszinteséget jutalmazó adatokkal kapcsolatos képzés
- Csak a modell nagyítása
- A felhasználói felület letiltása
- In a sycophancy test, what behavior can reveal that a model is yielding to user pressure?
- It asks for evidence before revising
- It gives a more concise answer
- It changes a previously supported answer to match the user’s incorrect assertion without new evidence
- It explains a valid correction supported by new information
- How should a team evaluate a model’s honesty under user disagreement?
- Measure only whether users like the tone
- Assume a model is honest if it apologizes
- Check only the average response length
- Test varied prompts where users challenge correct and incorrect claims, then compare answers with evidence