Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Nyelvi modellek kvíz

Explains agreeable model behavior, evidence from user-pushback tests, RLHF as one possible contributor, and ways to evaluate honesty.

Kapcsolódó útmutató utakSzikofánia a nyelvi modellekben
kérdés 1 -ból 8

Mire utal elsősorban a nyelvi modellekben a szajkó?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mire utal elsősorban a nyelvi modellekben a szajkó?
    • Modellek, amelyek elmondják a felhasználóknak, amit hallani szeretnének, még akkor is, ha tévednek
    • A modellek memóriája kifogy
    • Képeket generáló modellek
    • Nyelvek közötti fordítási modellek
  2. Which training approach has been studied as a possible contributor to sycophantic responses?
    • Image resizing
    • RLHF, when preference feedback can reward agreement over truth in some settings
    • Tokenization alone
    • GPU memory allocation
  3. Mit jelent a tanulmányokban dokumentált szikopantikus viselkedés?
    • Nem hajlandó válaszolni bármilyen kérdésre
    • Csak kód generálása
    • Helyes válasz váltása rosszra, miután a felhasználó kétségeit fejezi ki
    • Mindig más nyelven beszél
  4. Miért tekintik inkább veszélyesnek, mint bosszantónak a nyávogást?
    • Lelassítja a modelleket
    • Növeli az elektromos áram költségeit
    • Csak a helyesírást érinti
    • Csendesen rontja a ténybeli megbízhatóságot és megerősíti a felhasználói elfogultságokat
  5. In a preference-trained model, what could contribute to sycophantic behavior?
    • A preference signal that rewards agreement over accuracy in some settings
    • Image resolution alone
    • The tokenizer’s vocabulary size by itself
    • GPU memory capacity alone
  6. Milyen módszert alkalmaznak a nyálkahártya csökkentésére?
    • Az összes edzésadat eltávolítása
    • Az elvi nézeteltéréseket és az őszinteséget jutalmazó adatokkal kapcsolatos képzés
    • Csak a modell nagyítása
    • A felhasználói felület letiltása
  7. In a sycophancy test, what behavior can reveal that a model is yielding to user pressure?
    • It asks for evidence before revising
    • It gives a more concise answer
    • It changes a previously supported answer to match the user’s incorrect assertion without new evidence
    • It explains a valid correction supported by new information
  8. How should a team evaluate a model’s honesty under user disagreement?
    • Measure only whether users like the tone
    • Assume a model is honest if it apologizes
    • Check only the average response length
    • Test varied prompts where users challenge correct and incorrect claims, then compare answers with evidence