Termen de glosar AI

Ce este Balustrade?

Definiție

Reguli, verificări și controale care limitează comportamentul nesigur sau nedorit al modelului.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Siguranța AIUn domeniu axat pe reducerea comportamentului dăunător, a eșecurilor și a riscurilor de utilizare greșită în sistemele AI.AlgoritmUn set definit de reguli sau pași pe care îi urmează un computer pentru a rezolva o problemă sau a finaliza o sarcină.părtinireUn model consistent de eroare sau incorectitudine în comportamentul datelor sau modelului.ExplicabilitateGradul în care comportamentul unui model poate fi interpretat și explicat oamenilor.Învățare cu câteva lovituriÎnvățarea sau adaptarea comportamentului dintr-un număr mic de exemple.Învățare prin consolidare din feedbackul uman (RLHF)O metodă de antrenament care utilizează semnale de preferințe umane pentru a modela comportamentul modelului.

Aflați mai multe în ghidurile noastre gratuite

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Vezi și

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning