Termen de glosar AI

Ce este Balustrade?

Definiție

Reguli, verificări și controale care limitează comportamentul nesigur sau nedorit al modelului.

Termeni înrudiți

Siguranța AI
Un domeniu axat pe reducerea comportamentului dăunător, a eșecurilor și a riscurilor de utilizare greșită în sistemele AI.
Algoritm
Un set definit de reguli sau pași pe care îi urmează un computer pentru a rezolva o problemă sau a finaliza o sarcină.
părtinire
Un model consistent de eroare sau incorectitudine în comportamentul datelor sau modelului.
Explicabilitate
Gradul în care comportamentul unui model poate fi interpretat și explicat oamenilor.
Învățare cu câteva lovituri
Învățarea sau adaptarea comportamentului dintr-un număr mic de exemple.
Învățare prin consolidare din feedbackul uman (RLHF)
O metodă de antrenament care utilizează semnale de preferințe umane pentru a modela comportamentul modelului.

Aflați mai multe în ghidurile noastre gratuite

Guardrails and Output ModerationAgent Guardrails

Vezi și

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite