Termine del glossario AI

Cos'è Guardrail?

Definizione

Regole, verifiche e controlli che limitano il comportamento non sicuro o indesiderato del modello.

Termini correlati

Sicurezza dell'intelligenza artificiale
Un campo incentrato sulla riduzione di comportamenti dannosi, guasti e rischi di uso improprio nei sistemi di intelligenza artificiale.
Algoritmo
Un insieme definito di regole o passaggi che un computer segue per risolvere un problema o completare un'attività.
Pregiudizio
Un modello coerente di errore o ingiustizia nei dati o nel comportamento del modello.
Spiegabilità
Il grado in cui il comportamento di un modello può essere interpretato e spiegato agli esseri umani.
Apprendimento con pochi colpi
Apprendere o adattare il comportamento solo da un numero limitato di esempi.
Apprendimento per rinforzo dal feedback umano (RLHF)
Un metodo di training che utilizza segnali di preferenza umana per modellare il comportamento del modello.

Scopri di più nelle nostre guide gratuite

Guardrails and Output ModerationAgent Guardrails

Vedi anche

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning
Sfoglia il glossario completo dell'intelligenza artificialeEsplora tutte le guide gratuite sull'intelligenza artificiale