Termín glosář AI

co je Zábradlí?

Definice

Pravidla, kontroly a ovládací prvky, které omezují nebezpečné nebo nežádoucí chování modelu.

Související pojmy

Bezpečnost AI
Oblast zaměřená na snižování škodlivého chování, selhání a rizik zneužití v systémech umělé inteligence.
Algoritmus
Definovaná sada pravidel nebo kroků, kterými se počítač řídí, aby vyřešil problém nebo dokončil úkol.
Zaujatost
Konzistentní vzorec chyb nebo nespravedlivosti v chování dat nebo modelu.
Vysvětlitelnost
Míra, do jaké lze chování modelu interpretovat a vysvětlit lidem.
Učení několika výstřelů
Naučit se nebo přizpůsobit chování pouze z malého počtu příkladů.
Posílení učení z lidské zpětné vazby (RLHF)
Tréninková metoda, která využívá signály lidských preferencí k formování chování modelu.

Více se dozvíte v našich bezplatných průvodcích

Guardrails and Output ModerationAgent Guardrails

Viz také

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning
Projděte si celý glosář AIProzkoumejte všechny bezplatné průvodce AI