What is Guardrails? Definition | AI Understanding

Определение

Правила, проверки и контроли, които ограничават небезопасното или нежелано поведение на модела.

Свързани термини

AI Безопасност

Област, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.

Алгоритъм

Дефиниран набор от правила или стъпки, които компютърът следва, за да разреши проблем или да изпълни задача.

Пристрастие

Последователен модел на грешка или несправедливост в данните или поведението на модела.

Обяснимост

Степента, до която поведението на модела може да бъде интерпретирано и обяснено на хората.

Малкократно обучение

Учене или адаптиране на поведение само от малък брой примери.

Обучение за подсилване от човешка обратна връзка (RLHF)

Метод на обучение, който използва сигнали за човешки предпочитания, за да оформи поведението на модела.

Научете повече в нашите безплатни ръководства

Guardrails and Output Moderation Agent Guardrails

See also

Ground Truth Hallucination Gradient Descent Human-in-the-Loop Gradient Hyperparameter Generative AI In-Context Learning

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI