What is Guardrails? Definition | AI Understanding

Визначення

Правила, перевірки та елементи керування, які обмежують небезпечну або небажану поведінку моделі.

Споріднені терміни

ШІ Безпека

Область, зосереджена на зниженні шкідливої поведінки, збоїв і ризиків неправильного використання в системах ШІ.

Алгоритм

Визначений набір правил або кроків, яких дотримується комп’ютер для вирішення проблеми або виконання завдання.

Упередженість

Послідовна модель помилок або несправедливості в даних або поведінці моделі.

Пояснюваність

Ступінь, до якого поведінку моделі можна інтерпретувати та пояснити людям.

Невелике навчання

Вивчення або адаптація поведінки лише на невеликій кількості прикладів.

Навчання з підкріпленням на основі зворотного зв’язку людини (RLHF)

Метод навчання, який використовує сигнали переваг людини для формування модельної поведінки.

Дізнайтеся більше в наших безкоштовних посібниках

Guardrails and Output Moderation Agent Guardrails

See also

Ground Truth Hallucination Gradient Descent Human-in-the-Loop Gradient Hyperparameter Generative AI In-Context Learning

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту