Термін глосарію AI

Що таке Огородження?

Визначення

Правила, перевірки та елементи керування, які обмежують небезпечну або небажану поведінку моделі.

Перегляньте повний Глосарій ШІПерегляньте всі безкоштовні посібники зі штучного інтелекту

Споріднені терміни

ШІ БезпекаОбласть, зосереджена на зниженні шкідливої ​​поведінки, збоїв і ризиків неправильного використання в системах ШІ.АлгоритмВизначений набір правил або кроків, яких дотримується комп’ютер для вирішення проблеми або виконання завдання.УпередженістьПослідовна модель помилок або несправедливості в даних або поведінці моделі.ПояснюваністьСтупінь, до якого поведінку моделі можна інтерпретувати та пояснити людям.Невелике навчанняВивчення або адаптація поведінки лише на невеликій кількості прикладів.Навчання з підкріпленням на основі зворотного зв’язку людини (RLHF)Метод навчання, який використовує сигнали переваг людини для формування модельної поведінки.

Дізнайтеся більше в наших безкоштовних посібниках

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Дивіться також

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning