Термин от речника на AI

Какво е Мантинели?

Определение

Правила, проверки и контроли, които ограничават небезопасното или нежелано поведение на модела.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

AI БезопасностОбласт, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.АлгоритъмДефиниран набор от правила или стъпки, които компютърът следва, за да разреши проблем или да изпълни задача.ПристрастиеПоследователен модел на грешка или несправедливост в данните или поведението на модела.ОбяснимостСтепента, до която поведението на модела може да бъде интерпретирано и обяснено на хората.Малкократно обучениеУчене или адаптиране на поведение само от малък брой примери.Обучение за подсилване от човешка обратна връзка (RLHF)Метод на обучение, който използва сигнали за човешки предпочитания, за да оформи поведението на модела.

Научете повече в нашите безплатни ръководства

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Вижте също

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning