What is Guardrails? Definition | AI Understanding

Definicja

Reguły, kontrole i kontrole ograniczające niebezpieczne lub niepożądane zachowanie modelu.

Powiązane terminy

Bezpieczeństwo AI

Dziedzina skupiająca się na ograniczaniu szkodliwych zachowań, awarii i ryzyka niewłaściwego użycia w systemach AI.

Zdefiniowany zestaw reguł lub kroków, które wykonuje komputer, aby rozwiązać problem lub wykonać zadanie.

Spójny wzorzec błędów lub nieuczciwości w danych lub zachowaniu modelu.

Wyjaśnialność

Stopień, w jakim zachowanie modelu można zinterpretować i wyjaśnić ludziom.

Nauka kilku strzałów

Uczenie się lub dostosowywanie zachowań na podstawie niewielkiej liczby przykładów.

Uczenie się przez wzmocnienie na podstawie informacji zwrotnej od ludzi (RLHF)

Metoda szkoleniowa wykorzystująca sygnały preferencji ludzkich do kształtowania zachowań modelu.

Dowiedz się więcej z naszych bezpłatnych przewodników

Guardrails and Output Moderation Agent Guardrails

Zobacz także

Ground Truth Hallucination Gradient Descent Human-in-the-Loop Gradient Hyperparameter Generative AI In-Context Learning

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI