Termin ze słownika AI

Czym jest Poręcze?

Definicja

Reguły, kontrole i kontrole ograniczające niebezpieczne lub niepożądane zachowanie modelu.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Bezpieczeństwo AIDziedzina skupiająca się na ograniczaniu szkodliwych zachowań, awarii i ryzyka niewłaściwego użycia w systemach AI.AlgorytmZdefiniowany zestaw reguł lub kroków, które wykonuje komputer, aby rozwiązać problem lub wykonać zadanie.StronniczośćSpójny wzorzec błędów lub nieuczciwości w danych lub zachowaniu modelu.WyjaśnialnośćStopień, w jakim zachowanie modelu można zinterpretować i wyjaśnić ludziom.Nauka kilku strzałówUczenie się lub dostosowywanie zachowań na podstawie niewielkiej liczby przykładów.Uczenie się przez wzmocnienie na podstawie informacji zwrotnej od ludzi (RLHF)Metoda szkoleniowa wykorzystująca sygnały preferencji ludzkich do kształtowania zachowań modelu.

Dowiedz się więcej z naszych bezpłatnych przewodników

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Zobacz także

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning