What is Safety Filter? Definition | AI Understanding

Meghatározás

Egy moderációs réteg, amely blokkolja vagy átírja a nem biztonságos modell bemeneteket vagy kimeneteket.

Kapcsolódó kifejezések

Felügyelt tanulás

Modell betanítása címkézett példákkal, amelyek a bemeneteket ismert kimenetekre képezik le.

Biztonsági tok

Bizonyítékokkal alátámasztott strukturált érv, amely szerint egy mesterséges intelligencia-rendszer biztonságos egy meghatározott felhasználási környezetben.

A mesterséges intelligencia rendszerek emberi szándékok, értékek és biztonsági korlátok szerinti viselkedésre késztetése.

A mesterséges intelligencia rendszerekben a káros viselkedés, a hibák és a visszaélések kockázatának csökkentésére összpontosító terület.

Algoritmikus torzítás

A modellkimenetek szisztematikus méltánytalansága, amelyet ferde adatok, feltételezések vagy modellezési választások okoznak.

Adatcímkézés

Címkék vagy célkimenetek hozzárendelése a nyers adatokhoz a felügyelt tanuláshoz.

Tudjon meg többet ingyenes útmutatóinkból

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

See also

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót