What is Safety Filter? Definition | AI Understanding

Definice

Vrstva moderování, která blokuje nebo přepisuje nebezpečné vstupy nebo výstupy modelu.

Související pojmy

Učení pod dohledem

Trénink modelu s označenými příklady, které mapují vstupy na známé výstupy.

Bezpečnostní pouzdro

Strukturovaný argument podpořený důkazy, že systém umělé inteligence je bezpečný pro definovaný kontext použití.

Práce na tom, aby se systémy AI chovaly podle lidských záměrů, hodnot a bezpečnostních omezení.

Oblast zaměřená na snižování škodlivého chování, selhání a rizik zneužití v systémech umělé inteligence.

Algoritmické zkreslení

Systematická nespravedlnost ve výstupech modelu způsobená zkreslenými daty, předpoklady nebo volbami modelování.

Označování dat

Proces přiřazování značek nebo cílových výstupů k nezpracovaným datům pro učení pod dohledem.

Více se dozvíte v našich bezplatných průvodcích

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

Viz také

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI