What is Safety Filter? Definition | AI Understanding

Definiție

Un strat de moderare care blochează sau rescrie intrările sau ieșirile nesigure ale modelului.

Termeni înrudiți

Învățare supravegheată

Antrenarea unui model cu exemple etichetate care mapează intrările la ieșiri cunoscute.

Caz de siguranță

Un argument structurat, susținut de dovezi, că un sistem AI este sigur pentru un context definit de utilizare.

Lucrarea de a face sistemele AI să se comporte conform intențiilor umane, valorilor și constrângerilor de siguranță.

Un domeniu axat pe reducerea comportamentului dăunător, a eșecurilor și a riscurilor de utilizare greșită în sistemele AI.

Bias algoritmic

Nedreptate sistematică în rezultatele modelului cauzată de date, ipoteze sau opțiuni de modelare distorsionate.

Etichetarea datelor

Procesul de atribuire a etichetelor sau a rezultatelor țintă datelor brute pentru învățarea supravegheată.

Aflați mai multe în ghidurile noastre gratuite

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

Vezi și

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite