What is Safety Filter? Definition | AI Understanding

Визначення

Рівень модерації, який блокує або переписує небезпечні входи або виходи моделі.

Споріднені терміни

Контрольоване навчання

Навчання моделі з позначеними прикладами, які відображають вхідні дані та відомі результати.

Безпечний футляр

Структурований аргумент, підтверджений доказами, що система ШІ є безпечною для певного контексту використання.

Вирівнювання AI

Робота над тим, щоб системи штучного інтелекту вели себе відповідно до людських намірів, цінностей і обмежень безпеки.

ШІ Безпека

Область, зосереджена на зниженні шкідливої поведінки, збоїв і ризиків неправильного використання в системах ШІ.

Алгоритмічний зсув

Систематична несправедливість у результатах моделі, спричинена спотвореними даними, припущеннями чи вибором моделювання.

Маркування даних

Процес призначення тегів або цільових виходів необробленим даним для контрольованого навчання.

Дізнайтеся більше в наших безкоштовних посібниках

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

See also

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту