What is Safety Filter? Definition | AI Understanding

定义

阻止或重写不安全模型输入或输出的调节层。

相关术语

使用将输入映射到已知输出的标记示例来训练模型。

有证据支持的结构化论证，表明人工智能系统对于定义的使用环境是安全的。

人工智能对齐

让人工智能系统按照人类意图、价值观和安全约束行事的工作。

人工智能安全

该领域专注于减少人工智能系统中的有害行为、故障和误用风险。

由于数据、假设或建模选择的偏差而导致模型输出的系统性不公平。

将标签或目标输出分配给原始数据以进行监督学习的过程。

在我们的免费指南中了解更多信息

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

参见

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

浏览完整的人工智能术语表探索所有免费的人工智能指南