什麼是安全過濾器？定義 | AI Understanding

定義

阻止或重寫不安全模型輸入或輸出的調節層。

相關術語

使用將輸入映射到已知輸出的標記範例來訓練模型。

有證據支持的結構化論證，顯示人工智慧系統對於定義的使用環境是安全的。

人工智慧對齊

讓人工智慧系統按照人類意圖、價值觀和安全約束行事的工作。

人工智慧安全

該領域專注於減少人工智慧系統中的有害行為、故障和誤用風險。

演算法偏差

由於資料、假設或建模選擇的偏差而導致模型輸出的系統性不公平。

將標籤或目標輸出分配給原始資料以進行監督學習的過程。

在我們的免費指南中了解更多信息

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

參見

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南