What is Red Teaming? Definition | AI Understanding

定義

使用對抗性提示對人工智慧系統進行壓力測試，以揭示失敗和風險。

相關術語

人工智慧安全

該領域專注於減少人工智慧系統中的有害行為、故障和誤用風險。

預測使用者對內容或產品進行排名的偏好的模型管道。

模型在雜訊、變化或對抗性輸入下保持性能的能力。

AGI（通用人工智慧）

一個假設的人工智慧系統，可以在許多領域以人類層級執行大多數智力任務。

人工智慧代理

一種可以觀察、推理並採取行動來實現目標的軟體系統，通常使用工具和記憶體。

演算法透明

人工智慧系統的邏輯、資料來源和限制的記錄和理解有多清晰。

在我們的免費指南中了解更多信息

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

參見

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南