What is Red Teaming? Definition | AI Understanding

Definisi

Menguji tekanan sistem AI dengan gesaan lawan untuk mendedahkan kegagalan dan risiko.

Istilah berkaitan

Bidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.

Sistem Pengesyoran

Saluran paip model yang meramalkan keutamaan pengguna untuk kedudukan kandungan atau produk.

Keupayaan model untuk mengekalkan prestasi di bawah bunyi bising, peralihan atau input lawan.

AGI (Kecerdasan Am Buatan)

Sistem AI hipotetikal yang boleh melaksanakan kebanyakan tugas intelektual pada peringkat manusia merentas banyak domain.

Sistem perisian yang boleh memerhati, menaakul dan mengambil tindakan untuk mencapai matlamat, selalunya menggunakan alatan dan ingatan.

Ketelusan Algoritma

Betapa jelasnya logik, sumber data dan batasan sistem AI didokumenkan dan boleh difahami.

Ketahui lebih lanjut dalam panduan percuma kami

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma