Thuật ngữ thuật ngữ AI

Lan can là gì?

Định nghĩa

Các quy tắc, kiểm tra và kiểm soát nhằm hạn chế hành vi không an toàn hoặc không mong muốn của mô hình.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

An toàn AIMột lĩnh vực tập trung vào việc giảm các hành vi có hại, lỗi và rủi ro lạm dụng trong hệ thống AI.Thuật toánMột bộ quy tắc hoặc các bước xác định mà máy tính tuân theo để giải quyết vấn đề hoặc hoàn thành một nhiệm vụ.thiên vịMột dạng lỗi hoặc sự không công bằng nhất quán trong dữ liệu hoặc hành vi của mô hình.Khả năng giải thíchMức độ mà hành vi của một mô hình có thể được diễn giải và giải thích cho con người.Học ít lầnHọc hỏi hoặc điều chỉnh hành vi chỉ từ một số ít ví dụ.Học tăng cường từ phản hồi của con người (RLHF)Một phương pháp đào tạo sử dụng tín hiệu ưu tiên của con người để định hình hành vi của mô hình.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Xem thêm

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning