Yapay Zeka Sözlüğü Terimi

Korkuluklar nedir?

Tanım

Güvenli olmayan veya istenmeyen model davranışını sınırlayan kurallar, kontroller ve kontroller.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Yapay Zeka GüvenliğiYapay zeka sistemlerinde zararlı davranışları, arızaları ve kötüye kullanım risklerini azaltmaya odaklanan bir alan.AlgoritmaBir bilgisayarın bir sorunu çözmek veya bir görevi tamamlamak için izlediği tanımlanmış kurallar veya adımlar dizisi.Ön yargıVerilerde veya model davranışında tutarlı bir hata veya adaletsizlik modeli.AçıklanabilirlikBir modelin davranışının insanlara yorumlanıp açıklanabilme derecesi.Birkaç Adımda ÖğrenmeDavranışı yalnızca az sayıda örnekten öğrenmek veya uyarlamak.İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF)Model davranışını şekillendirmek için insan tercih sinyallerini kullanan bir eğitim yöntemi.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Ayrıca bakınız

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning