Όρος Γλωσσάρι AI

Τι είναι Προστατευτικά κιγκλιδώματα;

Ορισμός

Κανόνες, έλεγχοι και έλεγχοι που περιορίζουν την μη ασφαλή ή ανεπιθύμητη συμπεριφορά του μοντέλου.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

AI ΑσφάλειαΈνα πεδίο που επικεντρώνεται στη μείωση της επιβλαβούς συμπεριφοράς, των αστοχιών και των κινδύνων κακής χρήσης σε συστήματα τεχνητής νοημοσύνης.ΑλγόριθμοςΈνα καθορισμένο σύνολο κανόνων ή βημάτων που ακολουθεί ένας υπολογιστής για να λύσει ένα πρόβλημα ή να ολοκληρώσει μια εργασία.ΜεροληψίαΈνα σταθερό μοτίβο σφάλματος ή αδικίας στα δεδομένα ή τη συμπεριφορά του μοντέλου.ΕπεξηγησιμότηταΟ βαθμός στον οποίο η συμπεριφορά ενός μοντέλου μπορεί να ερμηνευτεί και να εξηγηθεί στους ανθρώπους.Εκμάθηση λίγων βολώνΕκμάθηση ή προσαρμογή συμπεριφοράς μόνο από ένα μικρό αριθμό παραδειγμάτων.Ενισχυτική μάθηση από την ανθρώπινη ανατροφοδότηση (RLHF)Μια μέθοδος εκπαίδευσης που χρησιμοποιεί σήματα ανθρώπινης προτίμησης για να διαμορφώσει τη συμπεριφορά του μοντέλου.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Δείτε επίσης

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning