AI Prompt Security

Διαχωρίστε την εξουσιοδοτημένη εργασία του χρήστη από το περιεχόμενο που υποβάλλεται σε επεξεργασία. Ένα έγγραφο μπορεί νόμιμα να περιέχει οδηγίες ως μέρος του αντικειμένου του. Αυτές οι λέξεις δεν θα πρέπει να ελέγχουν αυτόματα τα εργαλεία, την πρόσβαση στον λογαριασμό ή την πολιτική απόκρισης του βοηθού. Διατηρήστε τα προνόμια περιορισμένα. Μια εργασία σύνοψης γενικά δεν απαιτεί απεριόριστη πρόσβαση στο αρχείο ή άδεια για την αποστολή μηνυμάτων. Επιβάλετε αυτά τα όρια στην εφαρμογή, ώστε ένα σφάλμα μοντέλου να μην μπορεί να δημιουργήσει σιωπηλά μια ευρύτερη δυνατότητα. Επικυρώστε τα επακόλουθα αποτελέσματα και ενέργειες σε σχέση με το αρχικό αίτημα. Ελέγξτε τον προορισμό, τα επηρεαζόμενα αρχεία, τα δεδομένα που μεταδίδονται και την απαιτούμενη έγκριση. Μια εξωτερική σελίδα που ισχυρίζεται ότι ο χρήστης ενέκρινε κάτι δεν ισοδυναμεί με μια πραγματική οδηγία χρήστη. Δημιουργήστε περιπτώσεις παλινδρόμησης που ποικίλουν τη θέση και τη μορφή μη αξιόπιστων οδηγιών. Δοκιμάστε την άμεση εισαγωγή, τα ανακτημένα αποσπάσματα και τα αποτελέσματα του εργαλείου σε ένα ελεγχόμενο περιβάλλον. Ελέγξτε εάν η εφαρμογή διατηρεί τις χρήσιμες επιδόσεις της εργασίας ενώ αντιστέκεται στην ανακατεύθυνση. Αποφύγετε τους ισχυρισμούς για ένα αλάνθαστο φίλτρο άμεσης έγχυσης. Οι πολυεπίπεδοι έλεγχοι και οι συνεχείς δοκιμές είναι πιο αξιόπιστες.