Το Paper προειδοποιεί ότι οι πράκτορες LLM μπορούν να ανακτήσουν τη διαγραμμένη γνώση μέσω εργαλείων
Ένα νέο χαρτί arXiv εντοπίζει ένα κενό στην απομάθηση LLM: ένας πράκτορας μπορεί να σταματήσει να ανακαλεί πληροφορίες από τα βάρη του, αλλά να τις ανακτήσει μέσω εργαλείων αναζήτησης στον ιστό, ανάκτησης ή βάσης δεδομένων. Οι συγγραφείς προτείνουν μια μέθοδο δύο σταδίων για τη μείωση και των δύο μορφών ανάκτησης διατηρώντας παράλληλα τη νόμιμη χρήση του εργαλείου.