Paper avertizează că agenții LLM pot recupera cunoștințele șterse prin instrumente
O nouă lucrare arXiv identifică o lacună în dezînvățarea LLM: un agent poate opri rechemarea informațiilor din greutățile sale, dar le recuperează prin intermediul instrumentelor de căutare pe web, de recuperare sau de baze de date. Autorii propun o metodă în două etape pentru a reduce ambele forme de recuperare, păstrând în același timp utilizarea legitimă a instrumentului.
Citiți povestea Sursa verificata: arxiv.org