В документе предупреждается, что агенты LLM могут восстановить удаленные знания с помощью инструментов.
В новой статье arXiv указан пробел в отучении LLM: агент может перестать вызывать информацию из своих весов, но восстановить ее с помощью инструментов веб-поиска, извлечения данных или базы данных. Авторы предлагают двухэтапный метод, позволяющий сократить обе формы восстановления при сохранении законного использования инструментов.