증류(이)란?

더 큰 모델의 출력을 모방하기 위해 더 작은 모델을 훈련합니다.

모델이 사전 지식을 잊지 않고 새로운 데이터로부터 계속 학습할 수 있도록 하는 훈련 접근 방식입니다.

추론 시 외부 지식을 검색하여 생성에 제공하는 방법입니다.

쿼리에 대한 지식 소스에서 관련 문서 또는 기록을 찾습니다.

데이터가 어디서 왔는지, 어떻게 변환되었는지, 어디에 사용되었는지에 대한 기록입니다.

개별 기록을 출력에서 ​​안정적으로 추론할 수 없도록 통계적 노이즈를 추가하는 개인 정보 보호 기술입니다.