무엇입니까? 희소 모델?

단기 운영 창을 초과하여 처리한 후 요청/응답 페이로드가 저장되지 않는 정책입니다.

계산을 줄이기 위해 각 토큰이 근처 토큰의 고정 크기 창에만 주의를 기울이는 주의 패턴입니다.

모델 입력이나 검색된 콘텐츠에 악의적인 명령을 삽입하는 공격 패턴입니다.

모델 출력이 고정된 서면 원칙 세트에 따라 안내되는 교육 및 행동 형성 접근 방식입니다.

유사한 개념이 벡터로 서로 가까이 위치하는 압축된 표현 공간입니다.

작은 초안 모델이 더 큰 모델이 병렬로 검증하는 토큰을 제안하는 추론 가속화 방법입니다.