학습 뉴스 도구 채용 미션

AI 용어집

대기 시간(이)란?

정의

요청을 보내는 것과 모델의 출력을 받는 것 사이의 시간입니다.

전체 AI 용어집 찾아보기 무료 AI 가이드 모두 살펴보기

주의 메커니즘출력을 생성할 때 입력의 관련 부분에 동적으로 초점을 맞추는 모델 구성 요소입니다.자율 시스템인간의 직접적인 통제가 제한되거나 전혀 없는 상태에서 실시간으로 결정을 내리고 행동할 수 있는 시스템입니다.클립텍스트와 이미지 간의 공유 표현을 학습하는 다중 모드 모델 아키텍처입니다.데이터 드리프트시간에 따른 실제 입력 데이터의 변화로 인해 모델 성능이 저하될 수 있습니다.추론 시간 계산각 응답을 생성하는 동안 소비된 처리 능력의 양입니다.지식 차단모델의 학습 데이터에 반영된 최신 시점입니다.

무료 가이드에서 자세히 알아보세요

Tail Latency in Model Serving Reducing LLM App Latency Time to First Token and Latency Metrics

또한보십시오

Label Smoothing Large Language Model (LLM)Knowledge Graph Learning Rate Knowledge Distillation LoRA (Low-Rank Adaptation)Loss Function Jailbreak