AI 용어집

모델 양자화(이)란?

정의

모델 가중치의 수치 정밀도를 줄여 메모리와 추론 비용을 줄입니다.

전체 AI 용어집 찾아보기무료 AI 가이드 모두 살펴보기

관련 용어

양자화모델 가중치를 8비트 또는 4비트와 같은 낮은 정밀도 형식으로 변환합니다.QLoRA4비트 가중치 양자화와 LoRA 어댑터를 결합하여 메모리 요구 사항을 줄이는 미세 조정 기술입니다.플래시 주의메모리 사용을 줄이고 변환기 훈련 및 추론 속도를 높이는 최적화된 주의 알고리즘입니다.메모리(에이전트 메모리)AI 에이전트는 연속성을 향상하기 위해 여러 단계 또는 세션에서 사용하는 저장된 컨텍스트입니다.AI 에이전트종종 도구와 메모리를 사용하여 목표를 달성하기 위해 관찰하고, 추론하고, 조치를 취할 수 있는 소프트웨어 시스템입니다.AI 안전AI 시스템의 유해한 행동, 실패, 오용 위험을 줄이는 데 중점을 둔 분야입니다.

무료 가이드에서 자세히 알아보세요

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

또한보십시오

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)