학습 뉴스 도구 채용 미션

AI 용어집

양자화(이)란?

정의

모델 가중치를 8비트 또는 4비트와 같은 낮은 정밀도 형식으로 변환합니다.

전체 AI 용어집 찾아보기 무료 AI 가이드 모두 살펴보기

모델 양자화모델 가중치의 수치 정밀도를 줄여 메모리와 추론 비용을 줄입니다.QLoRA4비트 가중치 양자화와 LoRA 어댑터를 결합하여 메모리 요구 사항을 줄이는 미세 조정 기술입니다.역전파예측 오류를 네트워크를 통해 역방향으로 전파하여 모델 가중치를 업데이트하는 핵심 훈련 알고리즘입니다.CNN(컨벌루션 신경망)이미지와 같은 그리드형 데이터 처리에 최적화된 신경 아키텍처입니다.특징 추출원시 데이터를 모델이 사용할 수 있는 유용한 기능으로 변환합니다.생성형 AI텍스트, 이미지, 오디오, 비디오, 코드 등 새로운 콘텐츠를 생산하는 AI 시스템.

무료 가이드에서 자세히 알아보세요

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

또한보십시오

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming