삼중 손실 및 측정 학습
삼중 손실은 임베딩 공간에서 유사한 항목을 서로 가깝게 배치하고 서로 다른 항목을 멀리 배치하는 신경망을 가르칩니다.
개요
It is the foundation behind face recognition, image search, and recommendation systems that need to compare things rather than just classify them.
심층 분석
측정항목 학습은 모델을 훈련하여 거리가 유사성을 반영하는 벡터인 임베딩을 생성합니다. 삼중 손실은 앵커, 포지티브(앵커와 동일한 클래스) 및 네거티브(다른 클래스)의 세 가지 입력을 동시에 사용하여 이를 수행합니다. 목표는 적어도 고정된 마진만큼 앵커를 네거티브보다 포지티브에 더 가깝게 밀어냅니다. 공식적으로 손실은 max(0, d(a,p) - d(a,n) + margin)입니다. 여기서 d는 일반적으로 유클리드 거리입니다. Google의 2015 FaceNet은 128차원 얼굴 임베딩을 직접 학습하여 이 접근 방식을 대중화했습니다. 훈련을 마치면 거리를 계산하여 두 항목을 비교하므로 새 ID에 대한 재훈련이 필요하지 않습니다. 이 개방형 기능은 메트릭 학습 기능 검증 및 검색 작업 분류가 쉽게 처리할 수 없는 이유입니다.
기술적 통찰력
마진은 삼중 손실이 작동하도록 만드는 것입니다. 이것이 없으면 모델은 모든 임베딩을 단일 지점으로 간단하게 축소하여 모든 거리를 0으로 만들고 순서를 의미 없게 만들 수 있습니다. 마진은 버퍼를 강제합니다. 손실이 0에 도달하기 전에 음수는 적어도 양수보다 더 멀리 떨어져 있어야 합니다. 임베딩은 일반적으로 단위 초구체에 대해 L2 정규화되므로 거리가 제한되고 비교 가능합니다. 마진(종종 약 0.2)을 선택하면 클래스 간의 분리에 비해 클래스가 얼마나 긴밀하게 클러스터되는지를 절충할 수 있습니다.
전략적 영향
더 명확한 결정들
이는 명확한 기술적 주장과 마케팅 언어를 구분하는 데 도움이 됩니다.
비용 및 예산
돈이나 시간을 들이기 전에 더 나은 구현 질문을 할 수 있습니다.
팀과 워크플로우
이해를 공유한 팀은 더 나은 제품, 정책 및 학습 결정을 내립니다.
삼중 손실과 메트릭 학습의 미래
순수 삼중항 손실은 단계당 여러 쌍을 비교하고 더 빠르게 수렴하는 다중 유사성, 프록시 앵커 및 대조 손실(InfoNCE)과 같은 배치 전체 목표로 점차 대체됩니다. SimCLR과 같은 자기 지도 방법은 측정항목 학습이 증강 보기를 긍정적인 것으로 처리하여 레이블 없이 작동할 수 있음을 보여줍니다. 벡터 데이터베이스와 검색 증강 생성이 급증함에 따라 학습된 임베딩은 10억 항목 규모의 의미 검색을 뒷받침하므로 특정 삼중 공식이 사라지더라도 유사성으로서의 거리에 대한 핵심 아이디어는 더욱 중심이 되고 있습니다.
실제 구현
FaceNet 스타일 얼굴 확인: 휴대폰과 출입국 게이트는 두 개의 얼굴 임베딩이 거리 임계값 내에 있는지 확인하여 신원을 확인합니다.
시각적 제품 검색: 전자상거래 사이트에서는 쇼핑객이 사진을 업로드하고 최근접 항목 임베딩 조회를 통해 시각적으로 유사한 항목을 검색할 수 있습니다.
화자 확인: 음성 도우미는 음성 샘플을 포함하고 이를 등록된 프로필과 비교하여 누가 말하고 있는지 확인합니다.
서명 및 필기 확인: 은행은 참조를 삽입하고 서명을 쿼리하며 거리가 학습된 마진을 초과하는 경우 위조를 표시합니다.
위험 및 가드레일
팀마다 동일한 용어를 다르게 사용할 수 있으므로 범위를 조기에 정의하세요.
벤치마크는 강력해 보이지만 실제 성능은 고르지 않을 수 있습니다.
데이터 품질 및 평가 계획을 무시하면 취약한 결과가 발생하는 경우가 많습니다.
구현 로드맵
필요한 결과에 대한 일반 언어 정의부터 시작하세요.
테스트하기 전에 하나의 성공 지표와 하나의 실패 조건을 선택하세요.
세련된 데모 세트가 아닌 대표 데이터를 사용하여 소규모 파일럿을 실행하세요.
삼중 손실 및 메트릭 학습이 도움이 되는 부분과 더 간단한 방법이 더 나은 부분을 문서화하세요.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Triplet Loss and Metric Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
샴 네트워크와 삼중항 손실
자주 묻는 질문
What is Triplet Loss and Metric Learning?
삼중 손실은 임베딩 공간에서 유사한 항목을 서로 가깝게 배치하고 서로 다른 항목을 멀리 배치하는 신경망을 가르칩니다. 사물을 단순히 분류하는 것이 아니라 비교해야 하는 것이 얼굴 인식, 이미지 검색, 추천 시스템의 기반입니다.
삼중항 손실에서 삼중항을 구성하는 세 가지 입력은 무엇입니까?
삼중항은 앵커, 앵커 클래스를 공유하는 포지티브, 다른 클래스의 네거티브로 구성됩니다.
삼중 손실에 마진 기간이 포함되는 이유는 무엇입니까?
마진이 없으면 모델은 모든 것을 동일한 지점에 매핑하여 모든 거리를 0으로 만들고 손실을 간단하게 만족시킬 수 있습니다. 여백은 실제 분리를 강제합니다.
얼굴 인식에 대한 삼중항 손실을 대중화한 2015년의 유명한 시스템은 무엇입니까?
Google의 FaceNet은 삼중항 손실을 사용하여 컴팩트한 얼굴 임베딩을 학습하고 얼굴 검증의 벤치마크를 설정했습니다.
훈련된 메트릭 학습 모델은 각 입력에 대해 무엇을 출력합니까?
모델은 입력을 임베딩 벡터에 매핑합니다. 그런 다음 임베딩 간의 거리를 측정하여 항목을 비교합니다.
새로운 얼굴 추가와 같은 개방형 문제에 메트릭 학습이 적합한 이유는 무엇입니까?
인식은 임베딩 거리를 기반으로 하기 때문에 임베딩을 저장하기만 하면 모델 재교육이 필요 없이 새 ID를 등록할 수 있습니다.