무료 AI 라이브러리

기술 가이드영원히 무료입니다.

177 누구나 최신 AI를 이해할 수 있도록 독립적인 501(c)(3) 비영리 단체에서 구축한 일반 영어 가이드, 구조화된 학습 경로 및 개방형 라이브러리입니다.

177무료 가이드
1주제 트랙
~2 min가이드 당
~6h읽기 시간

여기서 시작하세요

다섯 결과 기반 강좌

각 과정에는 명확한 성과, 매핑된 역량, 실습 활동, 그리고 적용된 캡스톤이 포함되어 있습니다.

주제 트랙

트랙별로 찾아보기

관심 있는 영역으로 뛰어들어 보세요. 모든 트랙에는 여러 개의 일반 영어 가이드가 있습니다.

전체 라이브러리

모든 가이드

177 1019 가이드가 표시됩니다. 트랙별로 필터링하거나 위에서 검색하세요.

기술

주의 롤아웃 및 머리 가지치기

어텐션 롤아웃은 Transformer의 누적된 어텐션 레이어를 통해 정보가 어떻게 흐르는지 추적하여 어떤 입력 토큰이 영향을 미치는지 설명하는 방법입니다.

2 분 읽음읽기
기술

2차 최적화 및 뉴턴 방법

2차 최적화는 곡률 정보(2차 도함수의 헤시안 행렬)를 사용하여 기울기뿐만 아니라 최소값을 향해 더 스마트한 조치를 취합니다.

2 분 읽음읽기
기술

RMSNorm 및 사전 레이어 정규화

RMSNorm은 평균 제곱근으로 활성화 크기를 조정하는 경량 정규화 레이어이며, 사전 레이어 정규화는 각 단계 이전에 해당 단계를 배치합니다.

2 분 읽음읽기
기술

SwiGLU 및 게이트 활성화

SwiGLU는 입력의 하나의 선형 투영에 Swish 활성화된 두 번째 투영을 곱하는 게이트 활성화 함수입니다.

2 분 읽음읽기
기술

압착 및 자극 네트워크

SE(Squeeze-and-Excitation) 블록을 사용하면 컨벌루션 네트워크가 각 기능 채널에 가중치를 부여하는 정도를 학습하고 글로벌 컨텍스트에 따라 재보정할 수 있습니다.

2 분 읽음읽기
기술

워밍업 및 코사인 어닐링 일정

워밍업은 훈련 전에 거의 0에서 학습률을 부드럽게 높인 다음, 코사인 어닐링을 통해 코사인 곡선을 따라 학습률을 다시 낮춥니다.

2 분 읽음읽기
기술

순환 학습률

순환 학습률은 학습률을 감소시키는 대신 하한과 상한 사이에서 반복적으로 학습 속도를 위아래로 순환합니다.

2 분 읽음읽기
기술

선명도 인식 최소화

선명도 인식 최소화(SAM)는 낮은 손실뿐만 아니라 가중치 전체에 걸쳐 낮은 손실을 추구하는 최적화 방법입니다.

2 분 읽음읽기
기술

선형 프로빙 및 동결 피쳐 평가

선형 프로빙은 네트워크를 동결하고 그 위에 간단한 선형 분류기만 훈련하여 사전 훈련된 모델의 내부 표현이 얼마나 좋은지 테스트합니다.

2 분 읽음읽기
기술

DenseNet 및 Dense Connectivity

DenseNet은 모든 레이어가 모든 이전 레이어의 기능 맵을 입력으로 받는 컨벌루션 네트워크입니다.

2 분 읽음읽기
기술

병목 현상 아키텍처

병목 현상 아키텍처는 데이터를 다시 확장하기 전에 좁은 중간 계층을 통해 데이터를 압축하여 네트워크가 작고 효율적으로 학습하도록 합니다.

2 분 읽음읽기
기술

그라데이션 누적

그라데이션 누적을 사용하면 업데이트하기 전에 여러 개의 작은 미니 배치에 대한 그라데이션을 합산하여 제한된 GPU 메모리에서 대규모 배치 크기를 시뮬레이션할 수 있습니다.

2 분 읽음읽기

다 읽었어? 증명해 봐.

Check what you learned with a topic quiz, then explore our structured courses or work toward a certificate. Every guide stays free to read.