가이드 연계 퀴즈 · 중간 레벨
장단기 기억 세포 퀴즈
LSTM 게이트 역할, 셀 상태 유지, 입력 및 출력 제어, 추가 업데이트, 경사 흐름 및 시퀀스 제한을 테스트합니다.
질문 1 의 8
In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
모든 질문 미리보기8 질문
퀴즈를 풀면 정답과 설명이 나타납니다.
- In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
- 게이트 읽기, 쓰기, 실행
- 게이트 시작, 중지 및 일시 중지
- 망각, 입력 및 출력 게이트
- 인코딩, 디코딩 및 게이트 참석
- What training difficulty was LSTM designed to mitigate?
- 저장할 매개변수가 너무 많습니다.
- Vanishing gradients during learning over long sequences
- GPU를 사용할 수 없음
- 활성화 기능 부족
- LSTM은 누가, 몇 년도에 도입했나요?
- 2017년의 바스와니와 동료들
- 1986년 루멜하트와 힌튼
- 2012년의 르쿤과 벤지오
- 1997년 호흐라이터와 슈미트후버
- In a common LSTM cell update, why can the additive cell-state path help gradient flow?
- It reduces reliance on repeated multiplicative transformations across time steps
- 각 단계마다 상태에 큰 수를 곱합니다.
- 모든 단계에서 상태를 삭제합니다.
- 훈련 중에 모든 가중치를 고정합니다.
- LSTM 게이트는 일반적으로 소프트 온/오프 스위치 역할을 하기 위해 어떤 활성화 기능을 사용합니까?
- ReLU, 0을 무한대로 출력
- 어휘에 대한 소프트맥스
- 정확히 0 또는 1을 출력하는 계단 함수
- 시그모이드, 0에서 1로 출력
- 대규모 언어 모델링을 위해 Transformers가 LSTM을 대체한 이유는 무엇입니까?
- 변환기는 텍스트를 전혀 처리할 수 없습니다.
- LSTM에는 교육이 필요하지 않습니다.
- 변환기는 시퀀스 전반에 걸쳐 병렬화하고 주의를 통해 장거리 컨텍스트를 캡처합니다.
- Transformer는 전체적으로 훨씬 적은 숫자를 사용합니다.
- If an LSTM forget gate is near one and its input gate near zero, what happens to the cell state?
- It largely retains the previous state
- It is forced to zero
- It becomes the raw input token
- It must reverse the sequence
- Which gate controls how much of an LSTM cell’s stored state is exposed as output?
- The forget gate alone
- The output gate
- The optimizer momentum term
- The positional encoding gate