가이드 연계 퀴즈 · 중간 레벨

자기 지도 학습 퀴즈

데이터 파생 대상, BERT 마스킹, SimCLR 쌍, 주석 요구 사항, 적응, 다음 토큰 작업, 프로젝션 헤드 및 손상된 토큰 대상을 검토합니다.

관련 가이드 경로자기 지도 학습
질문 1 의 8

Where does the supervision signal in the described self-supervised examples come from?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. Where does the supervision signal in the described self-supervised examples come from?
    • A requirement for no training objective
    • Only new human semantic labels for every pretraining example
    • A rule that examples contain no useful information
    • The data and defined transformations of it
  2. Which input positions contribute prediction targets to the original BERT masked-language-model loss?
    • The positions selected for the MLM prediction task
    • Every position in the entire input regardless of selection
    • Only the first position of each new sentence
    • Only positions that appear after the final sentence boundary
  3. SimCLR과 같은 대조 학습에서 '양성 쌍'은 다음과 같습니다.
    • 전혀 관련이 없는 두 이미지
    • 사람이 작성한 라벨 한 쌍
    • 임베딩 공간에서 가까워야 하는 동일한 이미지의 두 확대 보기
    • 데이터세트 사본 2개
  4. What annotation requirement can self-supervised pretraining reduce in the described examples?
    • The need for any usable input data
    • Separate task-specific semantic labels for every pretraining example
    • All computational cost by definition
    • The need to assess downstream performance
  5. How can a representation learned through self-supervision be used for a later task?
    • By evaluating a task head or adapting the representation through fine-tuning
    • By assuming every target task requires no labels or validation
    • By discarding all representations before making predictions
    • By treating the pretraining loss as proof of every application's accuracy
  6. GPT 스타일 모델의 자체 감독 작업은 BERT와 어떻게 다릅니까?
    • 텍스트를 전혀 사용하지 않습니다.
    • 모든 단어에 대해 수동 라벨이 필요합니다.
    • 문서의 첫 번째 단어만 예측합니다.
    • 마스크된 토큰을 채우는 대신 다음 토큰을 예측합니다.
  7. In the original SimCLR framework, which component is discarded for the reported downstream representation use?
    • The encoder representation itself
    • The contrastive projection head
    • All training inputs before pretraining begins
    • The positive-pair source-image relationship
  8. When original BERT pretraining replaces a selected input position with a random token, what remains its loss target?
    • The newly inserted random token
    • The next sentence's first token in every case
    • The original token before replacement
    • No target, because every random replacement is omitted from training