기계적 해석성 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 기계적 해석 가능성의 핵심 목표는 무엇입니까?
   • 네트워크의 내부 계산을 인간이 이해할 수 있는 알고리즘으로 리버스 엔지니어링합니다.
   • 모델 학습 속도를 높이려면
   • 모바일 장치용 모델을 압축하려면
   • 입력 기능의 순위를 중요도별로만 지정하려면
2. 신경망에서 '중첩'은 무엇을 의미하나요?
   • 여러 모델을 함께 쌓기
   • 겹치는 방향을 사용하여 존재하는 차원보다 더 많은 피처를 나타냅니다.
   • 여러 GPU에서 모델 실행
   • 다양한 실행의 평균 예측
3. 희소 자동 인코더는 주로 다음과 같은 기계적 해석에 사용됩니다.
   • 훈련 데이터 생성
   • 추론 속도 향상
   • 다의미론적 활성화를 더 명확하고 해석하기 쉬운 기능으로 분리합니다.
   • 모델 가중치 암호화
4. '인덕션 헤드'란 무엇인가요?
   • 변압기용 하드웨어 가속기
   • 텍스트를 생성하는 출력 레이어
   • 손실 함수의 일종
   • 반복되는 토큰 패턴을 복사하고 계속하여 상황 내 학습을 지원하는 어텐션 헤드
5. 연구자들은 발견된 회로가 실제로 가정된 계산을 수행하는지 어떻게 확인합니까?
   • 특정 활성화를 제거하거나 패치하는 등 인과적 개입을 통해
   • 모델의 학습 정확도를 확인하여
   • 매개변수 개수를 계산하여
   • 추론 지연 시간을 측정하여
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples