모델 추출 및 도용 공격 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 모델 추출 공격의 핵심 아이디어는 무엇입니까?
   • 모델을 쿼리하고 대체 모델을 교육하여 해당 출력을 모방합니다.
   • 서버를 해킹하여 가중치 파일을 직접 복사
   • 훈련 데이터 세트를 유출하기 위해 직원에게 뇌물을 주는 행위
   • API가 충돌하고 메모리를 덤프할 때까지 API 오버로드
2. 전체 확률 벡터를 반환하면 상위 1개 레이블만 반환하는 것보다 추출이 더 쉬운 이유는 무엇입니까?
   • 응답을 암호화하여 공격자의 속도를 늦춥니다.
   • 쿼리당 더 많은 정보가 유출되므로 더 적은 쿼리가 필요합니다.
   • 결정 경계를 완전히 숨깁니다.
   • 서버 비용이 증가하므로 공격자가 포기합니다.
3. 쿼리당 유출된 정보를 직접적으로 줄이는 방어 기술은 무엇입니까?
   • 서버에 더 많은 GPU 추가
   • 모델의 매개변수 수 늘리기
   • 반올림되거나 상위 1개만 출력 반환
   • 학습 데이터를 공개적으로 게시
4. 2024년 생산-언어-모델 추출 논문에서는 GPT-3.5 Turbo에 대해 무엇을 보고했습니까?
   • $20 미만의 비용으로 모든 GPT-3.5 매개변수를 정확하게 재구성합니다.
   • 모델의 훈련 데이터 세트를 직접 얻습니다.
   • API에서 전체 모델 체크포인트를 추출합니다.
   • 임베딩 프로젝션 레이어를 복구합니다. 논문에서는 GPT-3.5 Turbo에 대한 쿼리가 2,000달러 미만으로 추정됩니다.
5. 도난당한 대체 모델이 단순히 수익 손실을 넘어 위험한 이유는 무엇입니까?
   • 적대적인 사례 제작과 같은 오프라인 화이트박스 공격이 가능합니다.
   • 원본 모델의 정확도를 향상시킵니다.
   • 원본 모델을 자동으로 삭제합니다.
   • 원본을 재교육해야 합니다.
6. ActiveThief에서 결합된 DFAL + K-center 쿼리 전략은 무엇을 목표로 합니까?
   • 경계에 근접한 정보 샘플 및 선택된 샘플 간의 중복성 감소
   • 모든 비밀 모델 가중치의 정확한 복구 및 대체 보장
   • 무작위 샘플링만 하고 모든 대체 모델 예측을 피함
   • 더 높은 API 처리량 및 쿼리 예산 제거
7. 모델 추출 시도에 대해 API 속도 제한은 무엇을 할 수 있나요?
   • 어떤 대체 모델도 훈련할 수 없음을 증명
   • 허용된 각 예측에서 모든 정보를 제거합니다.
   • 대규모 쿼리를 더 느리게 또는 더 비싸게 만들기
   • 모델 출력을 비교할 수 없게 만듭니다.
8. DynaMarks 논문은 모델 추출 방어에 대해 무엇을 제안합니까?
   • 생성된 모든 답변에 로고를 추가합니다.
   • 저장되어 있는 모든 모델 가중치를 암호화합니다.
   • 복사된 모든 생산 모델의 소유권을 보장합니다.
   • 비밀 매개변수를 사용해 API 출력을 동적으로 변경함으로써 대리 모델에 서명을 삽입할 수 있습니다.