무슨 일이 일어났나요?
워싱턴 포스트(Washington Post)는 제7순회법원이 수천 장의 AI로 생성된 미성년자의 노골적인 이미지를 제작한 혐의로 기소된 위스콘신 피고인 스티븐 앤더렉(Steven Anderegg)에 대한 소지 혐의 기각을 지지했다고 보도했습니다. John Z. Lee 판사는 기존 대법원 판례가 집에 보관된 완전 가상 자료의 개인 소유를 보호할 수 있다고 말하면서 AI 이미지 생성이 발전함에 따라 이러한 판례가 어떻게 적용되는지 재고할 것을 대법원에 촉구했습니다.
워싱턴 포스트는 미네소타 변호사가 재출판한 보고서에서 제7순회법원이 화요일 위스콘신주 홀멘의 스티븐 앤더렉에 대한 연방 기소에 대해 결정을 내렸다고 밝혔습니다. 법무부는 2024년 Anderegg를 기소하여 그가 AI 이미지 생성기를 사용하여 수천 개의 아동 노골적인 이미지를 생성했다고 주장했습니다. 혐의에는 성적으로 노골적인 행위에 연루된 미성년자의 음란한 시각적 묘사를 제작, 배포 및 소지하는 것이 포함됩니다. 보고서에 따르면, 연방 음란물법은 검사가 사건을 추적하는 데 사용한 법적 근거인 실제 인물이 포함되지 않은 자료에도 적용될 수 있습니다.
보고서에 따르면 위스콘신 서부 지방 판사는 앤더렉이 수정헌법 제1조에 따라 점유 혐의에 대해 이의를 제기한 후 지난해 점유 혐의를 기각했다. 연방 검찰은 항소했지만 제7순회법원은 그 결정을 지지했습니다. John Z. Lee 판사는 AI가 생성한 이미지의 개인 소유가 실제 사람을 묘사하지 않고 집에 남아 있을 경우 헌법에 따라 보호될 수 있다고 썼습니다. 워싱턴포스트(WP)는 이씨가 음란물 개인 소유 및 가상 아동 성적 학대 자료에 관한 1969년과 2002년 대법원 판결을 인용했다고 보도했다. 이씨는 또 AI의 급속한 발전으로 인해 이러한 판례가 복잡해졌지만 법원이 법적 경계 자체를 다시 작성할 수는 없었다고 썼습니다.
이번 판결로 나머지 검찰의 문제는 해결되지 않았다. 워싱턴 포스트(Washington Post)는 Anderegg가 Instagram를 통해 유사한 AI 생성 이미지를 15세 소년에게 전송했다는 별도의 주장과 마찬가지로 제작 및 배포 비용이 아직 계류 중이라고 보도했습니다. 법 집행 기관은 Instagram를 소유한 Meta가 국립 실종 및 착취 아동 센터에 제출한 사이버 팁을 통해 의심되는 활동에 대해 알게 되었습니다. 또한 Anderegg는 Stable Diffusion에서 공개한 것으로 식별된 이미지 모델을 사용했다고 말했습니다. 소스 패키지에는 항소 의견, 사건 기록 자료 또는 법무부나 Anderegg 변호사의 독립적인 계정이 포함되어 있지 않으므로 판결의 정확한 문구와 절차적 자세는 워싱턴 포스트 보고서 외에 여기에서 독립적으로 확인되지 않습니다.
왜 중요한가요?
이 판결은 합성 이미지와 실제 아동을 묘사하는 자료 사이에 법적으로 중요한 구별을 제시하지만, 출처는 그러한 자료를 생성, 배포, 다운로드 또는 전송하는 것이 일반적으로 합법적이라는 것을 입증하지 않습니다. 워싱턴 포스트(Washington Post)는 안데레그에 대한 제작 및 배포 혐의와 그가 15세 어린이에게 이미지를 보냈다는 혐의가 계류 중이라고 보도했습니다.
이 사건은 실제 학대 이미지를 중심으로 작성된 법률이 전체 합성 자료에 동일한 방식으로 적용되는지 여부를 테스트하기 때문에 중요합니다. 워싱턴 포스트(Washington Post)는 대법원이 가상 이미지를 실제 어린이가 포함된 이미지와 다르게 취급했으며, 성적인 묘사에서 실제 어린이의 얼굴이나 유사성을 사용하는 "변형" 이미지에 대한 예외를 인정했다고 보도했습니다. 이러한 구별은 헌법적 분석이 명백한 외모, 식별 가능한 아동에 대한 피해, 그것을 만들거나 공유하는 데 사용된 행위, 또는 일부 조합을 기준으로 하는지 여부를 제기합니다.
보고된 보유 규모는 좁지만 결과적입니다. 스탠포드 인간 중심 AI 연구소의 정책 연구원인 Riana Pfefferkorn은 워싱턴 포스트에 이번 결정이 가상 학대 자료를 만든 사람들에 대한 연방 기소를 막지는 못할 것이라고 말했습니다. 그녀는 또한 이 판결이 제3자 사이트에서 이미지를 다운로드하거나 집 밖에서 이미지가 담긴 노트북이나 휴대폰을 가지고 다니는 것을 보호하지 않는다고 말했습니다. 산타클라라 대학교 법학과 교수인 Eric Goldman은 이번 결정을 통해 가상 CSAM과 실제 CSAM이 다르게 규제되거나 헌법에 따라 보호될 수 있다는 점을 상기시켰습니다. 이는 해당 매체가 보고한 전문가의 해석이며, 의견의 가능한 모든 적용에 대해 독립적으로 검증된 설명이 아닙니다.
이 사건은 또한 플랫폼과 조사관의 운영 부담과 교차합니다. 워싱턴 포스트(Washington Post)는 NCMEC가 최근 의회에 AI 생성 남용 의심 자료와 관련된 기술 회사의 보고가 급증하고 있으며 일부 보고서에는 조사에 필요한 기본 정보가 부족하다고 말했다고 보도했습니다. 기존의 해시 일치 시스템은 알려진 파일을 식별하지만 합성 자료는 기존 데이터베이스 기록과 일치하지 않을 수 있습니다. 이것이 법적 문제를 결정하지는 않지만, 법원이 형사 책임 경계를 정의하는 동안 생성 도구가 보고 파이프라인, 분류 및 조사 자원에 어떻게 영향을 미칠 수 있는지 보여줍니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
Why can ethical evaluation not be reduced to one model score?
다음에 무엇을 볼 것인가
알려지지 않은 주요 사항으로는 항소 의견의 정확한 범위, 검찰이 추가 검토를 요구하는지, 대법원이 사건을 맡는지 등이 있습니다. 워싱턴 포스트(Washington Post)는 또한 NCMEC가 AI로 인해 생성된 것으로 의심되는 자료와 관련된 보고서에 압도되어 플랫폼과 조사관에게 별도의 어려움을 안겨주고 있다고 보도했습니다.
가장 먼저 지켜봐야 할 쟁점은 법무부가 추가 검토를 요구하는지 여부다. 워싱턴 포스트(Washington Post)는 보스톤 대학의 법학 교수인 다니엘 라이언스(Daniel Lyons)가 대법원이 이 사건을 맡을 가능성이 있다고 믿었다고 보도했습니다. 그 이유 중 하나는 이 분쟁이 현대 AI가 생성한 자료에 오래된 발언과 외설적인 판례가 어떻게 적용되는지에 관한 것이기 때문입니다. 이러한 평가는 전문가의 예측일 뿐 대법원이 사건 심리에 동의했다는 증거는 아닙니다. 소식통은 청원서, 대법원 명령 또는 추가 절차 일정을 보고하지 않습니다.
두 번째 문제는 하급 법원이 개인 소유와 일반적으로 선행되는 행위를 어떻게 구별하는지입니다. 보고된 결정은 집에 보관된 자료에 관한 것이며, 검찰의 나머지 혐의는 생산, 배포 및 양도 혐의에 관한 것입니다. 소스는 캐싱, 클라우드 스토리지, 자동 생성, 임시 파일, 제3자 서비스 또는 실제 어린이의 모습에서 파생된 이미지에 대한 전체 의견의 처리를 제공하지 않습니다. 이러한 세부 사항은 소송 당사자가 판결을 얼마나 광범위하게 적용하는지 결정할 수 있습니다.
세 번째 문제는 합성이미지에 대한 정책적 대응이다. 워싱턴 포스트(Washington Post)는 합성 이미지의 양이 증가하고 실제 아동과 관련된 학대를 해결하기 위해 만들어진 시스템에 부담을 주기 때문에 Lyons가 더 엄격한 제한이 필요하다고 주장했다고 보도했습니다. Stability AI는 CSAM의 생성 및 유포를 포함하여 자사 기술의 오용을 방지하기 위해 최선을 다하고 있다고 아울렛에 밝혔습니다. 출처는 해당 회사의 보호 조치의 효율성, 특정 플랫폼의 합성 콘텐츠 문제의 규모 또는 의회와 대법원이 법을 변경할지 여부를 독립적으로 확립하지 않습니다. 그것들은 의미 있는 미지의 상태로 남아 있습니다.