무슨 일이 일어났나요?
Tom's Hardware는 OpenAI가 가짜 이스라엘 싱크탱크인 International Burke Institute에 연결한 후 8월 25일 ChatGPT 계정 클러스터를 금지했다고 보고했습니다. OpenAI는 운영자가 VPN을 사용하여 러시아에서 서비스에 액세스했으며 ChatGPT를 사용하여 사이트의 기본 기사가 아닌 홍보 게시물과 답글을 생성했다고 말했습니다.
Tom's Hardware는 OpenAI가 8월 25일에 ChatGPT 계정 클러스터를 금지하고 러시아에서 활동을 추적했다고 보고했습니다. 이 계정은 이스라엘 싱크탱크로 자처하는 International Burke Institute와 연관되어 있었습니다. 보고서에 따르면 해당 웹사이트는 호주의 식품과학 교수가 작성한 이민 정책 연구를 발표하고, 전쟁을 비판하는 국가보다 러시아를 높게 평가하는 '주권 지수'를 운영했으며, 원저자의 학술 논문을 호스팅했습니다. 소식통은 운영자의 신원을 밝히지 않았으며 그들이 러시아 정부를 대신하여 행동했다고 말하지 않았습니다.
보고된 ChatGPT의 역할은 주로 작동하는 것이었습니다. OpenAI는 Tom’s Hardware에 운영자가 챗봇을 사용하여 Substack, Telegram, X, Facebook 및 LinkedIn 전반에 걸쳐 아울렛을 홍보하는 게시물과 답글을 작성했다고 말했습니다. 그들은 또한 작가의 러시아어 배경을 드러낼 수 있는 문구를 제거하기 위해 이를 사용했습니다. OpenAI는 기사, 국가 보고서 및 지수 자체가 해당 모델로 제작되지 않았다고 말했습니다. 보고서는 한 기사에서 신호등을 의미하는 러시아어 단어를 문자 그대로 번역한 "Svetofor 연합"을 비AI 자료에 그 기원에 대한 언어적 단서가 여전히 포함되어 있다는 증거로 사용했다고 설명합니다.
Tom's Hardware는 OpenAI가 International Burke Institute의 기사 36개를 샘플링한 결과 34개가 실제 학계에서 복사된 것임을 발견했다고 보고했습니다. 일부는 프란시스 후쿠야마(Francis Fukuyama)와 노엄 촘스키(Noam Chomsky)를 포함한 저명한 인물의 것으로 잘못 귀속되었습니다. 이 매체는 또한 OpenAI가 해당 캠페인을 브루킹스 브레이크아웃 척도에서 카테고리 3의 하위 항목으로 분류했다고 보고했습니다. 보고서에 따르면 개별 게시물의 조회수는 낮았으며 해당 운영의 텔레그램 채널은 각각 10,000~20,000명의 팔로워를 보유하고 있었습니다. 이 수치는 조사된 OpenAI 자료를 설명하는 것이지 광범위한 작업의 전체 도달 범위나 영향을 설명하는 것이 아닙니다.
왜 중요한가요?
이 사례는 중앙 자료가 사람에 의해 복사되거나 작성되는 경우에도 생성 AI가 어떻게 번역, 편집, 청중 타겟팅 및 배포를 통해 영향력 작업을 지원할 수 있는지 보여줍니다. Tom's Hardware는 캠페인의 도달 범위가 제한되어 있었지만 인프라는 대상자보다 더 광범위했다고 보고했습니다.
AI가 핵심 콘텐츠의 원저작자가 아닌 정치적 영향력 행사의 효율성 및 배포 계층으로 사용되었다는 점에서 이 사례는 중요합니다. Tom's Hardware는 OpenAI의 정보 및 조사 팀이 초안 작성, 편집, 청중 개발과 같은 작업을 위해 기존 워크플로에 AI 도구를 연결하는 운영자를 반복적으로 발견했다고 밝혔습니다. 이러한 구별은 중요합니다. 생성된 기사를 사진에서 제거한다고 해서 운영자가 더 빠른 속도로 더 설득력 있고 더 지역화된 지원을 제공하는 데 도움이 되는 챗봇의 능력이 제거되지는 않습니다.
보고된 캠페인은 또한 조작된 기관의 정체성이 어떻게 복사된 자료를 권위 있는 것처럼 보이게 만들 수 있는지 보여줍니다. 연구원, 국가 보고서 및 색인으로 명명된 싱크탱크 형식은 기본 작업의 출처가 잘못되었거나 허가 없이 취해진 경우에도 독자들에게 정당성에 대한 다양한 신호를 줄 수 있습니다. AI 지원 언어 다듬기는 자료가 다른 곳에서 유래했다는 명백한 징후를 더욱 줄일 수 있습니다. 출처는 캠페인이 상당한 대중 설득을 달성했다는 증거를 제공하지 않지만 허위 브랜딩, 학문적 모방, 크로스 플랫폼 프로모션의 조합은 독자와 출판사에게 실질적인 검증 문제를 야기합니다.
집행 조치는 또한 플랫폼 중단의 범위와 투명성에 대한 의문을 제기합니다. Tom's Hardware는 이것이 2024년 초 이후 OpenAI의 여섯 번째 공개 위협 보고서이며 회사에서 40개 이상의 악성 네트워크를 교란했다고 밝혔습니다. OpenAI는 운영의 중요성이 청중보다 구축된 인프라에 있다고 특징지었습니다. 그러나 그 평가는 회사의 견해입니다. 출처는 계정 링크, 네트워크 규모, 보고된 팔로어 수 또는 차단된 사용자가 추가 계정 및 웹사이트를 운영했는지 여부를 독립적으로 확인하지 않습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
다음에 무엇을 볼 것인가
소스는 OpenAI의 속성을 독립적으로 확인하거나 계정을 운영한 사람을 설정하지 않습니다. 추가 보고에서는 복사된 논문을 조사하고, 영향을 받은 학계에 연락하고, International Burke Institute가 소셜 플랫폼 전반에서 계속 활동하고 있는지 평가해야 합니다.
국제 버크 연구소의 자료에 대한 독립적인 검증이 최우선 과제입니다. 출처는 복제된 작업과 의심스러운 귀속의 예를 식별하지만 해당 작업이 해제된 것으로 추정되는 학자의 답변은 포함하지 않습니다. 후속 보고에서는 어떤 논문이 복사되었는지, 변경되었는지, 지명된 학자에게 연락했는지, 웹사이트가 그들의 작업을 어떻게 표현했는지를 밝혀야 합니다. 또한 확인된 복사와 OpenAI의 광범위한 작업 특성을 구별해야 합니다.
관련 유통채널의 상태는 아직 불분명하다. Tom's Hardware는 Substack, Telegram, X, Facebook 및 LinkedIn 전반에 걸친 활동을 보고하지만 ChatGPT 계정이 금지된 후 해당 계정이나 채널이 제거되거나 라벨이 지정되거나 온라인 상태로 남아 있는지 여부는 밝히지 않습니다. 또한 이 보고서는 샘플링된 게시물 외부에서 캠페인을 본 사람의 수나 관련 없는 사용자가 자료를 다시 게시했는지 여부도 밝히지 않습니다. 이러한 미지의 요소는 단순히 인프라 규모를 측정하는 것이 아니라 공공 영향을 평가하는 데 중요합니다.
마지막으로 OpenAI의 귀속 및 집행 프로세스에 대한 자세한 내용을 확인하세요. 소식통은 회사가 클러스터를 러시아로 추적했으며 OpenAI 서비스가 그곳에서 차단되어 운영자가 VPN을 사용했다고 밝혔지만 기술적 증거, 계정 수 또는 활동의 정확한 시기는 설명하지 않습니다. 또한 러시아 당국, 싱크탱크의 계열사로 알려진 곳, 홍보 자료를 전달하는 플랫폼이 반응했는지 여부도 밝히지 않았습니다. 해당 질문에 대한 답변이 나올 때까지 보고된 사실은 독립적으로 확립된 것으로 취급되기보다는 Tom's Hardware 및 OpenAI에 귀속된 것으로 유지되어야 합니다.