OpenAI, ChatGPT를 이용한 이란의 선거 영향력 차단

OpenAI가 미국 대통령 선거에 관한 콘텐츠를 생성하는 이란의 영향력 작업과 관련된 ChatGPT 계정을 차단했다고 금요일에 발표했습니다.

[목차]

• 1. 배경 및 상황
  • 1-1. ChatGPT 악용 사례
  • 1-2. 소셜 미디어 플랫폼과의 유사점
• 2. Microsoft와의 협력
  • 2-1. Storm-2035의 정체
  • 2-2. 영향력 작업의 목표
• 3. Storm-2035의 구체적 활동
  • 3-1. 웹사이트 및 기사 생성
  • 3-2. 소셜 미디어 활동
• 4. 미래 전망
  • 4-1. 추가적인 대응 필요성
  • 4-2. 향후의 예측

1. 배경 및 상황

이란의 영향력을 차단하려는 OpenAI의 조치는 최근 사이버 보안 및 소셜 미디어 플랫폼에서 늘어나고 있는 문제입니다. 지난 5월에도 OpenAI는 ChatGPT를 사용하여 공공 여론을 조작하려는 다섯 가지 캠페인을 차단한 바 있습니다.

1-1. ChatGPT 악용 사례

OpenAI는 반복적으로 국가 관련 악의적 행위자들이 ChatGPT를 악용하는 것을 발견했습니다. 이러한 요소들은 소셜 미디어와 유사한 접근 방식을 통해 신속하고 저렴하게 다양한 콘텐츠를 생성하여 대중에 영향을 미치려 하고 있습니다. 예를 들어, ChatGPT를 사용하여 작성된 긴 형식의 기사나 소셜 미디어 게시물을 생성하면서 특정 정치적 메시지를 전달하려고 하는 경우가 있습니다.

1-2. 소셜 미디어 플랫폼과의 유사점

이러한 상황은 과거 페이스북이나 트위터와 같은 소셜 미디어 플랫폼을 통해 선거 주기 동안 유사한 작업을 시도했던 국가 행위자들을 연상시킵니다. 현재 이와 유사한 그룹들이 생성형 AI를 이용해 소셜 채널을 오염시키는 방향으로 진화하며, OpenAI는 계정을 각 개별적으로 차단하는 '모래놀이' 접근 방식을 채택하고 있습니다.

2. Microsoft와의 협력

이번 OpenAI의 조사는 Microsoft Threat Intelligence의 보고서에서 많은 이점을 얻었습니다. 보고서는 Storm-2035로 불리는 그룹을 식별했고, 이 그룹은 2020년부터 운영 중인 더 광범위한 캠페인의 일부로서 미국 선거에 영향을 미치려 했습니다.

2-1. Storm-2035의 정체

Microsoft는 Storm-2035가 여러 사이트를 통해 뉴스 매체를 모방하고, 미국 유권자의 다양한 그룹과 극단적인 메시지로 적극적으로 관여하여 양극화를 조장하는 이란 네트워크라고 밝혔습니다. 이들은 특정 정책을 추진하기보다 불화와 갈등을 조장하는 것에 초점을 맞추고 있습니다.

2-2. 영향력 작업의 목표

Storm-2035는 특정 정치적 입장을 홍보하기보다 양극화된 메시지를 통해 혼란을 조성하는 데 목적을 두고 있으며, 이러한 작업은 소셜 미디어 플랫폼에서 자주 관찰되었던 전략과 유사합니다. 이러한 메시지들은 미국 대통령 후보, LGBTQ 권리, 이스라엘-하마스 갈등 등 다양한 주제를 다루고 있으며, 이를 통해 분열을 촉발하려고 하고 있습니다.

Storm-2035

3. Storm-2035의 구체적 활동

OpenAI는 Storm-2035가 다섯 개의 웹사이트를 운영하며, 이를 보수적 및 진보적 뉴스 매체로 위장하고 있음을 확인했습니다. 이들은 "evenpolitics.com"과 같은 설득력 있는 도메인 이름을 사용하여 여러 장문의 기사를 작성했습니다.

3-1. 웹사이트 및 기사 생성

Storm-2035는 "X가 트럼프의 트윗을 검열한다"는 등의 거짓 내러티브를 포함한 여러 기사를 작성하기 위해 ChatGPT를 사용했습니다. 실제로 일론 머스크의 플랫폼은 전 대통령 도널드 트럼프가 더 많이 참여하도록 장려하고 있습니다.

3-2. 소셜 미디어 활동

소셜 미디어 상에서 OpenAI는 이 작업과 관련된 12개의 X 계정과 1개의 인스타그램 계정을 확인했습니다. 이 계정들은 ChatGPT를 사용하여 정치적 코멘트를 재작성한 후 이를 플랫폼에 게시했습니다. 예를 들어, 카말라 해리스가 "이민 비용 증가"를 기후 변화 탓으로 돌린다는 잘못된 트윗을 "해시태그 DumpKamala"와 함께 게시했습니다.

4. 미래 전망

OpenAI는 Storm-2035의 기사가 널리 공유되었음을 발견하지 못했으며, 대부분의 소셜 미디어 게시물이 거의 좋아요, 공유 또는 댓글을 받지 못했다고 언급했습니다. 이러한 작업은 ChatGPT와 같은 AI 도구를 이용해 신속하고 저렴하게 수행될 수 있으며, 향후 선거가 다가옴에 따라 이러한 통지가 계속될 가능성이 큽니다.

4-1. 추가적인 대응 필요성

이러한 상황에서 추가적인 대응이 필요합니다. OpenAI와 같은 AI 기업뿐만 아니라 소셜 미디어 플랫폼, 정부 기관 및 비영리 단체들이 협력하여 이러한 영향력 작업을 방지해야 할 것입니다.

4-2. 향후의 예측

향후 선거가 다가올수록 이러한 유형의 공격은 더욱 빈번해질 것으로 예상됩니다. 따라서 지속적인 감시와 신속한 조치가 필요합니다. Partisan 논쟁이 심화됨에 따라 더 많은 Notice가 발행될 가능성이 높습니다.