Microsoft, 딥페이크 나체사진 범죄를 위한 이미지 제거 도구 제공

최근 생성적 AI 도구의 발전으로 인터넷에서는 실제 사람을 유사하게 닮은 합성 나체 이미지가 급증하는 문제가 발생했습니다. 목요일, Microsoft는 피해자가 Bing 검색 엔진에서 이러한 이미지를 제거하는 데 도움이 되는 도구를 제공하여 큰 발걸음을 내디뎠습니다.

[목차]

• 1. StopNCII와의 협력
  • (1). 디지털 지문 생성
  • (2). 해시 기술 사용
• 2. 파일럿 프로그램 결과
• 3. 사용자 불만과 Microsoft의 대응
• 4. Google과의 비교
• 5. 딥페이크 문제의 확산
  • (1). 청소년 문제
  • (2). 법적 조치

1. StopNCII와의 협력

(1). 디지털 지문 생성

Microsoft는 복수 포르노 피해자가 이와 같은 명시적 이미지에 대한 디지털 지문을 자신의 기기에서 생성할 수 있도록 하는 StopNCII와 협업를 발표했습니다. 이 과정에서 생성된 디지털 지문은 피해자의 이미지를 인식하는 데 사용됩니다.

(2). 해시 기술 사용

StopNCII의 파트너는 이 디지털 지문, 즉 기술적으로 '해시'라고 불리는 것을 사용하여 플랫폼에서 이미지를 제거합니다. Microsoft의 Bing은 Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub, OnlyFans와 함께 StopNCII와 협력하여 복수 포르노 확산을 막고 있습니다.

2. 파일럿 프로그램 결과

Microsoft의 블로그 게시물에 따르면 StopNCII의 데이터베이스를 통한 파일럿 프로그램의 끝에 Bing 이미지 검색을 통해 반환되는 268,000건의 명시적 이미지를 이미 처리한 바 있습니다. 이전에는 Microsoft가 직접적인 보고 도구를 제공했으나, 이는 충분하지 않다는 것이 증명되었습니다.

3. 사용자 불만과 Microsoft의 대응

Microsoft는 목요일 블로그 게시물에서 "우리는 피해자, 전문가 및 기타 이해 관계자로부터 사용자 보고가 규모 있는 영향력이나 검색을 통해 이미지를 접근할 수 있다는 위험을 충분히 해결하지 못할 수 있다는 우려를 들었다"고 밝혔습니다.

4. Google과의 비교

이 문제가 더욱 인기 있는 검색 엔진인 Google에서 발생하면 얼마나 악화될 수 있을지 상상해 보십시오. Google 검색은 검색 결과에서 명시적 이미지를 보고하고 제거하는 자체 도구를 제공하지만, Wired의 조사에 따르면 StopNCII와 협력하지 않아 전현직 직원과 피해자로부터 비판을 받았습니다. 2020년 이후, 한국의 Google 사용자들은 검색 결과와 YouTube 링크에서 원치 않는 성적 콘텐츠를 170,000번 보고했습니다.

5. 딥페이크 문제의 확산

(1). 청소년 문제

딥페이크 나체 문제는 이미 널리 퍼져 있습니다. StopNCII의 도구는 18세 이상의 사람들만을 대상으로 하지만 'undressing' 사이트는 이미 전국의 고등학생들에게 문제를 일으키고 있습니다. 불행히도, 미국에는 AI 딥페이크 포르노 법이 없어 누구도 책임을 질 수 없기 때문에 이 문제를 해결하기 위해 주와 지방 법의 임시 방편적 접근에 의존하고 있습니다.

(2). 법적 조치

샌프란시스코 검사들은 8월에 16개 'undressing' 사이트를 폐쇄하기 위한 소송을 발표했습니다. Wired의 딥페이크 포르노 법 추적기에 따르면, 미국의 23개 주가 비자발적 딥페이크를 다루기 위한 법을 통과시켰으며, 9개 주는 제안을 기각했습니다.