OpenAI 샘알트만과 빌게이츠의 인터뷰(feat.오프라윈프리)

최근 Oprah Winfrey가 OpenAI의 CEO Sam Altman, 기술 인플루언서 Marques Brownlee, FBI 국장 Christopher Wray와 함께 한 AI 특집 프로그램 "AI와 우리 미래"를 방송했습니다. 여기에서 다룬 주요 내용을 정리해 보았습니다.

목차

• 1. AI에 대한 회의론이 주류를 이루다
  • 1-1. Oprah의 발언
  • 1-2. Altman의 AI 개념 소개
• 2. AI 안전성 테스트 및 규제
  • 2-1. 정부의 역할
  • 2-2. 캘리포니아 AI 안전법
• 3. Deepfake와 그 영향
  • 3-1. Deepfake 쇼케이스
  • 3-2. Wray 국장과의 인터뷰
• 4. 교육과 의료에서의 AI 잠재력
  • 4-1. AI와 편견
  • 4-2. 교실에서의 AI 영향

 

1. AI에 대한 회의론이 주류를 이루다

Oprah가 방송 초기에 언급했듯이, 이번 특집의 주요 톤은 회의론이었습니다.

1-1. Oprah의 발언

Oprah는 AI가 이미 병 속에서 나온 지니와 같으며, 우리가 그 결과와 함께 살아가야만 한다고 강조했습니다. "AI는 여전히 우리의 통제를 벗어나 있으며, 우리는 그 의미를 완전히 이해하지 못합니다. 하지만 AI는 여기 있으며, 인간은 그 기술과 함께 살아가야 합니다. 우리가 진짜에 집중하지 않는다면, 그 위험은 매우 큽니다."라고 그녀는 말했습니다.

1-2. Altman의 AI 개념 소개

Altman은 첫 인터뷰에서 AI가 학습 데이터 내에서 개념을 배우고 있다고 주장했습니다. "우리는 시스템에 천 개의 단어를 보여주고 다음에 올 단어를 예측하도록 요청합니다. 그리고 시스템은 예측하는 방법을 배우고, 이 과정에서 기본적인 개념들을 학습합니다."라고 그는 설명했습니다.

물론, 이 주장에 대해 많은 전문가들이 반박할 것입니다. 현재의 AI 시스템은 단어의 다음 단어를 예측하는 통계적 기계일 뿐이며, 고의성 없이 데이터 패턴만을 학습하고 있습니다.

2. AI 안전성 테스트 및 규제

Altman은 이날 인터뷰에서 AI 시스템의 안전성 테스트가 중요하다고 강조했습니다.

2-1. 정부의 역할

Altman은 "정부가 항공기나 신약을 안전성 테스트하는 것처럼 AI 시스템을 테스트하는 방법을 찾아야 합니다. 이를 위해 정부 인사와 매일 대화를 나누고 있습니다."라고 말했습니다.

2-2. 캘리포니아 AI 안전법

그러나 Altman의 규제 추진은 자기 이익을 위한 것일 수도 있습니다. OpenAI는 캘리포니아 AI 안전법인 SB 1047에 반대하며, 이 법안이 혁신을 저해할 것이라고 주장합니다. 반면, 전 OpenAI 직원들과 AI 전문가들은 이 법안을 지지하며, AI 개발에 필요한 안전 장치를 마련할 것이라고 주장합니다.

3. Deepfake와 그 영향

AI 특집에서 필연적으로 다루게 된 주제는 바로 deepfake였습니다.

3-1. Deepfake 쇼케이스

Brownlee는 OpenAI의 AI 비디오 생성기 Sora와 몇 달 된 AI 시스템의 샘플 영상을 비교하여 deepfake 기술의 발전속도를 시청자들에게 보여주었습니다. Sora의 샘플은 매우 현실적이어서 Oprah도 진짜처럼 느꼈다고 말했습니다.

3-2. Wray 국장과의 인터뷰

Wray는 deepfake 기술을 처음 경험한 순간을 회상했습니다. "회의실에서 FBI 직원들이 제가 한 적 없는 말을 하도록 합성된 영상을 보여주었습니다. 이는 AI 가짜 영상의 위력을 보여주는 한 예였습니다."라고 말했습니다.

그는 AI 기술을 활용한 '성적 협박(sextortion)' 사건의 증가에 대해 논의했습니다. 사이버 보안 회사 ESET에 따르면, AI 기술에 의해 2022년과 2023년 사이 성적 협박 사건이 178% 증가했습니다. "AI 생성 사진을 이용해 피해자를 협박하는 사례가 증가하고 있습니다."라고 Wray는 설명했습니다.

Wray는 또한 다가오는 미국 대통령 선거와 관련한 허위 정보 문제를 언급했습니다. "허위 정보는 공황 상태를 조성할 필요는 없지만, 모든 미국 국민이 AI의 사용에 대해 더욱 신중하고 집중하는 것이 중요합니다."라고 강조했습니다.

4. 교육과 의료에서의 AI 잠재력

4-1. AI와 편견

Gates는 의료와 교육 분야에서 AI의 긍정적인 잠재력을 강조했습니다. 그러나 AI 훈련에서 발생할 수 있는 편견에 대해선 언급하지 않았습니다.

최근 연구에 따르면, 주요 기술 기업의 음성 인식 시스템이 흑인 스피커의 음성을 백인 스피커에 비해 두 배 더 많이 오인합니다. 또한 AI 시스템이 흑인과 백인 간의 생물학적 차이(실제로 존재하지 않는)를 강화해 잘못된 건강 진단을 이끌어 내는 사례도 다수 확인되었습니다.

4-2. 교실에서의 AI 영향

Gates는 AI가 교실에서 학생을 항상 동기부여하고 학습 수준에 맞게 대응할 수 있다고 설명했습니다. 그러나 모든 교실이 이 점에 동의하는 것은 아닙니다. 지난 여름, 여러 학교는 표절과 허위 정보 우려로 ChatGPT를 금지하기도 했습니다. 일부 학교는 이후 규제를 완화했지만, 여전히 AI의 긍정적인 잠재력을 회의적으로 바라보고 있습니다.

또한, UN 교육과학문화기구(UNESCO)는 지난해 말 정부가 교육 분야에서 AI를 규제하고 데이터 보호 및 사용자 프라이버시에 대한 방지책을 마련해야 한다고 촉구했습니다.