이번 주 AI: OpenAI의 인재 유지 문제

목차

• 1. OpenAI의 창립자, 경쟁사로 이직
  • 1-1. 존 슐만의 이직 배경
  • 1-2. 존 슐만의 이직 타이밍이 의미하는 바
• 2. OpenAI의 DevDay 이벤트 변화
  • 2-1. 새로운 개발자 참여 세션
  • 2-2. GPT-4의 후속 모델 연기
• 3. OpenAI의 재정적 도전
  • 3-1. 다가오는 자금 조달 필요성
  • 3-2. Microsoft의 영향과 역할
• 4. AI 산업의 미래와 도전
  • 4-1. 오픈 모델의 위험성
  • 4-2. AI 연구의 새로운 접근법
• 5. 새로운 이미지 생성 모델 Flux.1
  • 5-1. Flux.1의 기능과 가능성
  • 5-2. Flux.1의 데이터 소스와 윤리적 문제
• 6. 생성적 AI와 저작권
  • 6-1. 공정 이용 방어 전략
  • 6-2. 저작권 침해 문제가 가져올 미래

오픈AI의 문제

1. OpenAI의 창립자, 경쟁사로 이직

1-1. 존 슐만의 이직 배경

존 슐만(John Schulman)은 ChatGPT 개발에 중요한 역할을 했던 OpenAI의 공동 창립자 중 한 명으로, 최근 경쟁사인 Anthropic으로 이직했습니다. 그는 X(구 트위터)에서 이 소식을 발표하며, AI 정렬(인공지능이 의도한 대로 작동하도록 보장하는 과학)에 대한 깊은 관심과 기술적인 작업에 더 많은 시간을 할애하기 위해 이직을 결심했다고 설명했습니다.

1-2. 존 슐만의 이직 타이밍이 의미하는 바

슐만의 이직 타이밍은 OpenAI의 회장인 그렉 브록만(Greg Brockman)이 연말까지 장기 휴가를 가지는 시기와 겹칩니다. 이는 다소 기회주의적인 움직임으로 인식될 수 있습니다. 같은 날 OpenAI는 올해 DevDay 이벤트 형식을 변경한다고 발표하며, 화려한 하루짜리 컨퍼런스 대신 개발자 참여 세션을 개최할 것이라고 밝혔습니다. 이는 GPT-4의 후속 모델 개발이 더디게 진행되고 있음을 암시합니다.

2. OpenAI의 DevDay 이벤트 변화

2-1. 새로운 개발자 참여 세션

이번 해의 DevDay 이벤트는 과거와 달리 화려한 하루짜리 컨퍼런스 대신 여러 도시를 돌며 개발자들과의 직접적인 소통을 강조하는 새로운 형식으로 진행됩니다. 이는 개발자 커뮤니티와의 더 깊은 연결을 목표로 하며, 다양한 피드백을 실시간으로 받을 수 있는 기회를 제공합니다.

2-2. GPT-4의 후속 모델 연기

OpenAI는 DevDay 이벤트에서 새로운 모델을 발표하지 않을 것이라고 밝혔습니다. 이는 현재의 GPT-4 후속 모델 개발이 느린 속도로 진행되고 있음을 나타내며, 특히 Nvidia의 Blackwell GPUs의 지연이 그 속도를 더욱 늦출 가능성이 큽니다.

3. OpenAI의 재정적 도전

3-1. 다가오는 자금 조달 필요성

OpenAI는 올해 약 50억 달러의 손실이 예상됩니다. 높은 인건비와 모델 훈련, 대규모 모델 제공 비용을 충당하기 위해, 회사는 향후 12~24개월 내에 엄청난 자금을 조달해야 할 것입니다. 이는 AI 연구가 많은 자금을 소모하기 때문에 발생하는 문제로, AI 기업에게 있어 큰 부담이 될 수 있습니다.

3-2. Microsoft의 영향과 역할

Microsoft는 OpenAI의 최대 주주로, AI 분야에서의 긴밀한 협력 관계를 유지하고 있습니다. 그러나 Microsoft의 자본 지출이 매년 75% 증가하고(올해는 190억 달러에 달함) AI 투자 성과가 아직 가시화되지 않은 상태에서 더 많은 자금을 OpenAI에 투자할 여력이 있는지는 의문입니다.

4. AI 산업의 미래와 도전

4-1. 오픈 모델의 위험성

Meta의 Llama 가족과 같은 "오픈" 모델은 개발자가 자유롭게 사용할 수 있어 혁신을 촉진할 수 있지만, 정보 오용과 같은 위험을 내포하고 있습니다. 예를 들어, 개방형 모델은 잘못된 정보를 퍼트리거나 콘텐츠 농장을 만들어내는 데 사용될 수 있습니다.

4-2. AI 연구의 새로운 접근법

Harvard, AI Safety 센터 등에서 활동하는 연구팀은 모델의 "양성적 능력"을 유지하면서 모델이 의도치 않게 작동하는 것을 방지하는 "변조 방지" 방법을 제안했습니다. 초기 실험 결과, 이 방법이 효과적임을 입증했으나, 큰 모델에는 확장성이 떨어지는 문제가 있습니다.

5. 새로운 이미지 생성 모델 Flux.1

5-1. Flux.1의 기능과 가능성

Black Forest Labs는 최근 Flux.1이라는 새로운 이미지 생성 모델을 발표했습니다. 이 모델은 Midjourney와 OpenAI의 DALL-E 3 등을 능가할 가능성을 보이고 있습니다. Flux.1 Pro는 API로 제공되며, Flux.1 Dev와 Flux.1 Schnell은 AI 개발 플랫폼 Hugging Face에서 가벼운 상업적 사용 제한과 함께 공개되었습니다.

5-2. Flux.1의 데이터 소스와 윤리적 문제

Black Forest Labs는 모델 훈련에 사용된 데이터를 공개하지 않고 있어 저작권 문제에 대한 우려가 있습니다. Flux.1의 데이터 소스와 모델 오용 방지에 대한 구체적인 계획도 미비하여 사용자들은 주의가 필요합니다.

6. 생성적 AI와 저작권

6-1. 공정 이용 방어 전략

생성적 AI 기업들은 저작권이 있는 데이터를 데이터 소유자의 허락 없이 모델 훈련에 사용할 때 '공정 이용'을 방어 전략으로 점점 더 많이 채택하고 있습니다. 예를 들어, AI 음악 생성 플랫폼 Suno는 음악가와 레이블의 허락 없이 노래를 사용할 수 있다고 주장하고 있습니다.

6-2. 저작권 침해 문제가 가져올 미래

이와 같은 주장은 Nvidia에서도 보입니다. Nvidia는 최근 YouTube와 Netflix 콘텐츠를 학습 데이터로 사용하는 동영상 생성 모델 Cosmos를 개발하고 있습니다. 법적 문제를 고려한 Nvidia의 고위 관리들은 이러한 데이터 사용이 미국 저작권법의 현재 해석하에 법적 문제를 피할 수 있을 것이라고 믿고 있습니다.

공정 이용이 AI 기업들을 저작권 문제로부터 지켜줄지는 미지수이지만, 관련 소송은 시간이 오래 걸릴 것입니다. 생성적 AI 거품이 꺼지기 전에 선례가 확립될지 여부도 불확실합니다. 만약 저작권 이슈가 해소되지 않는다면, 창작자들은 자신이 만든 모든 콘텐츠가 AI 모델 훈련에 사용될 수 있다는 사실과 함께 살아가야 할지도 모릅니다.