캘리포니아 AI 법안 SB 1047 대중을 보호하려는 시도. (feat. 실리콘밸리)

캘리포니아주에서 제안한 인공지능(AI) 법안 SB 1047이 세간의 큰 관심을 받고 있습니다. 이 법안은 AI 시스템의 재난을 방지하기 위한 목적이지만, 실리콘 밸리의 많은 관계자들이 이 법안이 도리어 재난을 초래할 것이라 경고하고 있습니다. 이번 포스트에서는 SB 1047이란 무엇이며, 왜 이렇게 논란이 되고 있는지 자세하게 살펴보겠습니다.

목차

• 1. SB 1047 법안이란?
• 1-1. 법안의 목적
• 1-2. 제정 배경
• 1-3. 주요 내용
• 2. 논란의 중심: 실리콘 밸리의 반응
• 2-1. 실리콘 밸리의 반대 이유
• 2-2. 주요 인물들의 목소리
• 2-3. 주요 회사들의 입장
• 3. SB 1047의 향후 전망
• 3-1. 법안의 수정 가능성
• 3-2. 향후 일정
• 3-3. 예측되는 결과

1. SB 1047 법안이란?

1-1. 법안의 목적

SB 1047은 AI 시스템이 초래할 수 있는 재난을 방지하기 위한 캘리포니아주 법안입니다. AI 시스템이 자율적으로 대규모 사이버 공격을 일으키거나 무기를 만들어 인명 피해를 일으키는 등의 "중대한 해악"을 방지하는 것이 주요 목표입니다.

1-2. 제정 배경

캘리포니아주 상원의원 스콧 위너는 SB 1047 법안을 통해, 소셜 미디어와 데이터 프라이버시 문제로부터 배운 교훈을 토대로 AI 기술이 대중에게 미칠 수 있는 위험을 사전에 방지하고자 합니다. 위너 의원은 "우리가 기술로 인한 피해를 기다린 후에야 비로소 손을 쓰려는 역사는 이제 그만두자"라고 말했습니다.

1-3. 주요 내용

SB 1047 법안은 다음과 같은 주요 내용을 포함하고 있습니다:

• 자원이 많은 대규모 AI 모델(최소 $1억 달러의 비용과 10^26 FLOPS 연산력을 소모하는 모델)에 적용
• 개발자는 안전 프로토콜을 마련하여 AI 모델의 오용을 방지해야 함
• 안전 프로토콜에는 '긴급 정지' 버튼을 포함
• 연례 테스트와 제3자 감사 필요
• 모델이 캘리포니아 내에서 사용되는 한, 개발 회사의 위치에 관계없이 법 적용

SB1047

2. 논란의 중심: 실리콘 밸리의 반응

2-1. 실리콘 밸리의 반대 이유

실리콘 밸리의 많은 관계자들은 이 법안이 오히려 기술 혁신을 저해하고, AI 기업들에게 과도한 부담을 준다고 주장합니다. 특히 초기 기업들에게는 큰 경제적 부담을 초래할 수 있다는 우려가 많습니다.

2-2. 주요 인물들의 목소리

두 명의 'AI 대부'로 불리는 제프리 힌턴과 요슈아 벤지오는 이 법안을 지지하며 AI 기술이 초래할 수 있는 위험을 경고하고 있습니다. 반면, AI 분야의 또 다른 주요 인물인 페이페이 리와 앤드류 응은 이 법안이 AI 생태계를 해칠 것이라며 반대 입장을 표명했습니다.

2-3. 주요 회사들의 입장

오픈AI, 구글, 마이크로소프트와 같은 대기업은 물론, 많은 AI 스타트업과 연구자들도 우려를 나타내고 있습니다. 예를 들어, 메타의 최고 AI 과학자인 얀 르쿤은 이 법안이 연구 노력을 해칠 것이라고 주장하며 반대 의견을 제시했습니다.

3. SB 1047의 향후 전망

3-1. 법안의 수정 가능성

최근 AI 모델 개발사인 앤스로픽은 여러 수정을 제안했으며, 위너 의원과 캘리포니아 상원 정책 위원회는 이를 고려하고 있습니다. 수정 내용에는 FMD를 없애고, 주 총검사의 소송 권한을 제한하며, 내부고발자 보호 조항을 삭제하는 등의 내용이 포함됩니다.

3-2. 향후 일정

SB 1047 법안은 8월 15일 캘리포니아 상원 본회의로 넘어가게 됩니다. 상원 본회의에서는 법안이 통과될 가능성이 높다고 전망되고 있습니다. 만약 통과된다면, 최종적으로 캘리포니아 주지사 개빈 뉴섬의 서명을 받아야 법으로 제정됩니다.

3-3. 예측되는 결과

만약 SB 1047이 법으로 제정된다면, FMD와 같은 새로운 기관이 2026년에 설립되기 전까지 법안은 바로 시행되지 않게 됩니다. 그 사이에 다수의 법적 도전이 예상되며, 특히 이번 법안에 반대하는 다수의 그룹들이 법적 문제를 제기할 가능성이 큽니다.

이번 포스트에서는 캘리포니아 AI 법안 SB 1047에 대해 살펴보았습니다. AI 기술이 발전함에 따라 법적 규제가 필요하다는 점에는 모두가 동의하지만, 그 방법에 대해서는 많은 논란이 있는 것 같습니다.