대규모 AI 모델 악용 막는 안전 장치 의무화
“공동체 보호와 산업 성장 뒷받침하는 법안”
캘리포니아가 인공지능 규제의 새로운 기준을 마련했다. 개빈 뉴섬 주지사는 29일 대규모 AI 모델이 생물학 무기 제작이나 금융 시스템 마비와 같은 재앙적 위협에 악용되는 것을 방지하기 위한 법안(SB 53)에 서명했다. 그는 “연방 차원의 무대응 속에서 캘리포니아가 다시 한번 앞장서게 됐다”고 강조했다.
이번 법은 일정 수준 이상의 연산 능력을 갖춘 ‘프런티어’ AI 모델을 규제 대상으로 삼는다. 기업들은 안전 프로토콜을 마련해 공개해야 하며, 중대한 안전 사고가 발생하면 15일 이내 주 정부에 보고해야 한다. 위반 시 건당 최대 100만 달러의 벌금이 부과된다. 또한 내부 고발자 보호와 연구자들을 위한 공공 클라우드 조성도 포함됐다.
뉴섬 주지사는 성명에서 “캘리포니아는 공동체를 보호하면서도 산업 성장을 뒷받침할 수 있음을 보여줬다”며 “이번 법은 그 균형을 잘 보여주는 사례”라고 말했다. 법안을 발의한 스콧 위너 상원의원(민주∙샌프란시스코) 역시 “이번 조치로 캘리포니아는 기술 혁신과 안전 모두에서 세계적 리더임을 다시 확인했다”고 평가했다.
AI 규제에 대한 입장은 엇갈린다. 일부 테크 기업들은 연방 차원의 일관된 규제가 필요하다고 주장했지만, 앤스로픽은 “이미 업계가 자율적으로 시행해 온 안전 장치를 제도화한 것”이라며 실용적이고 현실적인 접근이라고 지지했다.
연방 차원의 움직임이 더딘 사이 주별 대응은 확산되고 있다. 공화당은 올해 초 의회에서 주·지자체의 AI 규제를 10년간 금지하는 법안을 추진했으나 무산됐다. 도널드 트럼프 대통령은 7월 규제 완화를 통해 미국을 AI 선도국으로 만들겠다는 계획을 발표한 바 있다.
한편 캘리포니아는 AI 기술 도입에서도 선두에 서 있다. 이미 산불 조기 감지, 교통 흐름 개선, 도로 안전 관리 등 다양한 공공 서비스 분야에 생성형 AI를 활용 중이다. 이번 법안 시행으로 캘리포니아는 혁신과 안전 규제의 두 축을 동시에 잡겠다는 의지를 분명히 했다.
이번 법은 일정 수준 이상의 연산 능력을 갖춘 ‘프런티어’ AI 모델을 규제 대상으로 삼는다. 기업들은 안전 프로토콜을 마련해 공개해야 하며, 중대한 안전 사고가 발생하면 15일 이내 주 정부에 보고해야 한다. 위반 시 건당 최대 100만 달러의 벌금이 부과된다. 또한 내부 고발자 보호와 연구자들을 위한 공공 클라우드 조성도 포함됐다.
뉴섬 주지사는 성명에서 “캘리포니아는 공동체를 보호하면서도 산업 성장을 뒷받침할 수 있음을 보여줬다”며 “이번 법은 그 균형을 잘 보여주는 사례”라고 말했다. 법안을 발의한 스콧 위너 상원의원(민주∙샌프란시스코) 역시 “이번 조치로 캘리포니아는 기술 혁신과 안전 모두에서 세계적 리더임을 다시 확인했다”고 평가했다.
AI 규제에 대한 입장은 엇갈린다. 일부 테크 기업들은 연방 차원의 일관된 규제가 필요하다고 주장했지만, 앤스로픽은 “이미 업계가 자율적으로 시행해 온 안전 장치를 제도화한 것”이라며 실용적이고 현실적인 접근이라고 지지했다.
연방 차원의 움직임이 더딘 사이 주별 대응은 확산되고 있다. 공화당은 올해 초 의회에서 주·지자체의 AI 규제를 10년간 금지하는 법안을 추진했으나 무산됐다. 도널드 트럼프 대통령은 7월 규제 완화를 통해 미국을 AI 선도국으로 만들겠다는 계획을 발표한 바 있다.
한편 캘리포니아는 AI 기술 도입에서도 선두에 서 있다. 이미 산불 조기 감지, 교통 흐름 개선, 도로 안전 관리 등 다양한 공공 서비스 분야에 생성형 AI를 활용 중이다. 이번 법안 시행으로 캘리포니아는 혁신과 안전 규제의 두 축을 동시에 잡겠다는 의지를 분명히 했다.
