감정·신경 데이터 수집 및 화장실 감시도 제한
개빈 뉴섬 캘리포니아 주지사가 인공지능(AI)을 이용한 직원 해고와 징계, 직장 내 감시 등에 새로운 제한을 두는 노동자 보호 법안들에 서명했다. AI가 기업의 인사 결정과 직원 관리에 빠르게 도입되는 가운데, 최종 고용 결정에 사람의 판단을 개입시키고 노동자가 자신에게 어떤 자동화 기술이 사용됐는지 알 수 있도록 하는 것이 핵심이다.
뉴섬 주지사는 9월 30일 SB 947, SB 951, AB 1331, AB 1883 등 직장 내 AI와 자동화 기술 사용을 규제하는 4개 법안에 서명했다. 주정부는 이번 조치가 AI를 이용한 고용 결정과 직장 감시에 대한 미국 내 선도적 규제라고 설명했다.
가장 직접적인 변화는 제리 맥너니 주상원의원이 발의한 SB 947이다. 이 법은 고용주가 AI나 머신러닝, 통계 모델 등을 기반으로 한 ‘자동화 의사결정 시스템’의 판단만으로 직원을 징계하거나 해고하는 것을 금지한다. 고용주가 AI 결과에 주로 의존할 경우 관리자의 평가, 인사기록, 업무 결과물, 동료 평가 등 별도의 자료를 통해 사람이 해당 결과를 확인해야 한다.
사람이 검토한 결과 AI의 판단이 부정확하거나 불완전하거나 오해를 불러일으킬 수 있다고 판단하면 해당 결과를 징계나 해고 결정에 사용할 수 없다. AI가 주요 근거로 사용됐다면 고용주는 해당 직원에게 이를 서면으로 알리고, 사람에 의한 검토가 이뤄졌다는 사실과 추가 설명을 받을 수 있는 담당자의 연락처도 제공해야 한다. 직원은 AI가 판단에 사용한 자신의 데이터에 대한 설명도 요청할 수 있다. 이 법은 2027년 7월 1일부터 시행된다.
SB 951은 AI와 자동화로 인한 대규모 감원에 대한 투명성을 강화한다. 현행 캘리포니아 근로자 조정·재훈련 통지법에 따라 일정 규모 이상의 사업장에서 대규모 해고나 사업장 이전·폐쇄가 이뤄질 경우 60일 전 통지가 요구되는데, 앞으로 감원이 AI 또는 다른 자동화 기술에 의해 전부 또는 상당 부분 발생했다면 그 사실도 통지서에 명시해야 한다.
통지서에는 자동화로 사라지는 직종과 근무지, 해당 직원들이 수행했던 업무 가운데 AI가 대신하게 되는 기능, 사용되는 AI나 자동화 기술의 유형 등이 포함돼야 한다. 통지서 상단에는 ‘기술적 대체에 관한 통지’라는 문구도 표시해야 한다. 캘리포니아 고용개발국은 이런 사례를 분기별로 집계해 공개하고, 2028년 1월까지 AI가 기업 채용에 미치는 영향을 분석해 주의회에 보고하게 된다.
직장 내 AI 감시에도 제한이 생긴다. 아이작 브라이언 주하원의원이 발의한 AB 1883은 고용주가 AI 기반 감시 기술을 이용해 직원의 감정 상태를 인식하거나 예측하고, 중추·말초 신경계 활동을 측정해 얻은 ‘신경 데이터’를 수집하는 것을 원칙적으로 금지한다. 다만 안전을 확보하기 위한 용도 등 법률에 규정된 예외는 인정된다. 위반 시 건당 최대 500달러의 민사 벌금이 부과될 수 있다.
사데 엘하와리 주하원의원이 발의한 AB 1331은 직장 화장실에서 고용주가 감시 장비를 이용해 직원을 모니터링하는 것을 원칙적으로 금지한다. 직원은 화장실에 들어갈 때 자신이 소지한 위치 추적 등 직장 감시 장치를 밖에 둘 수 있도록 했다. AB 1331과 AB 1883은 2027년 1월 1일부터 시행될 예정이다.
뉴섬 주지사는 “AI는 기회를 확대해야 하며 노동자와 가족의 희생을 대가로 해서는 안 된다”며 “AI가 일터를 변화시키는 상황에서 캘리포니아는 사람을 결정의 중심에 두고 있다”고 밝혔다. 캘리포니아 노동계도 네 법안이 AI를 이용한 고용 결정에 사람의 감독을 유지하고 직장 감시를 제한하는 장치를 마련했다고 평가했다.
반면 캘리포니아상공회의소는 SB 947의 일부 용어와 적용 기준이 지나치게 광범위하거나 명확하지 않아 특히 중소기업의 규제 준수 부담을 높일 수 있다고 주장했으며, SB 951과 AB 1331에도 반대 입장을 밝혔다.
뉴섬 주지사 역시 AB 1331과 AB 1883에 서명하면서 후속 보완 필요성을 인정했다. 그는 AB 1331이 직원들의 보안시설 출입 시스템과 충돌할 가능성이 있고 AB 1883은 어떤 기술이 규제 대상인지 판단하는 데 필요한 일부 정의가 부족하다며 주의회에 두 법안의 범위를 보다 명확하게 다듬을 것을 요청했다.
이번 법안들은 AI 도입 자체를 금지하기보다는 AI가 직원의 징계·해고를 단독으로 결정하거나 민감한 생체·신경 정보를 이용해 직원을 평가하는 것을 제한하고, 자동화로 일자리가 사라질 경우 노동자에게 이를 공개하도록 하는 데 초점을 맞추고 있다. 캘리포니아 기업들은 2027년부터 인사관리와 직장 감시에 사용하는 AI 시스템이 새 규정에 부합하는지 점검해야 할 것으로 보인다.
