성적 대상화 콘텐츠 허용 사실 드러나 거센 비난
“AI개발 투명성 전혀 보장되지 않는 사례” 비판도
연방 상원 범죄·대테러 소위원회 차원의 조사 착수
메타(Meta)가 자사 인공지능(AI) 챗봇을 통해 어린이들에게 ‘감각적이고 낭만적인’ 대화를 허용한 사실이 드러나면서 미 연방 정치권과 아동 안전 옹호 단체로부터 거센 비난을 받고 있다.
로이터통신은 이번 주 200쪽 분량의 메타 내부 규정 문건을 입수해 보도했다. 이 문건에 따르면 메타는 페이스북, 인스타그램, 왓츠앱의 챗봇이 어린이와 대화할 때 “너의 모든 부분이 걸작이야, 내가 깊이 소중히 여기는 보물이지”와 같은 표현이나, 고등학생 이용자가 “오늘 밤 계획이 뭐냐”고 묻자 “너의 손을 잡고 침대로 이끈다”는 식의 응답을 허용하고 있었다.
이 규정은 메타의 법무팀과 최고 윤리 책임자까지 승인한 것으로 알려졌다. 메타 본사가 위치한 멘로파크 출신 케빈 멀린(민주·캘리포니아) 연방 하원의원은 “충격적이고 완전히 용납할 수 없는 일”이라며 “영향력이 큰 AI 시스템 개발에서 투명성이 전혀 보장되지 않고 있음을 보여주는 사례”라고 비판했다.
스티븐 발캄 가족온라인안전연구소(FOSI) 대표 역시 “역겹다는 표현 외에 할 말이 없다”며 “실제 오프라인에서 성인이 아이에게 그런 말을 했다면 즉시 아동 성범죄자로 분류될 것”이라고 지적했다.
메타는 지난해 624억 달러의 순익을 기록한 빅테크 기업이다. 그러나 보도에 따르면 마크 저커버그 CEO는 오히려 챗봇의 안전 규제가 “지루하다”며 축소를 요구했던 것으로 전해졌다.
메타 측은 성명을 통해 “아동을 성적으로 대상화하는 콘텐츠와 성인-미성년자 간의 성적 역할극은 금지한다”며 로이터가 공개한 사례는 “정책과 일치하지 않는 오류였으며 이미 삭제됐다”고 해명했다. 그러나 앞서 메타 대변인 앤디 스톤은 “13세 미만 아동과의 성적 대화 차단 규정 집행이 일관되지 않았다”고 인정한 바 있다.
공화당 소속 조시 홀리 상원의원(미주리)은 “역겹고 비열하다”며 상원 범죄·대테러 소위원회 차원의 조사 착수를 발표했다. 그는 “누가 이런 규정을 승인했는지, 언제까지 시행됐는지, 그리고 메타가 이후 어떤 조치를 취했는지 반드시 밝혀낼 것”이라고 밝혔다.
마샤 블랙번(공화·테네시) 상원의원은 “아이들을 착취하는 메타의 행태는 역겹다”고 했으며, 애덤 시프(민주·캘리포니아) 하원의원 역시 “심각하게 잘못된 일”이라며 강하게 비판했다.
아동 온라인 안전센터의 리사 호놀드 소장은 “아이들이 AI와 이런 대화를 나누면 성인 범죄자들에게 더욱 취약해진다”며 “이런 언어가 정상처럼 인식될 경우 위험이 더욱 커진다”고 경고했다.
메타는 현재 캘리포니아를 포함한 미 전역 수십 개 주 정부와 수백 개 학군으로부터 아동에게 유해하고 중독적인 소셜미디어를 제공했다는 혐의로 소송을 당한 상태다. 그러나 이번 챗봇 규정 문제는 제3자 콘텐츠가 아니라 메타 자체가 생성한 결과물이어서, 법적 면책 조항인 연방 통신품위법(CDA) 230조의 보호를 받을 수 없다는 지적도 제기된다.
문제의 규정은 블랙번, 리처드 블루멘탈 상원의원이 발의한 ‘아동 온라인 안전법(Kids Online Safety Act)’ 청문회에서도 주요 쟁점으로 다뤄질 전망이다.
전문가들은 부모들에게 자녀의 스마트폰·태블릿 사용을 침실에서 차단하고, 특히 야간에는 기기를 치우도록 관리해야 한다고 조언하고 있다.
로이터통신은 이번 주 200쪽 분량의 메타 내부 규정 문건을 입수해 보도했다. 이 문건에 따르면 메타는 페이스북, 인스타그램, 왓츠앱의 챗봇이 어린이와 대화할 때 “너의 모든 부분이 걸작이야, 내가 깊이 소중히 여기는 보물이지”와 같은 표현이나, 고등학생 이용자가 “오늘 밤 계획이 뭐냐”고 묻자 “너의 손을 잡고 침대로 이끈다”는 식의 응답을 허용하고 있었다.
이 규정은 메타의 법무팀과 최고 윤리 책임자까지 승인한 것으로 알려졌다. 메타 본사가 위치한 멘로파크 출신 케빈 멀린(민주·캘리포니아) 연방 하원의원은 “충격적이고 완전히 용납할 수 없는 일”이라며 “영향력이 큰 AI 시스템 개발에서 투명성이 전혀 보장되지 않고 있음을 보여주는 사례”라고 비판했다.
스티븐 발캄 가족온라인안전연구소(FOSI) 대표 역시 “역겹다는 표현 외에 할 말이 없다”며 “실제 오프라인에서 성인이 아이에게 그런 말을 했다면 즉시 아동 성범죄자로 분류될 것”이라고 지적했다.
메타는 지난해 624억 달러의 순익을 기록한 빅테크 기업이다. 그러나 보도에 따르면 마크 저커버그 CEO는 오히려 챗봇의 안전 규제가 “지루하다”며 축소를 요구했던 것으로 전해졌다.
메타 측은 성명을 통해 “아동을 성적으로 대상화하는 콘텐츠와 성인-미성년자 간의 성적 역할극은 금지한다”며 로이터가 공개한 사례는 “정책과 일치하지 않는 오류였으며 이미 삭제됐다”고 해명했다. 그러나 앞서 메타 대변인 앤디 스톤은 “13세 미만 아동과의 성적 대화 차단 규정 집행이 일관되지 않았다”고 인정한 바 있다.
공화당 소속 조시 홀리 상원의원(미주리)은 “역겹고 비열하다”며 상원 범죄·대테러 소위원회 차원의 조사 착수를 발표했다. 그는 “누가 이런 규정을 승인했는지, 언제까지 시행됐는지, 그리고 메타가 이후 어떤 조치를 취했는지 반드시 밝혀낼 것”이라고 밝혔다.
마샤 블랙번(공화·테네시) 상원의원은 “아이들을 착취하는 메타의 행태는 역겹다”고 했으며, 애덤 시프(민주·캘리포니아) 하원의원 역시 “심각하게 잘못된 일”이라며 강하게 비판했다.
아동 온라인 안전센터의 리사 호놀드 소장은 “아이들이 AI와 이런 대화를 나누면 성인 범죄자들에게 더욱 취약해진다”며 “이런 언어가 정상처럼 인식될 경우 위험이 더욱 커진다”고 경고했다.
메타는 현재 캘리포니아를 포함한 미 전역 수십 개 주 정부와 수백 개 학군으로부터 아동에게 유해하고 중독적인 소셜미디어를 제공했다는 혐의로 소송을 당한 상태다. 그러나 이번 챗봇 규정 문제는 제3자 콘텐츠가 아니라 메타 자체가 생성한 결과물이어서, 법적 면책 조항인 연방 통신품위법(CDA) 230조의 보호를 받을 수 없다는 지적도 제기된다.
문제의 규정은 블랙번, 리처드 블루멘탈 상원의원이 발의한 ‘아동 온라인 안전법(Kids Online Safety Act)’ 청문회에서도 주요 쟁점으로 다뤄질 전망이다.
전문가들은 부모들에게 자녀의 스마트폰·태블릿 사용을 침실에서 차단하고, 특히 야간에는 기기를 치우도록 관리해야 한다고 조언하고 있다.
