부모 허락 없이는 설정 변경 불가…성적·약물·폭력 금지
검색어까지 확대 차단, “위험 커뮤니티 접점 완전히 끊겠다”
메타(Meta)가 10대 이용자의 안전을 강화하기 위해 인스타그램에서 기본적으로 13세 미만 어린이에게 허용하는 ‘PG-13’ 등급 수준의 콘텐츠만 노출하도록 제한하는 정책을 14일 발표했다. 이 정책에 따르면 앞으로 18세 미만 사용자는 부모의 허락 없이 이 설정을 변경할 수 없으며, 성적 표현, 약물, 위험한 행동 등이 포함된 게시물은 자동으로 차단된다.
이번 조치는 지난해 도입된 ‘청소년 전용 계정’ 기능을 한층 강화한 것으로, 청소년 계정은 기본적으로 비공개로 설정되고 이용 시간과 추천 콘텐츠가 강하게 제한된다. 특히 욕설, 위험한 챌린지, 대마 관련 소품 등 유해 가능성이 있는 게시물은 탐색·추천 영역은 물론 검색 결과에서도 제외된다. 메타는 이를 “도입 이후 가장 강력한 보호 조치”라고 강조했다.
최근 외부 조사에서는 청소년용 계정에서도 성적 묘사, 수치심을 조장하는 만화, 자해나 섭식 장애와 연관된 게시물이 노출되고 있다는 지적이 제기됐다. 인스타그램이 자가 보고한 정책과 실제 운영 간 괴리가 드러나며 비판이 커진 상황에서, 메타는 이번 업데이트를 통해 청소년에게 부적절한 계정을 아예 팔로우하거나 메시지를 주고받는 것도 불가능하도록 조치했다. 이미 팔로우 중인 계정이라도 성인용 콘텐츠를 다룬다면 더 이상 게시물을 볼 수 없고, 상호 소통 역시 차단된다.
검색어 제재 범위도 확대된다. 기존에 ‘자살’이나 ‘섭식 장애’와 같은 민감 키워드를 차단했다면, 앞으로는 ‘알코올’이나 ‘고어(gore)’처럼 오락적·충격적 콘텐츠로 이어질 수 있는 단어까지 포함된다. 틀린 철자나 변형된 표현도 AI 필터링을 통해 감지한다는 방침이다.
메타는 이 같은 PG-13 원칙을 인공지능(AI) 대화 기능에도 적용한다고 밝혔다. 청소년 이용자가 AI 챗봇을 사용할 경우, 마치 13세 관람가 영화처럼 수위 조절된 응답만 제공한다는 것이다.
또한 부모가 원할 경우 훨씬 더 강력한 ‘제한 콘텐츠 모드(Limited Content)’도 설정할 수 있다. 이 모드에서는 게시물 댓글 보기, 남기기, 받기 기능까지 차단되어 사실상 시청 전용 계정에 가까워진다.
메타는 “10대 사용자의 경험이 플랫폼 신뢰의 핵심”이라며 “단순한 콘텐츠 제한을 넘어 위험 커뮤니티와의 접점을 원천적으로 차단하겠다”고 밝혔다. 하지만 전문가들은 “기술적 필터만으로는 한계가 있다”며 실시간 모니터링과 외부 기관과의 협력이 병행돼야 한다는 지적을 내놓고 있다.
이번 조치는 지난해 도입된 ‘청소년 전용 계정’ 기능을 한층 강화한 것으로, 청소년 계정은 기본적으로 비공개로 설정되고 이용 시간과 추천 콘텐츠가 강하게 제한된다. 특히 욕설, 위험한 챌린지, 대마 관련 소품 등 유해 가능성이 있는 게시물은 탐색·추천 영역은 물론 검색 결과에서도 제외된다. 메타는 이를 “도입 이후 가장 강력한 보호 조치”라고 강조했다.
최근 외부 조사에서는 청소년용 계정에서도 성적 묘사, 수치심을 조장하는 만화, 자해나 섭식 장애와 연관된 게시물이 노출되고 있다는 지적이 제기됐다. 인스타그램이 자가 보고한 정책과 실제 운영 간 괴리가 드러나며 비판이 커진 상황에서, 메타는 이번 업데이트를 통해 청소년에게 부적절한 계정을 아예 팔로우하거나 메시지를 주고받는 것도 불가능하도록 조치했다. 이미 팔로우 중인 계정이라도 성인용 콘텐츠를 다룬다면 더 이상 게시물을 볼 수 없고, 상호 소통 역시 차단된다.
검색어 제재 범위도 확대된다. 기존에 ‘자살’이나 ‘섭식 장애’와 같은 민감 키워드를 차단했다면, 앞으로는 ‘알코올’이나 ‘고어(gore)’처럼 오락적·충격적 콘텐츠로 이어질 수 있는 단어까지 포함된다. 틀린 철자나 변형된 표현도 AI 필터링을 통해 감지한다는 방침이다.
메타는 이 같은 PG-13 원칙을 인공지능(AI) 대화 기능에도 적용한다고 밝혔다. 청소년 이용자가 AI 챗봇을 사용할 경우, 마치 13세 관람가 영화처럼 수위 조절된 응답만 제공한다는 것이다.
또한 부모가 원할 경우 훨씬 더 강력한 ‘제한 콘텐츠 모드(Limited Content)’도 설정할 수 있다. 이 모드에서는 게시물 댓글 보기, 남기기, 받기 기능까지 차단되어 사실상 시청 전용 계정에 가까워진다.
메타는 “10대 사용자의 경험이 플랫폼 신뢰의 핵심”이라며 “단순한 콘텐츠 제한을 넘어 위험 커뮤니티와의 접점을 원천적으로 차단하겠다”고 밝혔다. 하지만 전문가들은 “기술적 필터만으로는 한계가 있다”며 실시간 모니터링과 외부 기관과의 협력이 병행돼야 한다는 지적을 내놓고 있다.
