딥페이크·그루밍 급증…디지털 성범죄 확산, 10~20대 피해자 7000명↑
카카오 오픈채팅 제한 등 무관용 원칙·네이버 연령제한 기능·클린봇 도입

카카오는 지난 6월 ‘카카오톡 운영정책’을 전면 개정하며 아동·청소년 보호 대책을 대폭 강화했다. <출처=연합뉴스>

청소년 이용자 보호에 대한 사회적 요구가 커지면서, 네이버·카카오 등 국내 플랫폼 기업뿐만 아니라 메타·구글·틱톡 등 글로벌 빅테크 기업들까지 관련 정책을 앞다퉈 강화하고 있다. 청소년들이 보다 안전하게 디지털 서비스를 이용할 수 있도록 기술적 조치와 제도 개선을 병행하며 ‘맞춤형 보호 환경’ 체계 구축에 나선 것이다.

카카오는 지난 6월 ‘카카오톡 운영정책’을 전면 개정하며 아동·청소년 보호 대책을 대폭 강화했다. 개정안에서는 △아동·청소년 대상 온라인 그루밍 △성매매·성착취 목적 대화 △테러 예비·음모, 불법정보 유통 등 신종 범죄를 명확히 제재 대상으로 명시하고, 이에 대한 대응 기준을 높였다.

특히, 아동·청소년이 타인에게 금품이나 편의를 대가로 성적 만남을 제안하거나 요청하는 행위는 물론, 성인-청소년 간의 대화뿐 아니라 청소년끼리의 대화도 제재 대상에 포함했다. 적발 시에는 계정 영구 제한, 오픈채팅 영구 차단 등 ‘무관용 원칙’이 적용된다.

카카오는 앞서 지난 4월에도 법정대리인의 요청만으로도 미성년자의 오픈채팅 이용을 제한할 수 있도록 보호 조치 프로세스를 간소화했다. 조치 기간은 기존보다 늘어난 1년으로 연장됐고, ‘카카오 고객센터’에는 관련 신청을 위한 별도 카테고리를 마련됐다.

손성희 카카오 청소년보호책임자는 “프라이버시와 안전 사이에서 균형을 고려해 이용자들이 신뢰할 수 있는 환경을 제공하고자 지속적으로 정책을 개선하고 있다”고 말했다.

네이버 역시 다양한 아동·청소년 보호 정책을 운영 중이다. 대표적으로 ‘연령제한 기능’을 도입해 성 관련 키워드, 미성년자 이용 불가 콘텐츠, 불법·반사회적 검색어 등을 ‘청소년 유해 검색어’로 분류해 자동 차단하고 있다.

콘텐츠 측면에서도 성인용 주제가 포함된 라이브 방송이나 동영상은 반드시 연령 제한을 설정하도록 하고 있으며, 네이버 웹툰에 자체 ‘청소년 보호 정책’을 마련해, 본인 인증 없이는 유해 정보에 접근할 수 없도록 차단하고 있다. 댓글과 대댓글에는 AI 기반 필터링 기술인 ‘클린봇’을 적용해 유해 댓글을 사전에 걸러내고 있다. 

국내 IT 기업들이 청소년 보호 대책을 강화하고 있는 것은 AI, 인터넷 기술의 발전과 함께 디지털 성범죄를 비롯한 각종 온라인 피해가 급격히 늘고 있기 때문이다. 특히 메신저, 익명 기반 플랫폼 등을 활발히 사용하는 10~20대 이용자들이 주요 피해 대상이 되고 있다.

여성가족부가 발표한 ‘2024 디지털성범죄 피해자 지원 보고서’에 따르면, 지난해 한 해 동안 중앙디지털성범죄피해자지원센터가 지원한 디지털 성범죄 피해자는 총 1만305명으로, 전년 대비 14.7% 증가한 것으로 나타났다. 연령별로는 20대 피해자가 전체의 절반(5242명)을 차지했으며, 10대도 2863명(27.8%)으로 높은 비중을 나타냈다. 특히 딥페이크 등 합성·편집 기술을 이용한 피해는 1384건으로, 전년 대비 227% 급증하며 가장 큰 증가세를 기록했다.

여성가족부는 “디지털 성범죄는 물리적 성폭력과 달리 범죄 발생 이전부터 피해자에게 심리적 불안을 유발한다”며 “특히 딥페이크와 같은 기술 기반 범죄는 피해자가 즉각 인지하기 어렵고, 그로 인해 불안감이 더 커지는 특징이 있다”고 설명했다.

아담 프레서 틱톡 운영 및 신뢰와 안전 글로벌 총괄이 30일 '틱톡의 신뢰와 안전' 온라인 미디어 브리핑에서 발표하고 있다. <출처=틱톡 제공>

디지털 범죄가 점점 더 고도화되는 상황에서, 플랫폼 기업들의 ‘사회적 책임’은 한층 더 무게를 갖게 될 전망이다. 한 플랫폼 업계 관계자는 “범죄 수법이 갈수록 정교해지고 있는 만큼, 실시간 대응 역량이 필수적”이라며 “지금은 플랫폼이 청소년 보호라는 사회적 책무를 적극적으로 수행해야 할 시기”라고 말했다.

이에 글로벌 플랫폼 기업들도 청소년 보호를 위한 정책 강화에 적극 나서고 있다. 메타는 13~17세 청소년을 대상으로 △메시지(DM) 상단에 안전 팁 제공, 차단 및 신고 통합 버튼 도입 △상대 계정의 가입일자 표시 등의 기능을 도입했다.

특히 메타는 인스타그램에서 만 14세 이상 18세 이하 청소년의 계정을 기본적으로 ‘비공개’로 설정해 부적절한 콘텐츠 노출을 줄이고 있다. 또한 청소년 이용자는 팔로우한 사람이나 이미 연결된 이용자에게만 메시지를 받을 수 있도록 해 사적인 접촉의 범위를 제한하고, 보호 기능을 강화했다.

틱톡은 하루 1시간 사용시간 제한과 보호자 제어 기능을 운영 중이며, 지난 7월에는 청소년 이용자 보호를 확대하기 위해 ‘세이프티 페어링’ 기능을 개선했다. ‘세이프티 페어링’은 부모와 자녀 계정을 연결해 청소년의 사용 시간을 조절하는 기능이다. 청소년이 콘텐츠를 업로드할 경우 실시간으로 알림을 받을 수 있으며, 청소년의 개인정보 보호 설정, 관심 있는 콘텐츠, 콘텐츠 다운로드 허용 여부, 팔로잉 목록 등 다양한 항목을 확인하고 관리할 수 있다.

구글 역시 지난 7월부터 AI 기반 ‘연령 보증’ 기능을 유튜브에 적용해 자동으로 연령을 추정하고, 이에 맞는 보호 설정을 적용하고 있다. 보호자는 ‘패밀리 링크’를 통해 청소년 계정의 세부 이용 설정을 직접 제어할 수 있다.

한편, IT 플랫폼 기업들의 청소년 보호 노력은 가시화되고 있다. 방송통신위원회가 발표한 ‘2024년도 불법 촬영물 등의 처리에 관한 투명성 보고서’에 따르면, 지난해 네이버, 구글, 카카오 등 주요 인터넷 사업자들은 이용자와 대리 신고 기관·단체로부터 총 23만1261건의 불법 촬영물 신고를 접수했으며, 이 중 18만1204건을 삭제하거나 차단했다. 이는 전년 대비 각각 59.7%, 122.1% 증가한 수치다.

방송통신위원회 관계자는 “인공지능 기술의 급속한 발전으로 딥페이크 등 첨단 조작 영상 기반의 디지털 성범죄 피해가 늘고 있다”며 “2차 피해를 막기 위해서는 인터넷 사업자들의 유통 방지 노력이 그 어느 때보다 중요하다”고 강조했다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]