“동영상 넘어 이미지까지”…플랫폼 사전 차단 의무 전면 확대
AI 필터링 필수 시대, 중소 플랫폼 “기술·비용 이중 부담”
오탐·이용자 피해 우려 속 제도 실효성·형평성 논쟁 확산

방송통신위원회는 불법촬영물 유통 방지를 위한 기술적·관리적 조치 대상을 기존 동영상에서 이미지까지 확대해 오는 7월 1일부터 시행할 방침이다. 김종철 방송미디어통신위원회 위원장. <사진=방송미디어통신위원회>

오는 7월부터 네이버, 카카오, 구글 등 주요 온라인 플랫폼은 이용자가 업로드하는 이미지까지 불법촬영물 여부를 사전에 걸러내야 한다. 기존에는 동영상에 한정됐던 유통 방지 의무가 이미지로까지 확대되면서, 블로그·카페·오픈채팅·클라우드·SNS 등 전반에 걸쳐 플랫폼의 사전 차단 책임이 한층 강화될 전망이다.

이번 조치는 디지털 성범죄 확산을 막기 위한 제도 강화라는 점에서 의미가 크지만, 플랫폼별 적용 서비스와 기술 방식이 제각각이어서 현장 부담도 적지 않을 전망이다. 특히 AI 기반 탐지 체계를 이미 구축한 대형 플랫폼은 비교적 대응이 가능하다는 평가가 나오지만, 중소 플랫폼은 별도의 필터링 솔루션 도입과 운영 부담이 커질 수밖에 없어 제도 실효성과 형평성 논란도 함께 제기된다.

방송통신위원회는 불법촬영물 유통 방지를 위한 기술적·관리적 조치 대상을 기존 동영상에서 이미지까지 확대해 오는 7월 1일부터 시행할 방침이다. 이에 따라 약 80개 플랫폼 사업자는 이용자가 업로드한 사진이 불법촬영물 데이터베이스와 일치하는지 사전에 확인하고, 해당 이미지의 게시를 제한하는 시스템을 갖춰야 한다.

네이버와 카카오는 그간 불법촬영물 유통 방지를 위한 대응을 이어왔다. 네이버는 앞서 전용 신고 채널을 운영하고, 서비스 내 신고 팝업을 통해 이용자 접근성을 높였다. 또한 불법촬영물 검색을 시도하는 경우 예방 캠페인을 노출하고, 뉴스·사전 등 정보 전달 목적의 영역을 제외한 검색 결과는 제한하고 있다. 블로그, 카페, 밴드 등 이미지 업로드가 많은 서비스 전반에 식별 및 제재 조치도 적용 중이다. 향후에는 네이버클라우드의 AI 이미지 인식 기술을 활용한 탐지 시스템 고도화가 예상된다.

네이버는 불법촬영물 검색을 시도하는 경우 예방 캠페인을 노출하고, 뉴스·사전 등 정보 전달 목적의 영역을 제외한 검색 결과는 제한하고 있다. <출처=불법촬영물 등의 처리에 관한 2024년도 투명성보고서 캡처>

카카오 역시 카톡 오픈채팅, 카카오페이지 등에서 불법촬영물 탐지 시스템을 도입해 운영 중이다. 특히 ‘패스트트랙(Fast Track)’과 ‘딥리서치(Deep Research)’ 체계를 통해 대응 속도와 강도를 높이고 있다. 패스트트랙은 침해 인지 후 최소 2시간에서 최대 24시간 내에 신속한 차단 조치를 수행하는 프로세스이며, 딥리서치는 조직화된 대형 불법 사이트를 추적해 운영자를 특정하고 법적 대응까지 이어가는 고강도 대응 방식이다.

문제는 중소 플랫폼의 대응 여력이다. 업계에서는 이번 조치가 사실상 클라우드 기반 필터링 솔루션이나 상용 AI 등 기술을 전제로 하고 있어, 자체 기술력이 부족한 사업자일수록 비용 부담이 커질 수밖에 없다고 본다. 단순한 시스템 도입을 넘어 오탐 대응 인력, 검토 절차, 이의신청 처리 체계까지 구축해야 하기 때문이다. 실제로 중소기업기술정보진흥원의 조사에 따르면, AI를 활용해 문제 원인을 파악하고 대응하는 중소기업(매출 1500억원 미만)은 0.9%에 불과한 것으로 나타났다.

오탐에 따른 이용자 피해 우려도 제기된다. 정상적인 사진이 잘못 차단될 경우 창작자나 일반 이용자의 게시 활동이 제한될 수 있기 때문이다. 특히 커뮤니티, 중고거래, 오픈채팅처럼 이미지 활용도가 높은 서비스에서는 차단 기준이 과도할 경우 이용자 불만이 빠르게 확산될 가능성이 있다.

업계에서는 이번 제도의 성패는 단순히 적발 건수를 늘리는 데 있는 것이 아니라, 얼마나 정확하게 차단하고 오탐 발생 시 얼마나 신속하게 복구하느냐에 달려 있다는 평가가 나온다. 이에 따라 오탐 피해 구제 절차를 간소화하고, 중소 플랫폼을 위한 기술 지원 및 비용 분담 방안을 마련해야 한다는 목소리도 커지고 있다. 디지털 성범죄 예방이라는 공익 목표와 플랫폼 운영 현실 사이의 균형이 중요한 과제로 떠오른다.

김종철 방송통신위원장은 “불법촬영물 유통 방지를 위해서는 사업자의 책임 있는 대응과 기술적 조치 이행이 중요하다”며 “관계기관과 협력해 제도 이행을 지원하고, 디지털 성범죄물 유통 방지 체계를 지속적으로 강화해 나가겠다”고 밝혔다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]