네이버·카카오, 총선 앞두고 ‘가짜뉴스’ 차단 나선다

생성 AI 악용한 딥페이크 콘텐츠 등 모니터링 강화
가짜뉴스 신고 용이하도록 관련 링크 마련
정치권, 포털에 선거 공정성 위한 가짜뉴스 차단 주문

네이버 사옥(왼쪽)과 카카오 사옥 내부 전경. <출처=각 사>

네이버와 카카오가 오는 4월 10일 총선을 앞두고 가짜 뉴스를 막기 위해 다방면으로 조치를 취하고 나섰다.

22일 업계에 따르면 네이버는 자체 개발한 생성 AI 챗봇 ‘클로바X’에 얼굴 합성 등 딥페이크 콘텐츠를 만들기 위한 요청에 대해 차단하고 있으며, 카페, 블로그 콘텐츠 업로드시에도 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 노출하고 있다.

딥페이크 관련 키워드 검색 시 사용자에게 경고 문구를 노출하는 방안도 검토 중이다. 또한 이달 중 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다.

다음 뉴스를 운영하는 카카오도 뉴스 고객센터 내 ‘한국인터넷자율정책기구(KISO) 가짜뉴스 신고센터’로 연결되는 링크를 마련했다. 또한 뉴스 총선 페이지를 오픈하고 관련 댓글 등에 대해 모니터링을 강화할 예정이다. 이와 함께 카카오브레인은 자사 이미지 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기능을 도입하는 것도 고려 중이다.

이같은 대응은 총선 기간 동안 딥페이크 콘텐츠가 정치적으로 악용될 가능성을 차단하기 위한 것으로 보인다. 앞서 정치권은 포털 사이트가 가짜 뉴스와 편파적 뉴스를 유포하는 데 일조한다며, 네이버와 카카오에 가짜뉴스 차단을 위한 방지책 마련을 촉구한 바 있다.

최근에도 정치권에서 포털 업계가 앞장서 가짜뉴스 방지를 위해 노력해야 한다는 취지의 주장이 나왔다. 배윤주 국민의힘 상근부대변인은 지난 20일 논평을 통해 “딥페이크와 가짜뉴스가 유권자를 기만하고 선거의 공정성을 해치는 일이 발생하지 않도록, 중앙선거관리위원회와 관련 업계가 함께 책임 의식을 갖고 협력체계 구축에 힘써야 할 때”라며 “당국의 정교한 단속과 함께 국내 플랫폼·테크 기업들의 자체 검증과 기술 지원 등 자발적 동참이 절실하다”고 강조했다.

한편, 중앙선거관리위원회(선관위)가 지난달 29일부터 지난 16일까지 19일간 모니터링한 결과, 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 선관위는 현재 딥페이크물 관련 AI감별반 및 시·도별 전담인력을 운용하고 있다.

국회는 지난해 12월 본회의에서 선거일 90일 전부터 유권자를 겨냥해 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 의결했다. 조항에 따르면 선거운동에 활용될 수 있는 딥페이크물의 제작·편집·유포·상영 등은 선거 당일까지 일괄 금지된다. 조항을 위반할 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다.

네이버 관계자는 “총선을 앞두고 선거 관련 허위 정보 확산을 막기 위해 다양한 기술적·정책적 노력과 대국민 플랫폼의 책임을 다하겠다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]

심층분석

CEO's PICK