범람하는 AI 생성물…“AI 콘텐츠 표기 의무화 서둘러야”

국회 문체위·음악저작권협회 30일 공청회 개최
딥페이크·가짜뉴스 등 악성 AI 생성물, 사회 문제로 대두
텍스트·이미지·음악 등에 ‘메이드 인 AI’ 표기해야
웹툰작가협회·음악저작권협회 “창작자 희생 강요하는 TDM 면책 규정 도입 안돼”

이대희 고려대 법학전문대학원 교수가 30일 국회 문화체육관광위원회와 한국음악저작권협회는 국회의원회관 제2소회의실에서 AI 콘텐츠 표기 의무화 도입 필요성을 논의하는 국회 공청회에서 발표하고 있다. <사진=김동일 기자>

최근 생성형 AI(인공지능)를 통한 생성물이 범람하고 있는 가운데, 콘텐츠에 생성형 AI로 만들었다는 표기를 의무화해야 한다는 주장이 제기됐다. 딥페이크, 가짜뉴스 등 악의적 생성물이 규제 없이 확산되면서, 콘텐츠 업계 뿐만 아니라 사회 전체에 피해가 커지고 있다는 진단이다.

30일 국회 문화체육관광위원회와 한국음악저작권협회는 국회의원회관 제2소회의실에서 AI 콘텐츠 표기 의무화 도입 필요성을 논의하는 국회 공청회를 개최했다.

이번 공청회는 이상헌 의원이 지난해 5월 대표발의한 ‘AI 콘텐츠 표기 의무화법(콘텐츠산업 진흥법 일부개정법률안)’에 대한 논의를 위해 개최됐다. ‘AI 콘텐츠 표기 의무화법’은 텍스트, 이미지, 음악 등의 콘텐츠가 AI 기술을 이용해 만들어진 경우, 해당 콘텐츠가 AI 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용을 골자로 한다.

챗GPT, 미드저니, 달리 등 생성형 AI 기술이 빠른 속도로 발전하면서 이를 활용해 만든 콘텐츠가 딥페이크, 가짜뉴스, 저작권 침해 등 각종 사회 문제로 번지고 있는 실정이다.

최근에는 딥페이크를 이용해 만든 미국 팝스타인 테일러 스위프트의 음란 이미지가 SNS상에 퍼지면서 전 세계적으로 생성 AI 콘텐츠에 대한 규제 필요성이 대두되고 있다.

이날 발제를 맡은 이대희 고려대학교 법학전문대학원 교수는 “AI 생성물 표기를 하지 않으면 이용자들은 이를 일반 창작물로 오인하게 되고, 가짜 이미지나 저품질의 AI 생성물이 시장에 범람하게 된다”며 “타인의 성명, 이미지, 목소리 등을 무단사용해 이들의 명성이나 프라이버시를 침해하게 되는 문제도 생긴다”고 강조했다.

그는 이어 “이미 외국에서는 가짜 정보를 규제하는 법률이 시행되고 있고, AI 생성물임을 표시하도록 하는 법안이 미국, 유럽연합(EU), 프랑스 등 여러 국가에서 발의돼 있다”면서 “외국에서 논의되는 경향을 고려하면, 한국에서도 AI 생성물이라는 사실을 표기하도록 의무화하는 것이 당연하다”고 덧붙였다.

다만, 이 교수는 실용적인 법안 마련을 위해서는 구체적인 사안들에 대해 추가 논의가 필요하다고 주장했다. 그는 “AI 생성물임을 적합하게 표기하도록 하기 위해서는 표기의무의 범위를 적절하게 정해야 한다”며 “텍스트, 이미지, 동영상 등의 매체에 따라 표기 방법이 달라야 할 것이고, 어떠한 방식이나 내용으로 표기해야 할 것인지를 결정해야 한다”고 말했다.

콘텐츠 창작자 관련 단체와 정부 관계자 등이 AI 콘텐츠 표기 의무화와 관련해 토론을 진행하고 있다. <사진=김동일 기자>

이어 콘텐츠 창작자 관련 단체와 정부 관계자 등이 AI 콘텐츠 표기 의무화에 대한 토론을 이어갔다. 토론회에는 권혁주 한국웹툰작가협회 협회장, 최민재 한국언론진흥재단 수석연구위원, 김경화 문화체육관광부 문화산업정책과장, 강승희 법무법인 강남 변호사, 황선철 한국음악저작권협회 사업2국장 등이 참석했다.

토론회에서는 AI 콘텐츠 표기 의무화뿐 아니라 AI 학습데이터 출처 표기에 대한 필요성도 제기됐다.

권혁주 한국웹툰작가협회 협회장은 토론회에서 “웹툰계에서도 AI가 가장 큰 이슈”라며 “현재 국회에 계류 중인 ‘텍스트와 데이터 마이닝(TDM) 면책규정’이 통과될 경우, AI가 원작자의 허락 없이 웹툰 데이터를 학습할 수 있다는 것에 대한 우려가 크다”고 말했다.

이어 권 협회장은 “모든 AI가 학습 데이터의 출처를 밝혀야 한다”면서 “상업적 목적으로 개발되는 AI나 추후 상업적 용도로 변경을 목적으로 하는 AI에 웹

툰 작품을 학습시킬 때에도 사용 범위, 목적, 기간을 명시한 계약을 체결해야 한다”고 역설했다.

최민재 한국언론진흥재단 수석연구위원도 “전 세계적으로 신문사, 방송사, 뉴스통신사, 사진기자협회 등이 성명을 발표하고 있다. 글로벌 콘텐츠 제작사

들이 이처럼 일치단결해 한 목소리를 낸 경우는 처음”이라며 “이에 따라 영국 정부는

TDM의 규정범위 확대를 골자로 했던 IP법 개정을 유보했고, 가장 폭넓은 TDM 허용

조항을 법제화 한 일본에서도 신문협회를 중심으로 관련 법 조항의 개정을 요구하고 있는 상황”이라고 설명했다.

한편, 정부는 공청회 이후 AI 콘텐츠 표기 의무화와 관련된 구체적인 논의를 이어갈 계획이다. 김경화 문체부 과장은 “표시 의무를 해야 된다는 거는 이제는 당연한 명제”라면서도 “어떤 방법으로 어떻게 할 것인지 등 구체적인 부분에 대해서는 좀 더 많은 논의가 있어야 될 것 같고, 그 논의의 장을 정부가 만들어갈 예정”이라고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]