웹툰·영상까지 번지는 생성물 표시 의무…“어디까지가 AI 산출물인가” 현장 혼선
스타트업 약 98.0% “대응 미흡” 조사… ‘중대한 영향’ 판단 잣대는 여전히 공백

오는 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’ 시행이 본격화된다. <출처=연합뉴스>

22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’ 시행을 앞두고 업계의 우려가 커지고 있다. 법이 제시하는 기본 원칙과 달리, 현장에서 적용할 구체 기준이 충분히 정비되지 않아 기업들이 보수적으로 대응할 수밖에 없고, 결과적으로 혁신 속도가 오히려 둔화되는 것 아니냐는 주장이다.

과학기술정보통신부는 ‘AI 기본법’을 오는 22일부터 시행한다고 밝혔다. AI 기본법은 생명·안전·기본권에 영향을 미치는 인공지능을 ‘고영향 AI’로 정의해 제도화한 규제법이자, 생성형 AI 산출물에 대한 워터마크 등 표시 의무를 명시한 법이다.

다만 업계에서는 법 시행을 하루 앞두고 현장 준비가 충분치 않다는 우려가 쏟아지고 있다. 

AI 기본법이 규정한 고영향 AI 적용 분야는 △에너지 △먹는 물 △보건의료 △원자력 △교통 △금융 △교육 △고용 △범죄수사·체포 등 기본 분야 10개로 폭넓다. 그러나 각 분야에서 해당 AI가 “사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려”가 있는지를 가르는 구체적인 판단 기준은 여전히 모호하다는 지적이 제기되고 있다.

심정민 슈어소프트테크 센터장은 앞서 지난 20일 ‘AIIA 정기조찬포럼’에서 “기업이 신뢰성과 책임성 요건을 실무에서 구현하는 데 어려움을 겪고 있다”며 “기술 검증과 책임 주체 설정, 운영 단계 관리 등에서 표준화된 가이드가 부족하다”고 지적했다.

101개 인공지능(AI) 스타트업 대상 AI기본법 관련 설문조사 결과. <출처=스타트업얼라이언스>

특히 스타트업 생태계에서 부담이 크다는 지적이 이어지고 있다. 스타트업얼라이언스가 국내 AI 스타트업 101개사를 조사한 결과, 응답 기업 중 2%만이 “대응 계획을 수립하고 준비 중”이라고 답했다. 48.5%는 “법령 내용을 인지하고 있으나 대응이 미흡하다”고 답했고, 나머지 48.5%는 “내용을 잘 모르거나 준비도 안 되고 있다”고 응답했다.

스타트업들이 가장 제약이 클 것으로 우려하는 조항은 ‘AI 신뢰성·안전성 인증 제도’(27.7%)였다. 이어 ‘데이터셋 투명성 확보 요구’(23.8%), ‘고영향 AI 지정 및 사전 등록·검증 의무’(17.8%), ‘생성형 AI 산출물 표시 의무’(15.8%) 순으로 나타났다. 특히 고영향 AI로 분류될 경우 사업자는 △위험관리방안 △설명의무 △이용자 보호방안 △관리감독 체계 등 다층적인 의무를 수행해야 하는데, 초기 단계에 있는 스타트업이 이를 감당하기는 사실상 불가능하다는 평가다.

AI 기본법은 해외 사업자에 대해서도 국내 대리인을 통해 책임을 물을 수 있도록 규정했다. <출처=과기정통부>

이와 함께, AI 규제장치들이 국내 기업들에 더 강하게 작동될 수 있다는 우려도 제기된다. 국내 기업들은 법 시행과 동시에 즉각적인 대응이 불가피하지만, 해외 빅테크 기업에 대해서도 동일한 수준의 규제 집행이 가능한지는 불확실하다는 지적이다.

AI 기본법은 해외 사업자에 대해서도 국내 대리인을 통해 책임을 물을 수 있도록 규정했다. 전년도 글로벌 매출액이 1조원 이상이거나 국내 AI 매출이 100억원 이상, 또는 국내 일평균 이용자가 100만명 이상이면 국내 대리인을 지정해야 한다. 다만 대리인의 책임 범위와 집행 실효성이 명확하지 않다는 점에서 규제의 실효성에 의문이 제기되고 있다.

또한 안전성 확보 의무가 부과되는 초거대 AI 사업자의 기준은 학습 연산량이 10의 26승 부동소수점 연산(FLOPs)이상인 모델로, AI 설계 목표와 위험도 등을 종합적으로 고려해 판단한다. 이외에도 AI 투명성 제고를 위한 ‘생성물 표시 의무’는 이용자에게 최종적으로 서비스를 제공하는 사업자에게 부과된다. 구글, 오픈AI 등 해외 빅테크 기업도 포함된다. 

한 IT 업계 관계자는 “같은 이슈가 국내 기업과 해외 기업에서 동시에 발생할 경우 국내 기업은 규제에 부딪히면 타격이 클 수밖에 없다”며 “과연 오픈AI나 구글 같은 해외 빅테크에도 동일한 기준을 적용할 수 있을지 의문”이라고 말했다. 그는 이어 “쿠팡 사례에서도 보듯 사안의 심각성에도 불구하고 양국 간 통상 이슈로 번지면서 문제 해결이 쉽지 않았던 전례가 있다”며 “AI 기본법 적용 대상이 되는 해외 빅테크 기업에서도 같은 문제가 반복될 수 있다”고 덧붙였다.

한편, 정부는 AI 기본법은 “AI 산업 진흥과 안전성 확보를 동시에 추구하는 법”이라고 설명하며 “1년 이상의 계도 기간을 두고 최소 규제 원칙을 따르겠다”고 강조했다. 이 기간 동안 AI 기본법 지원 데스크를 중심으로 컨설팅과 계도에 주력할 방침이다.

김경만 과기정통부 AI정책실장은 “AI 기본법이 완벽하다고 생각하지 않는다”면서 “법이 좀 더 발전하고 안정될 수 있도록 개정 작업을 병행하고, 산업계·시민단체 등과 함께 논의해서 플랫폼을 만들겠다”고 말했다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]