“101개사 중 97%가 인지·대응 미흡”…시행 임박에도 준비 부족
‘고영향 AI’ 기준 모호…사업자 자가판단·질의 회신 구조적 문제

6일 오후 국회의원회관에서 황정아 더불어민주당 의원 주최로 ‘AI 기본법 투명성·책임성 라운드테이블’이 개최됐다. 황정아 더불어민주당 의원. <사진=진채연 기자>

오는 22일 세계 최초로 시행되는 ‘AI 기본법’을 두고 법안의 세부 기준 미비와  업계의 혼란을 우려하는 목소리가 높아지고 있다. 법 시행이 코앞으로 다가왔지만, 규제의 핵심인 ‘고영향 AI’의 판단 기준이나 ‘사업자별 책임 범위’가 여전히 불명확하다는 지적이다.

6일 서울 여의도 국회의원회관에서 황정아 더불어민주당 의원 주최로 열린 ‘AI 기본법 투명성·책임성 라운드테이블’에 참석한 업계 리더들은 법안의 취지에는 공감하면서도, 모호한 기준과 과도한 책임이 혁신의 발목을 잡을 수 있다고 우려를 표명했다.

황정아 더불아민주당 의원은 “대한민국은 전 세계 최초로 AI 기본법 시행을 불과 보름여 앞두며 중차대한 전환점 위에 놓여 있다”며 “AI 기본법이 지향하는 투명성과 책임성의 취지를 살리면서도 기술 혁신과 산업 발전이 조화롭게 이어질 수 있는 방향을 함께 고민해야할 것”이라고 밝혔다.

이날 현장에서는 ▲산업계의 준비 불확실성 ▲모호한 규제 대상 ▲책임 주체의 혼선 등이 핵심 쟁점으로 논의됐다.

최성진 스타트업성장연구소 대표는 “스타트업얼라이언스가 진행한 조사 결과, 응답 기업(101개사)의 48.5%는 법 내용을 잘 모르거나 준비가 되어 있지 않다”며 “내용을 인지하고 있으나 대응이 미흡하다는 응답도 48.5%에 달했다”고 전했다. 사실상 97%의 기업이 법 시행에 맞춰 적절한 대응 체계를 갖추지 못한 셈이다.

규제의 핵심 대상인 ‘고영향 인공지능’의 개념 정의도 주요 쟁점으로 떠올랐다. 현행법은 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 인공지능 시스템을 ‘고영향 AI’로 분류하고 있다.

그러나 AI 기술의 특성상 책임소재가 엇갈리고 있다는 지적이 제기되고 있다. “‘사람의 신체 안전’과 ‘기본권’은 적용 영역이 다르고, ‘중대한 영향’과 ‘위험’은 발현 방식이 다르다”며 개념의 구체화가 필요하다는 주장이다. 이날 토론에서도 사업자가 스스로 고영향 여부를 판단해야 하는 현 구조에서는 기업들이 보수적으로 접근할 수밖에 없어 서비스 출시 지연이나 기능 축소로 이어질 수 있다는 우려가 나왔다.

최성진 대표는 “고영향 AI 해당 여부를 사업자가 스스로 검토해야 하고, 판단이 어려우면 질의하라고 되어 있는데, 이는 행정상 판단에 그치며 기업에게 과도한 법률적 부담으로 이어질 수 있다”고 설명했다.

스타트업얼라이언스가 진행한 조사 결과, 응답 기업(101개사)의 48.5%는 법 내용을 잘 모르거나 준비가 되어 있지 않은 것으로 나타났다. <출처=스타트업얼라이언스>

AI 기술의 특성을 반영한 ‘책임 주체의 명확화’도 요구됐다. AI 기본법은 ‘AI 개발사업자’와 ‘AI 이용사업자’를 모두 ‘인공지능 사업자’로 구분하고 있고, 이용자 지위에 해당하는 경우는 제외한다고 돼 있지만, 그러나 실제 현장에서는 이 구분이 모호한 경우가 많다는 것이다.

예를 들어 의료 AI 솔루션을 도입한 병원은 ‘이용사업자’로서 법적 의무를 지지만, 이를 활용해 진료하는 의사는 단순 ‘이용자’로 분류될 수 있다. 또한 생성형 AI를 활용해 영화나 콘텐츠를 제작할 경우, 결과물의 표시 의무와 책임이 AI 모델 개발사에 있는지, 저작 도구로 활용한 제작사에 있는지에 대한 해석도 엇갈린다.

임정욱 스타트업얼라이언스 공동대표는 “AI 기본법 시행이 한 달도 남지 않은 시점임에도 시행령과 가이드라인은 여전히 충분히 구체화되지 않았다”며 “규제의 적용 범위와 기준을 현장에서 명확히 이해하기 어려운 상황”이라고 말했다.

그는 “최대 1년 이상의 유예 기간이 단순히 규제 적용을 미루며 시간을 버는 조치가 되어서는 안 된다”면서 “이 기간이 제도가 실제로 현장에서 작동 가능한지 점검하고, 비현실적인 부분을 보완하는 실질적인 ‘테스트베드’ 과정이 되어야 한다”고 강조했다.

규제 준수에 따른 비용 문제도 제기됐다. 최지영 코리아스타트업포럼 상임이사는 “스타트업은 규제에 대응할 인력과 자원이 충분하지 않은 경우가 많다”며 “명확한 해석 기준과 함께 준수 비용을 낮추는 지원 인프라가 필수적으로 설계돼야 한다”고 목소리를 높였다.

최성진 스타트업성장연구소 대표는 “생성형 AI로 만들어진 결과물에 대해 사람이 인식할 수 있는 표시뿐 아니라 기계가 판독 가능한 방식까지 요구하고 있다”며 “콘텐츠마다 기술과 표시 방식이 달라 인공지능 사업자에게 과도한 비용 부담이 될 수 있다”고 설명했다.

업계에서는 정부가 법 시행 이후 1년간 계도 기간을 운영해 현장의 혼란을 최소화하겠다는 방침을 내세우고 있으나, 시행령과 가이드라인의 구체성이 확보되지 않는 한 혼선은 쉽게 가라앉지 않을 것으로 보고 있다.

황정아 더불어민주당 의원은 “작은 기업이나 스타트업 입장에서는 이번 규제가 생존을 위협하는 무게로 느껴질 수 있다”며 “대한민국의 AI 강국 도약을 위한 실질적인 현장의 목소리가 공유되고, 보다 균형 있고 실행 가능한 정책 방향에 대해 공감대가 형성될 수 있도록 함께 노력하겠다”고 말했다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]