KT·업스테이지, 경기도·조달청 등에서 발주…실증 넘어 행정 현장으로
SKT·리벨리온, 500B 모델 국산칩 구동…소버린 AI 인프라 검증

<인포그래픽=생성형 AI로 생성>

정부가 육성한 국산 인공지능(AI) 모델들이 민간 시장보다 공공 현장에 먼저 안착하고 있다. 조달청, 경기도 등 공공 발주가 초기 수요를 만들고, 국내 AI 기업들은 이를 발판으로 실증(PoC)을 넘어 실제 업무망과 행정 플랫폼, 국산 반도체 기반 인프라로 적용 범위를 넓히는 모습이다.

과학기술정보통신부가 29일 공개한 ‘우리 K-AI 모델 활용사례’ 8차 자료에 따르면 SK텔레콤, KT, 업스테이지 등 국내 AI 기업들은 공공행정과 인프라 영역에서 자체 AI 모델 적용을 확대하고 있다. 국산 AI 모델이 공공 업무망과 지방자치단체 행정 시스템, 국산 AI 반도체 서버 위에서 검증되기 시작한 셈이다.

먼저 SKT와 리벨리온 양사는 독자 AI 파운데이션 모델 프로젝트의 일환으로 SKT의 독자 AI 모델 ‘A.X K1’을 리벨리온 서버에서 구동하는 데 성공했다. 해당 서버에는 리벨리온의 국산 AI 반도체 Rebel100이 탑재됐다. 5000억개, 즉 500B 파라미터 이상의 초거대 모델도 국산 AI 반도체 인프라에서 운영 가능하다는 점을 확인한 사례로 꼽힌다.

이는 단순한 하드웨어 성능 검증 이상의 의미를 갖는다. 생성형 AI 서비스가 확산될수록 실제 경쟁력은 모델 자체보다 이를 얼마나 안정적이고 저렴하게 운영할 수 있느냐에서 갈린다. 대규모 추론 비용, 전력 효율, 데이터센터 운영 능력, 반도체 공급망 안정성이 모두 AI 경쟁력의 일부가 됐기 때문이다. SKT와 리벨리온의 협력은 ‘국산 모델-국산 반도체-국내 데이터센터’로 이어지는 풀스택 국산화 가능성을 보여준다. 양사는 이미 에이닷 통화 녹음 요약, 엑스칼리버 AI 동물영상진단 등 SKT의 대규모 AI 서비스에 리벨리온 NPU를 활용해 왔다.

<출처=리벨리온>

KT는 AI를 지방정부 행정 시스템에 적용하고 있다. KT는 경기도청의 ‘경기 생성형 AI 플랫폼 구축’ 사업을 추진하며 자체 개발 AI 모델 ‘믿음 2.0’을 투입했다. 이 플랫폼은 행정문서, 업무지침, 법령, 제도자료 등 행정 데이터를 기반으로 문서 작성, 자료 정리, 정보 검색, 분석 기능을 제공하는 개방형 AI 플랫폼이다. 경기도가 플랫폼과 AI 거버넌스에 대해 TTA 인증을 확보한 점도 주목된다. 공공 AI 도입의 핵심이 단순한 모델 성능이 아니라 데이터 관리, 답변 검증, 운영체계, 보안성까지 포함하는 종합 신뢰성으로 이동하고 있음을 보여준다.

업스테이지는 공공조달 체계를 통해 국산 AI의 초기 시장을 열고 있다. 업스테이지는 조달청과 공공 업무용 ‘생성형 AI 업무지원 서비스’ 공급 계약을 체결하고 첫 공급사로 선정됐다. 자사 솔라(Solar) 모델과 광학문자인식(OCR) 기반 문서처리 기술을 에이전트 형태로 통합한 ‘공공 AI 워크스페이스’를 조달청 디지털서비스몰에 등재했다. 한글 파일, 워드, PDF 등 다양한 문서 포맷을 지원해 문서 작성과 검토, 검색, 요약 비중이 큰 공공 업무를 겨냥했다.

이들의 공통점은 공공부문이 K-AI의 첫 고객, 즉 앵커 바이어 역할을 하고 있다는 점이다. 국산 AI 모델이 GPT, 클로드, 제미나이 등 글로벌 프런티어 모델과 개방 시장에서 정면 승부하기 전까지는 실사용 데이터를 쌓고 매출을 확보할 초기 수요가 필요하다. 조달청과 지자체 발주는 국산 AI 기업들이 레퍼런스를 만들고 제품을 고도화할 수 있는 마중물 역할을 한다.

AI 업계 한 관계자는 “공공부문은 국산 AI가 외산 프런티어 모델과 정면 경쟁하기 전 레퍼런스를 쌓을 수 있는 사실상 첫 시장”이라며 “다만 공공 발주는 마중물일 뿐이고, 실제 경쟁력은 민간 시장에서 비용 효율과 성능, 안정성을 동시에 입증할 수 있느냐에 달려 있다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]