독자적 ‘AI 안전 프레임워크’ 가동, 개발부터 운영까지 위험 원천 차단
레드팀 챌린지·특화 데이터셋 구축…실질적 노력으로 신뢰성 높여
외부 전문가로 구성된 ‘자율규제위’ 권고 수용…‘사후 책임·생태계 관리’ 강화

네이버가 AI(인공지능) 시대 리더십을 확보하기 위한 핵심 승부수로 ‘AI 안전성’을 전면에 내세웠다. 단순히 기술적 우위를 점하는 것을 넘어, 데이터 편향, 허위정보, 보안 등 생성형 AI가 가진 내재적 위험을 체계적으로 관리하고 신뢰를 얻는 것이 AI 경쟁력의 핵심이라는 판단에서다.

네이버는 ‘사람을 위한 AI’라는 철학 아래 AI 안전성을 꾸준히 연구하고 발전시켜왔다. 지난 2021년 국내 최초로 ‘AI 윤리 준칙’을 발표하며 일찌감치 방향성을 설정한 네이버는 AI 기술의 발전에 맞춰 안전 관리 체계를 지속적으로 고도화해 왔다.

지난해에는 ‘네이버 AI 안전 프레임워크(NAVER ASF)’를 를 발표하며 AI 안전 관리 체계를 한 단계 끌어올렸다. 이 프레임워크는 AI 시스템 개발부터 배포, 운영에 이르는 전 과정에서 발생할 수 있는 위험을 △통제력 상실 위험 △악용 위험으로 구분하고, 이를 ‘AI 위험 평가 스케일’과 ‘AI 위험 평가 매트릭스’를 통해 체계적으로 인식, 평가, 관리하는 것을 골자로 한다.

이를 실질적으로 운영하기 위해 ‘퓨처 AI 센터’를 중심으로 실무 논의를 진행하고, 리스크관리워킹그룹과 이사회를 통해 최종 의사결정을 내리는 다층적 거버넌스를 구축했다.

네이버는 특히 AI 안전성 확보를 위한 시스템 구축을 넘어, 실질적 노력도 다각도로 펼치고 있다. AI 모델의 잠재적 취약점과 위험 시나리오를 사전에 발견하기 위해 내부에 공격팀을 두는 ‘레드팀’을 상시 운영하고 있으며, 2024년에는 외부 이해관계자들과 함께 ‘생성형 AI 레드팀 챌린지’를 개최해 다양한 관점에서 AI 모델의 허점을 파고드는 테스트를 진행했다.

또한 AI 모델의 편향성을 줄이고 한국 사회·문화적 맥락에 대한 이해도를 높이기 위해 한국어 질의응답 데이터셋 ‘SQuARe’, 한국어 유해성 데이터셋 ‘KoSBi’ 등 고품질의 특화 데이터셋을 직접 구축하고 이를 외부에 공개하며 국내 AI 연구 생태계 발전에도 기여하고 있다. 이러한 노력은 지난 5월 ‘AI 서울 정상회의’ 참여와 같은 국제 사회와의 적극적인 공조로 이어졌으며 글로벌 AI 안전 논의를 선도하고 있다.

네이버 하이퍼클로바X 기반 서비스 라인업. <출처=네이버>

네이버는 내부 노력에 그치지 않고 외부 전문가 그룹인 ‘자율규제위원회’의 객관적인 진단과 권고를 통해 AI 안전 정책을 고도화하고 있다. 자율규제위원회는 사후적 문제 대응 강화, 인력의 문제 해결 역량 강화, 책임소재 명확화 및 생태계 관리 등을 주문했다.

네이버는 자율규제위원회의 권고를 적극 수용해 AI 안전성 확보를 위한 미래 계획을 구체화했다. 우선, 사후 대응 프로세스를 명문화할 계획이다. 생성형 AI 관련 이슈를 상시 탐지하는 모니터링 시스템을 고도화하고, 문제 발생 시 조사, 피해 구제, 재발 방지에 이르는 구체적인 절차와 기준을 마련해 투명하게 공개할 방침이다.

또한 AI 전문 인력에 대한 투자와 지원을 확대한다. 사내 교육 과정을 강화하고 글로벌 파트너와의 공동 연구, 산학 협력 프로젝트를 활성화하여 임직원들이 AI 안전 분야의 최신 동향을 익히고 실무 역량을 키울 수 있도록 지원할 예정이다.

마지막으로 하이퍼클로바X 생태계 확장에 따른 책임 원칙을 수립한다. 외부 파트너와의 계약에 안전·윤리 조항을 구체화하고, 생태계 전반의 악의적 사용을 탐지하는 기술적·정책적 프로세스를 강화한다. 더불어 정부, 학계 등 외부 이해관계자와의 협력을 통해 다양한 관점에서 문제를 발굴하고 개선안을 마련하는 개방적인 협업 체계를 갖출 계획이다.

네이버 관계자는 “AI 기술력 확보만으로는 진정한 AI 시대를 선도할 수 없으며, 기술에 대한 사회적 신뢰가 무엇보다 중요하다”면서 “체계적인 안전 프레임워크와 지속적인 투자를 통해 누구나 안심하고 사용할 수 있는 AI를 만들고, 책임감 있는 AI 생태계를 이끌어 나가겠다”고 밝혔다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]