[이코노미스트 정두용 기자] ‘AI 서울 정상회의’(AI Seoul Summit)가 서울 더 플라자 서울호텔과 한국과학기술연구원(KIST)에서 21일 개막해 22일 막을 내렸다. 한국·영국 정부가 공동으로 개최한 이번 행사에는 각국 정상과 글로벌 빅테크 수장들이 함께했다.

정상 세션에서는 안전하고 혁신적이며 포용적인 AI를 위한 ‘서울 선언’이 채택됐다. 또 장관 세션의 결과물인 ‘서울 장관 성명’ 역시 28개국 참여로 채택됐다. 이를 통해 한국이 본격적으로 개막한 인공지능(AI) 시대에 중심 역할을 하게 되리란 기대감이 나오고 있다. 영미권을 중심으로 전개되던 새 디지털 질서 정립 논의가 서울에서 진행되면서 기술 주도권을 거머쥘 수 있게 됐단 견해다.

네이버는 이번 행사에서 중심축 역할을 수행했다. ‘네이버 창업자’ 이해진 글로벌투자책임자(GIO)가 21일 비공개로 진행된 정상 세션에 참여하며 본인의 관점을 각국 정상과 기업 대표에 전달했기 때문이다. 이 GIO는 “극소수 인공지능(AI)이 현재를 지배하게 되면 과거 역사·문화에 대한 인식은 해당 AI의 답으로만 이뤄지게 된다”며 “각 지역의 문화적·환경적 맥락을 이해하는 다양한 AI 모델들이 많이 나와 다양한 시각들이 보여야 한다”고 강조했다.

22일에는 KIST에선 AI 서울 정상회의와 함께 ‘AI 글로벌 포럼’이 진행됐다. AI 글로벌 포럼 ‘전문가 세션’에는 하정우 네이버 퓨처 AI 센터장이 참석했다. 그는 “생성형 AI가 생산성 혁신을 불러올 수 있지만, AI의 잠재적 위험을 최소화하기 위해 안전성을 검증할 수 있는 시스템이나 프로토콜을 만들어야 한다”며 안전한 AI 구축을 위해 네이버가 수행한 노력을 소개했다.

네이버는 지난해 AI가 종교·도덕 등 사회적으로 첨예한 이슈에 대해 편향적으로 발언하는 문제를 완화하기 위해 ‘한국어’로 구성된 데이터셋을 제안했다. 이는 글로벌 최고 권위 AI 학회에 채택되기도 했다. 특히 문화권에 따라 편향적 발언의 기준이 다를 수 있다는 점을 고려, 다른 국가에서도 자체적으로 데이터셋을 구축할 수 있도록 설계 방법을 함께 제안해 주목 받았다.

하 센터장은 “보편적인 가치를 훼손하지 않는 선에서, AI 안전성에는 각 문화나 지역의 특징적인 가치를 반영해야 한다”며 “해당 문화에 적합한 안전성 검증 프로토콜을 효과적으로 구축할 수 있는 도구를 제공해야 한다”고 강조했다.

네이버는 학계 등 외부 전문가와의 협력에도 적극적으로 나서고 있다. 2018년부터 서울대 AI 정책 이니셔티브(SNU AI Policy Initiative·SAPI)와 협업해 네이버의 모든 구성원이 AI 개발과 이용에 있어 준수해야 하는 원칙인 ‘네이버 AI 윤리 준칙’을 2021년에 발표한 바 있다.

네이버는 여기에 더해 구체적인 AI 안전 실행 체계인 ‘프레임워크’(NAVER AI Safety Framework)를 내달 공개할 방침이다. 이를 통해 네이버 구성원이 산업 현장에서 AI 시스템을 개발하고 배포하는 과정에서 ‘AI 안전성’을 구체적으로 실천하겠단 취지다. 네이버 관계자는 “글로벌 커뮤니티에서도 네이버의 ‘프레임워크’를 참고해 각 국가 또는 문화권만의 가치를 반영한 안전성 검증 프로토콜을 설계할 수 있기를 기대한다”고 말했다.

네이버, 삼성과 함께 한국 대표 ‘AI 기업’ 등극

‘AI 서울 정상회의’는 지난해 11월 영국 블레츨리 파크에서 개최된 ‘AI 안전성 정상회의’의 후속 행사 성격을 지닌다. 네이버는 AI 안전성 정상회의에도 참석한 바 있다. ▲데미스 하사비스 딥마인드 최고경영자(CEO) ▲다리오 아모데이 앤트로픽 CEO 등 글로벌 AI 리더들과 AI 안전성 연구 및 레드팀 운영 관련 협력을 논의했다. 한국 기업 중 해당 행사에 공식 초청받은 곳은 네이버와 삼성뿐이다.

업계에선 이에 따라 네이버가 그간 자체적으로 개발한 기술의 탁월성과 이 과정에서 챙긴 안전성이 세계적으로 인정받았다는 점을 방증한단 평가가 나온다. 네이버는 2021년 상반기부터 생성형 AI 안전성 강화를 위한 레드팀을 운영하고 있다. 이를 기반으로 자체 초대규모 AI ‘하이퍼클로바X’는 안전성 측면에서 우수한 평가를 받고 있다. 실제로 네이버클라우드가 4월 공개한 ‘하이퍼클로바X 테크니컬 리포트’에 따르면 하이퍼클로바X 답변의 안전성(Harmlessness)을 평가한 결과, 비교 평가를 위해 리포트에서 선정한 모델 중 가장 높은 점수를 기록했다. 한국어 답변의 유해성(Toxicity)을 평가하는 벤치마크를 기준으로 답변의 질적 측면과 유해성을 종합적으로 고려했을 때도 리포트 내 비교 모델들 대비 가장 우수한 결과를 보였다.

하 센터장은 “안전한 AI가 만들어 낸 혁신의 기회에서 어떤 사람이나 이해관계자·국가도 배제되지 않으려면 각국의 문화와 맥락을 충분히 이해하고 있는 ‘소버린(Sovereign·주권) AI’를 개발할 수 있도록 도와야 한다”며 “오픈소스 모델을 특정 언어로 파인튜닝(미세조정)하면 된다는 주장도 있다. 그러나 오픈소스 모델을 파인튜닝하는 것으로는 AI가 해당 문화를 충분히 이해할 수 있어야 한다는 문제를 해결하지 못한다”고 지적했다.

이 GIO도 정상 세션에 참석해 소버린 AI에 기반한 AI 생태계의 다양성을 강조한 바 있다. 그는 “다양성을 통해 연결이 더 큰 가치를 창출할 수 있도록 기술과 서비스를 실현해 왔다”며 “네이버는 각 지역의 문화와 가치를 존중하고 이해하며 책임감 있는 다양한 AI 모델들이 나와 많은 글로벌 국가가 자체 소버린 AI를 확보할 수 있도록 어떤 형태든 기술로 지원해 나갈 것”이라고 강조했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지