[고인선 법부법인 원 변호사] 2024년 12월 26일 ‘인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법’, 약칭 ‘AI기본법’이 국회 본회의를 통과하여 가결됐다. 공포 후 1년이 경과된 날로부터 시행되므로 2026년 1월이면 시행될 전망이다. 이로써 우리나라도 EU에 이어 세계 2번째로 인공지능에 관한 포괄적 기본법이 제정된 나라가 됐다.

AI 기본법 주요 내용은

먼저 AI 기본법의 적용범위를 살펴보자. AI기본법은 국외에서 이뤄지는 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 적용된다. 다만 국방, 국가 안보 목적으로만 개발‧이용되는 일부 인공지능에 대해서는 적용되지 아니할 수 있다.

이 법의 적용을 받는 인공지능사업자란, ‘인공지능을 개발해 제공하는 인공지능개발사업자’와 ‘인공지능 개발 사업의 사업자가 제공한 인공지능을 이용해 인공지능 제품 또는 서비스를 제공하는 자’를 말한다. 

즉, 인공지능 모델이나 시스템을 직접 개발한 사업자 뿐만 아니라 그 모델을 활용해 인공지능이 포함된 제품 또는 서비스를 제공하는 자도 인공지능사업자가 된다. 인공지능사업자는 자신이 제공하는 인공지능 제품 또는 서비스가 ‘어떤’ 인공지능인지에 따라 이행할 의무가 달라진다.

AI 기본법은 인공지능에 대한 분류기준으로 ‘고영향 인공지능’과 ‘생성형 인공지능’을 제시하고 있다. 고영향 인공지능이란 사람의 생명과 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템이다. 

‘생성형 인공지능’은 챗-지피티(Chat-GPT)와 같이 글, 소리, 그림, 영상 등 결과물을 생성하는 인공지능을 말한다.

고영향 인공지능사업자의 경우 위험관리방안 수립‧운영, 학습용데이터에 대한 설명방안 수립‧시행, 이용자보호방안의 수립‧운영, 사람의 관리‧감독, 안정성 및 신뢰성 확보 조치를 확인할 수 있는 문서의 작성‧보관 등 의무가 있으며, 사전에 기본권 영향평가를 받도록 노력하여야 한다. 

기본권 영향평가의 경우 ‘노력할 의무’이므로 불이행시 제재가 있는 것은 아니다. 다만, 국가기관은 인공지능 영향평가를 받은 제품 또는 서비스를 우선 이용하도록 돼있다. 해외사업자는 국내대리인을 선정할 의무도 있다.

인공지능사업자가 의무를 이행하지 아니하거나, 위반에 대한 신고나 민원이 접수된 경우 과기부 장관은 인공지능사업자에게 관련 자료를 제출하도록 할 수 있다. 또 행정조사를 실시할 수 있고, 필요시 위반행위의 중지‧시정명령을 내릴 수 있다.

법안 심의과정에서 논의됐던 ‘AI학습데이터 목록 공개’, ‘생성형 인공지능에 있어서 학습데이터 투명성 강화 및 저작권자 열람권 보장’ 등은 반영되지 못했다. 저작권, 데이터 자산에 대한 권리, 인공지능생성물에 대한 권리 등 충돌되는 법적 쟁점에 대한 답변도 담겨있지 않다.

AI 기술 발전 지원 및 산업 진흥을 위한 여러 방안은 마련됐다. 과기부장관은 3년마다 인공지능기술 및 산업 진흥, 국가경쟁력 강화를 위해 인공지능 기본계획을 수립‧시행하도록 했다. 관련 재원이 지속적이고 안정적으로 확충할 수 있는 방안도 마련하도록 하였다. 

무엇보다 AI기본법은 ‘기본법’의 성격이 강하므로, 다른 법령에 의한 규제를 면책해주지 않는다는 점을 유의해야 한다. 일반적으로는 개인정보호법 및 지식재산 관련 법령, 부정경쟁방지법 등을, 각 산업 별로는 보건의료 분야의 경우 의료기기법, 디지털의료제품법 등을, 금융 분야의 경우 신용정보법, 금융소비자보호법 등을 들 수 있다. AI기본법 외에 각 산업별로 기존 법령에 따른 규제사항도 함께 검토하는 크로스체크가 필요하다.

‘EU AI법’과 차이는

EU는 2024년 8월 1일 세계 최초로 EU AI법을 발효하여 인공지능에 관한 분류 및 규제 기준을 제시한 바 있다. EU AI법은 올해 2월부터 2027년까지 3년에 걸쳐 순차적으로 시행되는데 하위 시행 기준 및 가이드라인이 마련되고 있다. 

EU AI법의 가장 큰 특징은 AI 시스템을 위험도에 따라 ▲허용될 수 없는 인공지능 ▲고위험 인공지능 ▲제한적 위험의 인공지능 ▲저위험 인공지능으로 나누어 규율하고 있다는 점이다. 생성형 인공지능이 포함된 제한적 위험의 인공지능에 대해서는 투명성 의무가 주로 적용된다. 

고위험 인공지능에는 투명성 의무를 비롯해 기본권영향평가, 위험관리체계의 수립‧이행, 데이터 거버넌스 구축 및 데이터 관리 등 강화된 의무가 적용된다. 또한 강력한 성능을 가진 범용 인공지능 모델에 대하여도 별도의 기준을 마련하고 있다. 

EU AI법을 위반하면, 그 유형에 따라 ‘최대 3500만 유로(약 525억) 또는 전 세계 매출액의 7%’부터 ‘최대 750만 유로(112억)의 벌금, 또는 전 세계 연 매출의 1.5%’에 상당하는 벌금이 부과된다. 규제 샌드박스와 같이 산업 활동을 지원하기 위한 제도도 마련되어 있으나, 전반적으로 상당히 강력한 규제 사항들이 포함돼 있다.

우리의 AI기본법은 EU AI법과 비교하면 허용될 수 없는 인공지능이나 저위험 인공지능에 관하여 규율하고 있지 않으며, ‘위험’보다 중립적인 의미의 ‘영향’을 분류기준으로 사용하고 있다. 의무를 부과하는 사업자의 유형도 좀 더 세분화하고 있으며 무엇보다 제재의 정도는 비교하기 어려운 수준이다.

고인선 변호사는_법무법인(유한) 원의 인공지능대응팀에서 인공지능 및 지식재산 관련 업무를 하고 있다. 데이터법으로 지식재산학 석사 학위를 받았고, 검사 및 서울시 송무팀장을 역임했다. 특허청, 한국발명진흥회, 한국디자인진흥원 등의 법률고문이며, 여러 기관 및 기업에 인공지능과 테크법 관련 자문을 제공하고 있다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지