[백세희 법률사무소 아트앤 대표변호사] 지난 1월 22일부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(약칭 「인공지능기본법」, 이하 「AI 기본법」)이 시행됐다. 인공지능 관련 법으로는 국내에서 처음 제정된 법인 만큼, ‘진흥’과 ‘규제’가 하나의 단행 법률 안에 모두 담겨 있다.

조문은 총 43개로 구성돼 있다. 여타의 ‘○○ 기본법’들과 마찬가지로 정의 규정을 두고 각종 위원회를 설치해 심의·의결하도록 하며, 정부가 전문 인력을 양성하고 각종 시책을 추진할 수 있도록 하는 규정들이 전체 조문의 절반 이상을 차지한다. 과학기술정보통신부도 이 법을 인공지능(AI) 산업의 진흥과 안전성 확보를 위해 제정된 것으로 설명하고 있다.

이 정도만 보면 향후 행정적 필요에 따라 구색을 갖추기 위해 만들어진 진흥법처럼 보일 수도 있다. 그러나 자세히 살펴보면 민간에 과태료를 부과할 수 있는 의무와 벌칙 규정도 포함돼 있다. 우리가 주목해야 할 부분은 바로 이 ‘규제’다. AI 서비스로 수익을 창출하는 기업은 물론이고, AI로 소셜미디어 프로필을 만드는 수많은 이용자들도 알아야 할 내용일까. 이번 기회에 「AI 기본법」을 살펴보자.

AI 기본법 적용 대상은 누구인가

규제의 대상은 ‘AI 사업자’다. AI 사업자는 AI를 개발·제공하는 ‘AI 개발사업자’와, 이를 활용해 AI 제품이나 서비스를 제공하는 ‘AI 이용사업자’로 나뉜다. 그러나 AI 사업자라고 해서 모두 이 법의 적용을 받는 것은 아니다.

규제 대상은 ‘고영향 AI’와 ‘생성형 AI’를 이용하는 AI 사업자다. 생성형 AI는 이미 익숙한 개념이지만, 고영향 AI는 다소 낯설다. 법은 고영향 AI를 “사람의 생명·신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”으로 정의한다. 적용 분야로는 ▲에너지 공급 ▲먹는물 생산 공정 ▲보건의료 서비스 ▲원자력시설 관리·운영 ▲범죄 수사 ▲채용·대출 심사 ▲교통 시스템 운영 ▲교육기관 평가 등이 열거돼 있다.

따라서 기업은 자사가 사용하는 AI 서비스가 「AI 기본법」상 어떤 범주에 해당하는지 먼저 파악해야 한다. ‘고영향 AI’나 ‘생성형 AI’를 이용하지 않는 경우에는 일단 규제 대상이 아니기 때문이다.

AI 이용자, 즉 소비자 역시 이 법상 규제 대상은 아니다. AI로 일러스트를 만들거나 사진을 보정해 사회관계망서비스(SNS)에 게시하는 개인 역시 「AI 기본법」의 직접적인 규율 대상이 아니다.

문화·예술 분야를 주로 다루는 필자가 가장 자주 받는 질문은 “창작자가 생성형 AI를 활용할 경우 AI 이용사업자에 해당하는지, 아니면 단순 이용자인지”에 관한 것이다.

이는 「AI 기본법」 제31조의 투명성 확보 의무 적용 대상에 포함되는지 여부와 직결되기 때문이다. 해당 조항은 AI 사업자가 생성형 AI를 이용한 제품이나 서비스를 제공할 경우 결과물이 AI에 의해 생성됐다는 사실을 표시하도록 규정하고 있다. 이를 위반하면 최대 3000만원의 과태료가 부과될 수 있다.

따라서 생성형 AI로 웹툰·일러스트·영상 콘텐츠를 제작해 수익을 창출하는 창작자들은 자신이 규제 대상에 포함되는지 궁금할 수밖에 없다.

결론적으로, 생성형 AI 서비스를 활용해 콘텐츠를 제작하는 개인 창작자에게는 표시 의무가 없다. 이들은 일반적으로 「AI 기본법」상 ‘이용자’에 해당하기 때문이다. 이용자는 표시 의무가 없으므로, 자동으로 삽입된 AI 생성 표시를 임의로 삭제하더라도 법 위반에 해당하지 않는다.

표시 의무는 생성형 AI 제품이나 서비스를 제공하는 사업자에게만 부과된다. 예컨대 챗GPT·제미나이가 제공하는 ‘나노바나나’를 기반으로 콘텐츠 생성 서비스를 운영하는 캐럿과 같은 플랫폼 사업자가 이에 해당한다. 무료 AI 서비스나 공공 앱이라 하더라도 생성물을 제공하는 경우에는 동일하게 표시 의무가 적용된다.

즉, 표시 의무는 AI 사업자에게만 적용되며, 개인 창작자는 이에 해당하지 않는다.

오락가락, 이용자들의 혼선

AI 사업자와 이용자의 구분은 이론상 명확하다. 그러나 실제 현장에서는 경계가 모호한 경우가 적지 않다. 지난해 12월 24일 과학기술정보통신부가 개최한 ‘AI 기본법 시행 대비 설명회’에는 많은 업계 관계자가 참석했다. 하지만 설명회 이후에도 혼란이 완전히 해소되지는 않았다.

예를 들어 웹툰 분야에서 “네이버웹툰 작가가 AI페인터를 활용해 채색한 경우 표시 의무가 있는가”라는 질문이 제기됐다. 이에 대해 정부는 “네이버웹툰은 이용사업자로서 표시 의무가 있으나, 작가는 이용자이므로 표시하지 않아도 법 위반이 아니다”라고 답했다.

원칙적으로는 타당한 설명이지만, 일부 관계자들은 ‘채색 도구를 제공한 플랫폼은 표시를 하여야 하고, 이 플랫폼을 이용한 작가는 표시를 지워서 업로드해도 된다는 뜻인데, 그렇다면 처음부터 표시를 안해도 되는 것을 공연히 일만 이중으로 하는 것 아닌가’라는 반응을 보이기도 했다.

시민사회에서는 표시 의무 대상이 지나치게 제한적이라는 비판도 나온다. 딥페이크 등 현실과 구분하기 어려운 콘텐츠를 만들어 유포하더라도 이용자라는 이유로 의무에서 제외되는 것은 입법 취지에 어긋난다는 주장이다. 이에 대해 설명회에서 정부는 “종합적으로 고려해야 하는 상황으로 보고 있다”고 답변했다고 하니, 이제 와 무엇을 종합적으로 고려하겠다는 것이냐는 불만도 나왔다. 

정부 설명대로 다양한 의견을 종합적으로 반영하려면, 「AI 기본법」의 반복적 개정은 불가피할 것이다. 실제로 이 법은 시행 이전에도 이미 한 차례 개정을 거쳤다.

지금이야 AI의 이용자에 불과한 개인 창작자들이 이 법을 크게 의식할 일은 없지만, 개정이 반복되다 보면 혹시 모른다. 그렇게 되면 자문 내용도 더 복잡해지고 골치가 아파질지도 모르겠다. 미리 공부하고 대비하는 수밖에 없다.

백세희 법률사무소 아트앤 대표변호사

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지