[이코노미스트 박세진 기자] 인공지능(AI) 기본법이 지난 1월 22일부터 시행됐다. 정식 명칭은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’이다. 이번 시행으로 한국은 전면적인 ‘AI 규제법’을 적용하는 첫 국가가 됐다. 제도 설계에서는 유럽연합(EU)이 앞서 있었지만, EU가 단계적 적용을 선택하면서 전면 시행은 한국이 먼저 나서게 됐다.

각국이 AI를 전략 자산으로 인식하고 지원 경쟁에 나서는 가운데, 한국은 규율 체계를 먼저 가동하는 길을 택했다. 국가 차원에서 AI 정책의 뼈대를 세우고 산업 진흥과 신뢰·안전 간의 균형을 맞추겠다는 취지다.

그러나 현장의 반응은 마냥 낙관적이지 않다. AI 생태계가 성장하는 과정에서 규제와 규율이 선행될 경우, 오히려 산업 발전의 발목을 잡을 수 있다는 우려가 나온다.

스타트업 흔들 ‘고영향 AI’

AI 기본법의 가장 큰 특징은 ‘고영향 AI’ 개념을 도입했다는 점이다. 고영향 AI란 ‘사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI’를 뜻한다. 적용 대상은 ▲에너지 ▲의료 ▲범죄 수사 ▲채용 및 대출 심사 ▲교통 ▲교육 등 10개 분야에 이르며 모두 국민의 안전과 인권과 밀접한 영역이다.

업계가 특히 촉각을 곤두세우는 대목도 바로 고영향 AI다. 고영향 AI로 분류될 경우 사업자에게 부과되는 의무가 대폭 늘어나기 때문이다. 고영향 AI 사업자는 ▲사전 검토 ▲사전 고지 ▲안전성·신뢰성 확보 조치를 의무적으로 시행해야 한다. 여기에 ▲안전·신뢰 검·인증 ▲기본권 영향평가 등 추가 요건도 권고 사항으로 제시된다.

가령 가상의 A 스타트업이 공공·민간 기관에 ‘대출 심사 보조 AI’를 납품한다고 가정했을 때, 해당 서비스는 개인의 금융 접근성과 기본권에 직·간접적으로 영향을 미칠 수 있다. 대출 심사 과정에 AI가 활용되기 때문이다. 이 경우 사업자는 자사 기술이 고영향 AI에 해당하는지부터 판단해야 한다.

A사 대표는 내부적으로 ▲적용 분야가 고영향 AI 대상 영역(대출 심사 등)에 포함되는지 ▲서비스가 개인에게 중대한 불이익을 초래할 가능성이 있는지 등을 사전에 검토해야 한다. 판단이 모호할 경우 과학기술정보통신부 장관에게 고영향 AI 해당 여부에 대한 확인을 요청하는 절차를 밟을 수도 있다.

만약 고영향 AI로 분류되면 이후부터는 준수해야 할 의무가 늘어난다. 서비스가 AI에 의해 작동된다는 사실을 이용자에게 사전에 고지하고, 오작동이나 오남용을 방지하기 위한 안전성·신뢰성 확보 조치를 마련해야 한다.

여기에 더해 안전·신뢰 검·인증이나 기본권 영향평가와 같은 추가 요건도 권고된다. 스타트업 입장에서는 기술 개발과 영업 못지않게 규제 준수 체계 구축 자체가 중요한 과제가 되는 셈이다.

아울러 고영향 AI의 기준이 모호하다는 지적도 나온다. 생명과 신체 안전, 기본권에 ‘중대한’ 영향을 미칠 우려가 있는 AI를 고영향 AI로 정의하고 있지만, 여기서 말하는 ‘중대한 영향’의 범위가 어디까지인지 명확하지 않다는 것이다. 기준이 불분명하다 보니 고영향 AI로 분류될 경우 안전성과 신뢰성을 어느 수준까지 입증해야 하는지를 두고 현장의 혼란과 불만도 적지 않다.

담금질 필요한 AI 기본법

낙인 문제도 해결 과제로 꼽힌다. AI 기본법 하위 규정은 생성형 AI가 만든 결과물에 대해 이용자가 이를 ‘AI 생성물’로 인지할 수 있도록 고지·표시(식별 표지, 워터마크 등)를 요구한다. 표시는 화면에 드러나는 문구뿐 아니라 사람 눈에는 보이지 않더라도 기계가 판별할 수 있는 비가시적 워터마크까지 포괄하는 쪽으로 설계됐다.

취지는 명확하다. 딥페이크 확산과 허위정보 유통 우려가 커진 상황에서, 최소한의 ‘출처 표시’를 통해 정보 생태계의 신뢰를 지키겠다는 것이다.

다만 현장에서는 ‘투명성’이 곧바로 ‘낙인’으로 이어질 수 있다는 반론이 나온다. ‘AI 생성물’ 딱지가 붙는 순간 내용의 사실성이나 품질과 무관하게 일괄적으로 저평가되거나 가짜라는 인상이 굳어질 수 있다는 것이다.

다른 쟁점은 적용 범위의 불확실성이다. 정부는 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우 등에는 표시 의무를 면제하는 방향도 함께 제시했다. 하지만 ‘어디까지가 내부 업무용인지’ ‘어느 정도면 AI 활용이 명백한지’ 경계가 흐릿하면 기업은 보수적으로 대응할 수밖에 없다. 

결과적으로 표시가 과잉 적용돼 콘텐츠 전반에 ‘AI’ 딱지가 남발되거나, 반대로 회색지대에서 표시가 빠져 규정의 취지가 약화되는 상황이 동시에 벌어질 수 있다.

결국 규모가 작은 사업자일수록 부담은 커질 수 밖에 없다. 워터마크 적용·검수·로그 관리 같은 운영 체계를 갖추는 데 비용이 들고, 위반 시 과태료 등 제재 가능성도 거론되기 때문이다.

이런 복합적인 이유로 스타트업 대다수는 AI 기본법에 대응조차 하지 못하는 실정이다. 스타트업얼라이언스가 지난달 국내 AI 스타트업 101곳을 대상으로 설문한 결과, 실제로 대응 체계를 마련했다고 답한 곳은 2%에 그쳤다. 절반에 가까운 48.5%는 “법령 내용은 알고 있지만 준비가 충분치 않다”고 응답했다. 

인력과 자금 여력이 제한적인 스타트업 입장에선, AI 기본법 시행에 맞춰 위험관리 시스템을 갖추는 작업이 결국 행정 부담으로 작동할 수 있다는 지적이 나온다.

AI를 주로 활용하는 콘텐츠 제작사 대표는 “드라마나 영화 등을 제작할 때 영상의 시작과 끝에 AI 활용을 언급하는 수준은 이해할 수 있지만, 매장면마다 워터마크를 삽입하는 것은 콘텐츠의 품질을 저하시키는 요소로 작용 할 것”이라며 “사회관계망서비스(SNS)에 무분별하게 유포되는 가짜뉴스나 짧은 광고물에는 의무적으로 워터마크가 있어야 하겠지만 콘텐츠 영역에선 조금 더 고민이 필요하다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지