[이코노미스트 원태영 기자] 생성형 인공지능(AI)이 기업의 핵심 업무 도구로 자리 잡으면서 산업보안의 과제도 달라지고 있다. 업무 효율은 높아졌지만 핵심 기술과 내부 정보가 외부 AI 서비스로 유출될 위험도 커졌기 때문이다. 기존 보안 체계만으로는 AI 활용에 따른 새로운 위협에 대응하기 어렵다는 지적이다.

오는 24일 국가정보원 주최로 열리는 ‘2026 산업보안컨퍼런스’에서도 AI 보안이 주요 의제로 다뤄진다. 두 번째 세션인 ‘AI 보안 가이드’ 발표를 맡은 김묵정 현대오토에버 보안기획팀 책임은 [이코노미스트]와의 인터뷰에서 AI 활용을 제한하기보다 안전하게 활용할 수 있는 관리 체계와 거버넌스 마련이 중요하다고 강조했다. 김 책임은 현대오토에버에서 AI 보안 가이드라인 수립을 담당하고 있다.

김 책임은 “산업계의 AI 보안은 두 가지 측면에서 접근해야 한다”며 “AI 서비스와 모델 자체를 보호하는 ‘Security for AI’(AI를 위한 보안)와 AI를 활용해 방어 역량을 높이는 ‘AI for Security’(보안을 위한 AI)를 함께 추진해야 한다”고 말했다.

이어 “안전한 AI 활용을 위해서는 사용자 단말과 네트워크, 서비스형 소프트웨어(SaaS) 환경 등에 보안 통제 장치를 배치하여 민감 정보 유출이나 비인가 사용과 같은 이상 징후를 탐지하고 대응해야 한다”고 강조했다.

기밀은 내부 AI로…데이터 자동 분류가 관건

김 책임이 제시한 해법은 데이터 중요도에 따라 AI 활용 환경을 구분하는 하이브리드 전략이다. 국가핵심기술이나 기업 기밀은 사내 온프레미스(자체 구축형) AI에서 처리하고, 일반 업무에는 클라우드 기반 엔터프라이즈(기업용) AI를 활용하는 방식이다.

이를 위해서는 사내 데이터 자동 분류 시스템이 필요하다. 기업마다 기밀 정보의 기준이 다른 만큼 내부 데이터를 일반·대외비·기밀 등으로 분류하고, 국가핵심기술 여부를 별도로 식별해 중요도에 따라 적합한 AI 환경으로 연계해야 한다는 설명이다.

이번 컨퍼런스 두 번째 세션에서는 기업이 AI를 안전하게 도입하고 운영하기 위해 고려해야 할 4단계 보안 가이드도 제시할 예정이다. 보안·IT·법무·현업 조직의 역할을 정하는 것부터 도입 전 계약 점검, 운영 중 접근 권한 관리, 서비스 종료 후 데이터 삭제 확인까지 AI 활용 전 과정을 관리하는 내용이다.

장기적으로는 국내 클라우드와 독자 AI 모델을 결합한 ‘소버린 AI’(Sovereign AI) 인프라 구축도 필요하다고 봤다. 국내 클라우드 인프라에 독자 파운데이션 모델을 결합해 핵심 데이터를 국내에서 관리해야 한다는 것이다.

김 책임은 “글로벌 빅테크와 국내 기업 간 자본력과 기술 격차는 현실”이라면서도 “국가 안보와 직결된 공공기관이나 핵심 산업기술을 다루는 분야에서는 특정 해외 사업자 의존도를 낮추고 통제 가능성을 확보할 필요가 있다”고 말했다.

이어 “글로벌 AI를 모두 대체하기보다 기밀 데이터는 소버린 AI에서 처리하고 일반 업무는 글로벌 AI를 활용하는 것이 현실적인 방향”이라고 강조했다.

문제는 외산 AI 서비스의 데이터 처리 과정을 기업이 직접 확인하기 어렵다는 점이다. 내부 정보가 해외 서버로 이전되거나 AI 모델의 재학습에 활용될 가능성을 계약 조항만으로 완전히 차단하기는 어렵다는 설명이다.

김 책임은 “많은 기업이 계약서나 서비스 수준 협약(SLA)에 데이터를 모델 재학습에 사용하지 않는다는 조항을 넣지만, 외부 사업자의 내부 시스템을 직접 확인할 수 없어 기술적으로 완벽한 검증은 어렵다”고 말했다.

그는 “미국 정부가 안보상 이유로 현지 클라우드 사업자에게 데이터 제출을 요구할 경우 민간 기업 간 계약보다 법적 요구가 우선할 수 있다”며 “계약 조항만으로 데이터의 안전을 보장할 수는 없다”고 지적했다.

외산 AI 계약 때 지켜야 할 세 가지 조건

김 책임은 글로벌 AI 서비스를 도입할 때 계약 단계부터 데이터 보호 조건을 명확히 해야 한다고 강조했다. 특히 세 가지를 핵심 조건으로 꼽았다.

첫째는 입력 데이터를 AI 파운데이션 모델의 재학습에 사용하지 못하도록 하는 것이다. 둘째는 데이터 저장 위치를 국내 리전으로 제한하고 승인되지 않은 국외 이전을 차단하는 것이다. 셋째는 계약 종료 시 기업 데이터를 완전히 삭제하고 이를 입증할 자료를 제공하도록 하는 것이다.

그는 “글로벌 사업자의 표준 약관에 관련 조항이 포함돼 있더라도 이는 일반적인 최소 기준”이라며 “기업의 핵심 정보가 오가는 계약이라면 개별 특약으로 명문화해야 한다”고 말했다.

이어 “서비스 종료 후 데이터가 실제로 삭제됐는지 기술적으로 100% 검증하기는 어렵다”며 “삭제 확인서와 감사 로그 등 객관적인 증빙 자료를 계약상 요구해야 한다”고 설명했다.

외부 AI 사업자의 보안 수준을 기업이 개별적으로 검증하기 어렵다는 점도 과제다. 김 책임은 정부나 제3기관이 AI 서비스의 보안성을 검증하고, 기업이 이를 판단 기준으로 활용할 수 있는 체계가 필요하다고 봤다.

특히 국가핵심기술을 다루는 기업은 AI 활용에 따른 법적 위험도 함께 검토해야 한다. 국내에서 입력한 기술 정보가 해외 서버에서 처리될 경우 기술 유출 또는 수출 규제 대상에 해당하는지, 개인정보의 국외 이전과 위탁 처리는 어떤 기준을 적용해야 하는지 등을 사전에 판단해야 한다는 것이다.

민간기업의 업무 환경에 맞는 보안 기준 마련도 중요하다. 공공기관과 달리 민간기업은 업무 특성과 활용하는 AI 서비스가 다양하다. 일률적인 사용 제한보다 데이터 중요도와 업무 목적에 따른 차등 관리가 필요하다는 설명이다.

이를 위해서는 기업 내부의 협업이 뒷받침돼야 한다. 보안 조직은 정보 보호와 위험 관리, IT 조직은 시스템 구축과 운영, 법무 조직은 데이터 국외 이전과 법적 책임을 검토한다. 현업 조직은 실제 업무에 적용할 AI 활용 범위를 정의하고 관련 보안 정책을 준수해야 한다.

김 책임은 “조직마다 AI를 바라보는 관점이 달라 사전에 조율하지 않으면 현장에서 혼선이 발생할 수 있다”며 “보안·IT·법무·현업 조직의 역할과 책임(R&R)을 명확히 규정하고 문서화해야 한다”고 강조했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지