SK쉴더스(대표 홍원표)가 AI 보안 위협에 선제적으로 대응하기 위해 ‘LLM(거대언어모델) 애플리케이션 취약점 진단 가이드’를 발간했다고 밝혔다.
LLM 기반 애플리케이션은 자연어 처리 및 생성에 특화된 대규모 언어 모델을 활용하며, 금융, 제조, 헬스케어 등 다양한 산업에서 사용되고 있다. 대표적으로 오픈 AI의 ‘챗GPT’와 구글의 ‘제미나이’ 등이 있다. 그러나 이 애플리케이션들은 데이터 및 사용자 입력 처리 방식의 특성상 기존 IT 시스템과 다른 보안 위협에 취약해 철저한 대비가 필요하다.

SK쉴더스는 2025년 주요 보안 위협 중 하나로 AI 기반 해킹 증가를 전망하며, 특히 소규모 언어 모델(sLLM) 타깃 해킹과 LLM의 구조적 취약점을 악용한 데이터 조작 및 유출 공격이 심화될 것으로 내다봤다. 이에 따라 이번 가이드는 ‘OWASP Top 10 for LLM Applications 2025’의 주요 항목을 반영해 LLM 통합, 에이전트, 모델의 세 가지 핵심 보안 영역을 다루고 있다. 또한, 14개 주요 취약점을 위험도에 따라 3단계로 분류하고, 점검 방법과 대응 방안을 제시했다.

보고서에 따르면, 대표적인 보안 위협으로는 ‘프롬프트 인젝션’, ‘API 매개 변수 변조’, ‘RAG(검색증강생성) 데이터 오염’ 등이 있다.
프롬프트 인젝션은 사용자의 입력값을 악의적으로 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하는 공격으로, 악의적 응답 생성 및 민감한 정보 유출 가능성이 높다. API 매개 변수 변조는 시스템 간 통신에 사용되는 API 요청값을 변경해 시스템 권한을 초과하는 동작을 실행하는 위협으로, 악성 이메일 전송, 데이터 유출, 시스템 장악 등의 피해가 발생할 수 있다. RAG 데이터 오염은 외부 데이터를 악의적으로 조작해 검색된 정보의 신뢰도를 떨어뜨리는 방식으로 보안 문제를 유발한다.
이 외에도 서드파티 소프트웨어 사용 및 보호된 영역 내에서만 실행되는 샌드박스 미적용이 위험도가 높은 보안 취약점으로 꼽혔다.

가이드에서는 이러한 보안 위협을 예방하기 위해 사용자 입력과 시스템 명령어(프롬프트) 분리, 데이터 흐름 점검 및 데이터 검증 절차 강화, LLM 코드 실행 여부에 따른 샌드박스 활용, RAG 활용 시 그룹별 권한 관리 체계 구축, 다층 보안 체계 도입을 통한 데이터 오염 및 권한 상승 공격 방지 등을 제안했다.

SK쉴더스는 국내 사이버보안 대표 기업으로서 AI 특화 모의해킹 서비스, SBOM(소프트웨어 명세서), ML-BOM(머신러닝 명세서) 관리 등 DevSecOps 구축 컨설팅을 제공하며, 기업들이 AI 애플리케이션의 잠재적 취약점을 조기에 발견하고 안전한 운영 환경을 구축할 수 있도록 지원하고 있다.

김병무 SK쉴더스 사이버보안부문장(부사장)은 “AI 기술은 편리함을 제공하지만 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다”며, “이번 가이드는 기업과 기관이 AI 보안 문제를 사전에 예방하고 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적인 도움을 줄 것으로 기대된다”고 밝혔다.

한편 ‘LLM 애플리케이션 취약점 진단 가이드’는 SK쉴더스 공식 웹사이트의 정보보안 라이브러리에서 무료로 다운로드 가능하다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지