[이코노미스트 정길준 기자] 인공지능(AI) 보안 전문 기업 에임인텔리전스가 정부 주도 AI 사업에 참여해 전 국민이 안심하고 이용할 수 있는 AI 서비스 보안 체계 구축에 나선다.

에임인텔리전스는 정부의 ‘모두의 AI’ 프로젝트에 참여한다고 3일 밝혔다.

에임인텔리전스는 SK텔레콤이 주관하는 컨소시엄에 참여해 AI 레드티밍과 AI 가드레일 기술을 지원하고, 컨소시엄과 함께 AI 보안 체계 고도화에 협력한다. 신규 AI 에이전트의 서비스 운영 중 발생할 수 있는 위험성을 사전에 탐지하고 통제할 수 있는 체계를 구축할 예정이다. 개인정보 유출이나 정책 위반, 프롬프트 공격, 비정상 행동 등 위험요소를 미리 예방하는 시스템을 만들어 서비스의 안전성을 높인다.

SK텔레콤 컨소시엄은 단순 답변을 넘어 실제로 필요한 행동까지 수행하는 AI 서비스를 구현할 계획이다. 예약, 전화, 공공업무 등 국민의 실생활을 돕는 ‘실행형 AI 비서’로 확대하는 것이 목표다. 이 과정에서 에임인텔리전스는 단순 챗봇 보안을 넘어 AI 에이전틱 기능에 대한 지속가능한 안전검증 체계를 구축해 보안성을 끌어올리겠다는 구상이다.

‘모두의 AI’는 범용 AI 챗봇과 공공·특화 AI 에이전트를 구축해 국민이 일상에서 이용할 수 있도록 지원하는 정부 사업이다. 이달 중 시범 버전으로 공개될 예정이며, 이용자 의견을 수렴해 연내 정식 서비스를 출시할 계획이다.

유상윤 에임인텔리전스 대표는 “모두의 AI 사업은 인공지능이 단순 답변을 넘어 국민의 일상에 스며들어 행동을 수행하는 전환점이 될 것”이라며 “앞으로도 ‘대한민국 AI의 가능성은 모두에게’라는 슬로건처럼 AI 보안은 에임인텔리전스에게 맡길 수 있도록 최선을 다하겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지