[이코노미스트 정길준 기자] 인공지능(AI) 보안 기업 에임인텔리전스가 피지컬 AI의 안전성 확보를 위한 글로벌 협력체 구축을 주도한다.

에임인텔리전스는 로봇자율 시스템과 산업 장비 등 피지컬 AI 전반의 안전 문제를 연구하기 위한 글로벌 오픈 컨소시엄 ‘PASC(파스크)’를 출범했다고 17일 밝혔다. 에임인텔리전스가 소집하고 비영리 방식으로 운영하며, 연구·하드웨어·데이터 등 다양한 형태로 참여가 가능하다.

회사에 따르면 피지컬 AI는 언어 모델의 텍스트 답변을 넘어 실제 환경에서 직접 판단하고 행동하기 때문에 단순한 유해 출력 차단을 넘어 실질적 위험을 사전에 식별하고 통제하는 평가 체계가 필수적이다. PASC는 이러한 과제를 해결하기 위해 피지컬 AI 안전의 공통 정의와 평가 방법론, 벤치마크 및 향후 표준화에 필요한 연구 기반을 함께 마련할 계획이다.

PASC에는 구글·마이크로소프트·오라클·LG전자 소속 전문가를 비롯해 국내외 대학 및 AI 안전 연구기관의 연구진 등 30여 명의 산업계 실무자와 연구자가 참여하고 있다. 주요 참여진으로 ▲구글 제니 니 ▲마이크로소프트·요크대 아드리안 데 윈터 ▲오라클 히테쉬 파텔·아밋 아가왈 ▲LG전자 장지용 상무 ▲한국인공지능안전연구소 김명주 소장 ▲UC 산디에고 시쿤 가오 교수 등이 이름을 올렸다.

PASC는 첫 공동 과제로 피지컬 AI 안전의 정의와 평가 방향을 다루는 포지션 페이퍼를 준비 중이다. 향후 ▲공동 평가 체계 구축 ▲벤치마크 설계 ▲적대적 테스트 ▲시뮬레이션 및 실제 로봇 환경 검증 연구로 활동을 확대해 나갈 예정이다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 “피지컬 AI가 현실 세계에서 더 많은 역할을 맡게 될수록 안전은 모델 성능과 별개로 설계하고 검증해야 할 핵심 기반이 된다”며 “PASC가 학계와 산업계의 전문성을 연결해 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되도록 하겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지