[김기동 법무법인 로백스 대표변호사] 인공지능(AI)의 발전 속도가 너무 빠르다. 지난 2022년 11월 생성형 AI 챗GPT가 등장할 때만 해도 ‘사람과 대화를 나눌 수 있는 AI’라는 것 자체가 신기한 일이었다.

그러나 이제 AI 에이전트의 시대가 찾아왔다. 오픈클로(OpenClaw), 클로드 코워크(Claude Cowork) 같은 도구들은 AI가 스스로 작업을 계획하고 실행한다. 젠슨 황 엔비디아 최고경영자(CEO)는 올해 CES 기조연설에서 ‘피지컬 AI 시대’의 개막을 선언했다. AI가 디지털 공간을 넘어 물리적 세계의 행위 주체로 확장된다는 의미다.

이 변화가 산업과 일자리에 미치는 충격은 전방위적이다. ‘SaaS(서비스형 소프트웨어) 종말론’이라는 말까지 나왔다. 직원 수 기준으로 요금을 산정하는 기존 소프트웨어 사업 모델이 유지될 수 없다는 뜻이다. 앤트로픽이 클로드 코워크 기업용 플러그인을 발표한 직후 불과 일주일 만에 글로벌 소프트웨어 주가에서 약 1조 달러가 증발했다. 시장은 이미 답을 내리고 있다.

어떤 직업이 위협받는가는 항상 대중의 관심사다. 다리오 아모데이 앤트로픽 CEO는 AI가 2030년까지 초급 화이트칼라 업무의 절반을 자동화할 수 있다고 경고했다. OpenAI·펜실베이니아대 연구진은 언어·문서 작성 역량에 의존하는 업무일수록 AI의 영향을 크게 받는다고 분석했다. 변호사가 AI 대체 가능 직업 상위권에 빠지지 않고 이름을 올리는 이유다.

필자 역시 실무에서 AI를 적극 활용하고 있다. 법무법인 차원에서도 여러 영역에 AI를 도입해 업무 효율을 높이고 있다. 과거라면 몇 시간이 걸리던 정리 작업이 훨씬 짧은 시간 안에 가능해졌고, 자료 탐색의 폭도 넓어졌다. 정형화된 서식 작성, 대량의 자료 검토, 유사 판례 검색 같은 반복 업무에서 AI는 이미 사람의 속도를 아득히 넘어섰다. AI를 능숙하게 다루는 변호사와 그렇지 않은 변호사 사이에는 생산성 격차가 뚜렷하게 벌어지고 있다. 이 흐름은 되돌릴 수 없다.

그러나 역설적이게도 AI의 눈부신 발전은 오히려 인간 변호사를 대체할 수 없는 구조적 한계를 더 선명하게 드러내고 있다.

AI가 넘지 못하는 세 가지 한계

첫째, ‘데이터의 고갈’이다. 대규모 언어모델은 방대한 텍스트와 이미지를 학습해 성능을 높여 왔다. 그러나 고품질 학습 데이터는 무한하지 않다. 비영리 연구단체 에포크 AI(Epoch AI)는 2024년 논문에서 AI가 공개적으로 학습할 수 있는 고품질 텍스트 데이터가 2026년에서 2032년 사이에 바닥날 것이라고 전망했다. 연료가 떨어지면 엔진도 멈춘다.

둘째, ‘모델 붕괴’의 문제다. AI가 생성한 콘텐츠를 다시 AI가 학습하는 순환이 반복되면 모델의 품질이 급격히 저하된다. 복사본의 복사본을 계속 만들면 원본의 선명함이 사라지는 것과 같은 이치다. 온라인 공간에 AI 생성 콘텐츠가 넘쳐날수록 이 문제는 더욱 현실적인 위험이 된다.

셋째, ‘환각’(Hallucination)이다. 법률 분야에서 이 문제는 특히 치명적이다. AI는 존재하지 않는 판례를 실제처럼 제시하거나, 없는 법조문을 그럴듯한 문체로 만들어낸다. 더 큰 문제는 전문가조차 한눈에 이상을 감지하지 못할 정도로 자연스럽다는 것이다. 법률 문서에서 이러한 오류는 단순한 실수로 끝나지 않는다. 당사자의 권리와 의무, 소송의 방향, 때로는 형사 책임 여부에까지 직접적인 영향을 미친다. AI가 틀려도 그럴듯하게 틀리는 세계에서 검증 능력은 곧 전문성이다.

이러한 구조적 한계는 AI가 아무리 정교해져도 그 결과물에 대한 전문가의 검증이 불가결함을 보여준다. 나아가 AI가 변호사를 대체할 수 없는 본질적 이유가 있다. 어떤 사건도 똑같지 않으며 많은 사건은 생물처럼 변화한다. 사실관계의 이면을 읽어 쟁점을 구성하고, 상황 변화에 맞춰 전략을 조정하며, 선례가 없는 영역에서 새로운 논리를 설계하는 일은 인간 변호사만이 할 수 있는 영역이다.

실무에서 가장 어려운 일 중 하나는 의뢰인의 막연한 호소 속에서 법적으로 의미 있는 쟁점을 포착해 내는 것이다. 의뢰인의 진술에는 중요한 사실과 그렇지 않은 사실이 뒤섞여 있다. 불리한 내용은 누락되거나 본인조차 인식하지 못하는 경우도 많다. 변호사는 그 속에서 핵심을 가려내고 필요한 사실을 끌어내며 전체 구조를 다시 세운다. 이는 단순히 자료를 정리하거나 유사 사례를 찾는 차원이 아니다. 드러난 사실과 드러나지 않은 사실을 함께 읽어 법적 의미를 부여하는 판단의 영역이다. 데이터는 과거를 학습하지만 변호사는 지금 이 사건을 읽는다.

협상과 변론에서는 이 차이가 더욱 뚜렷해진다. 상대방의 미묘한 태도 변화를 읽고 전략을 조정하는 일, 법정에서 판사의 질문 취지에 따라 변론 방향을 즉각 수정하는 일, 의뢰인에게 불리한 현실을 외면하지 않으면서도 최선의 선택을 함께 설계하는 일은 텍스트 생성만으로 해결되지 않는다. 법정은 살아있는 공간이다. AI는 그 공간에 없다.

법은 고정된 정답의 목록이 아니다. 인간과 인간 사이의 갈등을 해결하기 위한 규범 체계이며 사회 변화에 따라 해석과 적용이 끊임없이 수정된다. 기존 법리가 예상하지 못한 문제가 현실의 분쟁으로 나타나는 것이 법의 숙명이다. AI 창작물의 저작권, AI의 데이터 사용과 개인정보보호 문제처럼 판례가 충분히 축적되지 않고 사회적 합의가 형성 중인 영역에서는 기존 데이터를 학습한 AI만으로 답을 찾기 어렵다. 어제의 데이터로 오늘의 분쟁을 해결할 수는 없다.

결국 AI는 변호사를 대체하는 것이 아니라 변호사의 업무 방식을 바꾸고 있다. AI가 초안을 만드는 속도가 빨라질수록 그 초안에 대한 법률적 판단과 책임의 가치는 오히려 커진다. 의뢰인이 궁극적으로 믿고 의지할 대상은 기술 자체가 아니다. 그 기술을 적절히 활용하면서도 최종 결과에 책임지는 변호사다.

AI의 한계를 정확히 이해하고 통제할 수 있는 역량, 그것이 AI 시대에 변호사의 가치를 가르는 기준이 된다. 이제 변호사도 프롬프트 엔지니어링(prompt engineering) 능력까지 갖춰야 한다. 도구가 강력해질수록 도구를 다루는 사람의 판단이 더 중요해진다. 변호사의 일은 줄어들기는커녕 오히려 더 늘어만 간다.

김기동 법무법인 로백스 대표변호사

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지