[법과제도]"AI가 변호사를 대체한다"는 환상, 법정이 직접 제동을 걸다

AI가 법률 분야에 빠르게 들어오고 있다. 사내 법무팀의 생성형 AI 사용률은 1년 만에 44%에서 87%로 거의 두 배가 됐다. 법률 전문가 열 명 중 일곱 명은 범용 AI 도구를 업무에 쓴다고 답했다. 

표준 계약서 초안 작성 시간은 최대 80% 줄었고 판례를 찾는 법률 리서치 속도는 사람이 직접 검색할 때보다 네 배 빨라졌다. 그러나 같은 시기, "AI가 변호사를 대체한다"는 전망에 가장 강하게 제동을 건 것은 다름 아닌 법원이었다.

AI가 법률 업무에서 확실한 강점을 보이는 곳은 방대한 문서를 사람이 따라갈 수 없는 속도와 일관성으로 훑는 작업이다. 기업 인수합병(M&A)에서 변호사들은 수만 건의 계약서를 몇 주에 걸쳐 일일이 검토해 왔다. 

AI 도구는 같은 일을 몇 시간 만에 끝내면서도 회사의 주인이 바뀔 때 계약을 해지할 수 있게 한 조항이나 손해를 대신 물어주는 면책 조항 같은 핵심 항목을 찾아내는 정확도를 유지했다.

한 사람이 수천 건의 계약을 머릿속에 동시에 담아둘 수는 없다. AI는 계약 전체를 한 번에 보고 분석을 내놓는다. 표준과 다른 면책 조항, 빠진 서명, 위험 신호를 위험도순으로 정리해 1차 보고서 형태로 만들어 준다. 이상 징후를 잡아내는 능력도 강점으로 꼽힌다. 다만 이 결과물은 변호사가 검토하고 고치는 출발점이 되어야 한다.

문제는 AI가 만들어내는 '환각(hallucination)'이다. 환각은 AI가 실제로 존재하지 않는 판례나 법조문을 그럴듯하게 지어내는 현상을 말한다. 프랑스 HEC파리의 연구원 다미앵 샤를로탱이 운영하는 데이터베이스에 따르면 법원에 제출된 AI 환각 사례는 1년 전 200건에서 올해 초 기준 전 세계 1,227건으로 늘었다. 

하루 5~6건씩 새로 쌓이고 있는 것이다. 그는 한 날에 서로 다른 열 곳의 법원에서 열 건이 나온 적도 있다고 전했다. AI가 너무 뛰어나지만 완벽하지는 않은 탓이라는 것이다.

제재 규모도 기록을 갈아치우고 있다. 올해 4월 미국 오리건주 연방법원은 허위 인용 23건이 담긴 서면을 낸 변호사들에게 11만 달러의 벌금과 상대방 변호사 비용을 물리고 소송 자체를 각하했다. AI 환각으로 인한 제재로는 미국 법률 역사상 최고액이다. 

네브래스카주 대법원은 같은 달, AI가 지어낸 인용을 걸러내지 못한 변호사의 면허를 무기한 정지시켰다. 첫 면허 정지 사례다.

법원은 한 걸음 더 나아가 "AI는 변호사가 아니다"라는 원칙을 제도로 못 박고 있다. 뉴욕 남부지방법원의 라코프 판사는 비밀 유지를 보장하는 계약 없이 생성형 AI로 만든 문서는 '변호사-의뢰인 비밀유지 특권'의 보호를 받지 못한다고 판결했다. 

이 특권은 의뢰인이 변호사에게 털어놓은 내용을 법정에서 강제로 공개당하지 않게 보호하는 장치다. 많은 AI 업체가 이용자가 입력한 내용을 자사 모델 학습에 쓸 권리를 갖고 있어 입력한 정보가 비밀로 남으리라 기대할 수 없다는 것이 판단의 근거였다.

제7연방항소법원도 지난 3월, AI가 주는 효율이 변호사가 제출물의 정확성을 직접 검증할 의무를 면제해 주지 않는다고 밝혔다. 플로리다주 대법원은 6월 15일부터 변호사뿐 아니라 변호사 없이 소송하는 당사자에게도 인용이 정확하다는 확인서를 받도록 했다. 

이를 어기면 견책부터 소송 각하, 비용 부담까지 제재할 수 있다. 6월 3일 제9연방항소법원은 위증죄로 뒷받침되는 AI 사용 확인서를 항소심 차원에서 처음 인정했다. 특히 상급자가 부하 직원이 만든 서면을 직접 확인하지 않고 서명하는 관행을 차단했다. 현재 300명이 넘는 미국 연방판사가 AI 관련 명령을 채택했다.

전문가들이 입을 모으는 핵심은 '판단'이다. AI는 자료를 뽑아내고 패턴을 찾아내지만, 어떤 위험이 받아들일 만한지, 그것이 거래에 어떤 영향을 줘야 하는지를 결정하지는 못한다. 

미국변호사협회는 공식 의견에서 생성형 AI가 자신이 만든 글의 의미를 이해하거나 맥락을 평가할 능력이 없다고 지적했다. 미묘한 위험과 모호함을 짚어내는 일은 변호사만 할 수 있다는 것이다.

현실의 신뢰 수준도 아직 낮다. 올해 3월 기준 생성형 AI의 결과물을 높게 신뢰하는 법률 사용자는 22.1%에 그쳤다. 변호사의 74%는 법원 제출물에 AI 환각이 섞일까 우려했고 다섯 곳 중 한 곳의 로펌은 의뢰인 업무에 공용 챗봇을 쓰는 것을 공식 금지했다.