AI에게 법 물어봤다가 낭패 본다? 제대로 물어보는 방법

이제는 법적 분쟁이 생겼을 때 가장 먼저 찾는 곳이 변호사 사무실에서 AI 챗봇으로 바뀌고 있다. 임대차 계약 갱신, 퇴직금 계산, 건축 허가 요건, 지자체 영업 신고 기준까지 AI에게 물어보면 즉시 답이 나온다. 문제는 그 답이 틀렸을 때 사용자가 알아채기 어렵다는 점이다.

AI 언어모델은 특정 시점까지 수집된 데이터로 학습된 뒤 배포된다. 한국 법령은 개정 빈도가 높다. 「공인중개사법」 시행령, 「소득세법」 시행규칙, 「건축법」 시행령은 연 1~2회 이상 개정되는 경우가 흔하다. 

AI가 "양도소득세 비과세 요건은 2년 보유"라고 답했는데, 그사이 조정대상지역 거주 요건이 추가됐다면 그 답은 완전히 틀린 조언이 된다. 모델의 학습 데이터 마감 시점과 사용자가 질문하는 시점 사이의 간극이 클수록 이 위험은 커진다.

지자체 조례는 더 심각하다. 국가법령정보센터에 등재되는 속도 자체가 느리고, 구·군 단위 조례는 AI 훈련 데이터에 아예 포함되지 않은 경우가 대부분이다. "대구시 중구 주차장 설치 조례"나 "성동구 공중위생 관리 조례" 같은 건 AI가 그냥 모른다. 

그런데 AI는 "모른다"고 답하는 대신 유사한 패턴의 조문을 조합해 그럴듯한 답을 생성한다. 이것이 법률 분야에서 AI가 가장 많이 저지르는 오류인 '할루시네이션'의 구조다. 

AI 언어모델은 다음에 올 가장 그럴듯한 단어를 순차적으로 예측하는 방식으로 텍스트를 생성한다. 법률 텍스트는 "본문-단서-호-목"의 반복적 구조를 가지기 때문에 모델이 실제로 존재하지 않는 조문 번호를 만들어내거나 실제 조문 내용을 뒤섞어 틀린 요건을 서술하기 쉽다. 

"「상가건물 임대차보호법」 제12조의2 제3항에 따르면"이라고 자신 있게 답하지만 해당 조항이 실제로는 존재하지 않을 수 있다. 미국과 한국 모두에서 AI가 생성한 판례 인용이 가짜였던 사례가 법조계에서 매우 많이 보고되고 있다.

조문 문언이 전부가 아니라는 점도 함정이다. 한국 법 실무에서는 대법원 판례, 헌법재판소 결정, 법제처 유권해석, 해당 부처 민원 답변이 실제 결론을 좌우하는 경우가 많다. 

AI는 조문을 문언 그대로 해석해서 답을 주지만 판례로 이미 다르게 확립된 해석이 있다면 그 답은 현실에서 통하지 않는다. 조세법과 행정법 영역에서 이런 케이스가 집중적으로 발생한다.

법률·시행령·시행규칙·조례·고시의 위계 구조를 AI가 혼동하는 문제도 있다. 한국 법체계는 법률 → 대통령령(시행령) → 부령(시행규칙) → 조례 → 고시·훈령·예규의 층위로 구성된다. 실무를 실질적으로 규율하는 내용은 대부분 시행령 이하에 있다. 

건강보험료 산정 기준은 「국민건강보험법」 본문이 아니라 시행령 별표에 있고 그게 매년 바뀐다. AI는 "법률에는 이렇게 돼 있다"고 답하면서 정작 실무를 규율하는 시행규칙이나 고시 내용을 누락하거나 혼동하는 경우가 많다.

그렇다고 AI를 법률 문제에 쓰지 말라는 뜻은 아니다. 프롬프트, 즉 AI에게 질문하는 방식을 바꾸면 오류 위험을 상당히 줄일 수 있다. 핵심은 AI가 틀리기 쉬운 조건을 질문 설계 단계에서 미리 제거하는 것이다.

가장 효과적인 방법은 AI에게 답을 바로 요구하는 대신 먼저 "이 문제를 판단하려면 어떤 정보가 필요한가"를 물어보는 것이다. 예를 들어 "임차인이 계약갱신요구권을 쓸 수 있냐"고 바로 묻는 대신 "이 질문에 정확히 답하려면 어떤 사실관계를 확인해야 하는가"를 먼저 질문한다. 

AI가 "임차 개시일이 2020년 7월 31일 이전인지 이후인지, 갱신을 이미 한 번 행사했는지, 임대인의 실거주 통보 여부"를 답하면 사용자는 그 항목들을 채워서 다시 질문할 수 있다. 같은 조문도 이 사실관계에 따라 결론이 180도 달라지기 때문에 사실관계를 먼저 정리하는 단계가 필수다.

다음으로 AI에게 답변의 근거를 조문 단위로 명시하도록 요구해야 한다. "「주택임대차보호법」 제6조의3 제1항 본문에 따르면"처럼 법률명, 조, 항, 호까지 구체적으로 제시하도록 프롬프트에 명시한다. 

그리고 그 조문을 국가법령정보센터(law.go.kr)에서 직접 검색해 대조한다. AI가 제시한 조문 번호가 실제로 존재하지 않거나 내용이 다르다면 할루시네이션이 발생한 것이다. 이 대조 단계가 없으면 AI의 답을 그대로 믿을 수밖에 없다.

AI에게 불확실한 부분을 명시적으로 표시하도록 지시하는 것도 유효하다. "확실하지 않은 내용은 확실하지 않다고 표시하라", "최근 개정 여부를 알 수 없는 조항은 별도로 언급하라"는 지시를 프롬프트에 포함하면 AI의 자기 검열 수준이 높아진다. 완벽하지는 않지만 아무 지시 없이 질문하는 것보다 오류 표면이 줄어든다.

질문하는 사용자의 마인드도 바뀌어야 한다. AI의 법률 답변을 "검색 방향과 키워드를 잡아주는 출발점"으로 대해야 한다는 뜻이다.

"이 문제에 관련된 법률은 무엇인가", "어떤 기관에 유권해석을 요청할 수 있는가", "국가법령정보센터에서 어떤 키워드로 검색해야 하는가"를 AI에게 물어보는 건 유효하다. 반면 "내 경우에 해당되는가, 적법한가, 이기는가"를 AI에게 최종 판단으로 요구하는 건 위험하다. AI가 틀렸을 때 사용자가 그걸 알아챌 수단이 없기 때문이다.

구체적인 절차로 정리하면 이렇다. AI에게 먼저 관련 법령명과 검색 키워드를 받는다. 그 법령을 law.go.kr에서 직접 확인한다. 조문 내용을 가지고 AI에게 "이 조문에서 내 상황에 해당하는 요건이 무엇인지"를 구체적 사실관계와 함께 다시 질문한다.

최종 판단이 중요한 사안이라면 법률구조공단(132) 또는 온라인 상담을 통해 전문가 확인을 거친다. AI는 이 흐름에서 검색과 정리를 돕는 도구로 쓰이는 것이 가장 적절하며 판단의 주체가 되어서는 안 된다.