AI로 고소장·법률문서 작성 시 할루시네이션이 생기는 이유 2026 — 한계와 원인

한줄 요약: AI는 고소장과 소장의 구조를 빠르게 정리하지만, 입력되지 않은 사실을 확인하거나 최신 법령·판례를 보증하지는 않습니다. LLM은 다음에 올 토큰을 확률적으로 생성하므로 그럴듯한 조문 번호와 판례 정보를 잘못 제시할 수 있습니다. 따라서 AI의 문장은 초안으로 읽고, 공식 출처 대조와 변호사 검토를 별도 단계로 둬야 합니다.

AI로 고소장, 소장, 준비서면 같은 법률문서를 먼저 작성해 보려는 사람이 늘고 있습니다. 문서의 기본 형식을 알고 있거나 사건의 사실관계를 정리해 둔 사람이라면 AI가 긴 내용을 항목별로 나누고, 반복되는 표현을 다듬고, 빠진 질문을 찾아주는 데 도움을 받을 수 있습니다. 그러나 문장이 자연스럽다는 이유만으로 그 안의 사실과 법률적 근거까지 확인된 것은 아닙니다.

특히 고소장과 소장은 단순한 글쓰기 과제가 아닙니다. 누가 언제 무엇을 했는지, 그 사실을 어떤 자료로 증명할 수 있는지, 어떤 법률상 요건과 연결되는지를 구분해야 합니다. 고소장 작성 AI 가이드가 문서 작성의 전체 흐름을 다룬다면, 이 글은 그 과정에서 AI가 왜 틀릴 수 있는지에 초점을 맞춥니다. 원인을 이해한 뒤 실제 작성 절차를 알고 싶다면 짝 글인 AI 할루시네이션 방지 체크리스트를 이어서 확인해 보세요.

AI는 고소장과 소장을 어떻게 초안으로 바꾸나?

AI 법률문서 작성은 일반적으로 입력, 구조화, 문장화, 점검 제안이라는 네 단계로 진행됩니다. 사용자가 사건의 당사자, 시간순 경과, 피해 또는 분쟁의 내용, 보유한 증거, 원하는 문서 종류를 입력하면 AI는 그 내용을 읽고 문서에 들어갈 항목을 추정합니다. 그 다음 제목과 당사자 표시, 청구 또는 처벌을 원하는 내용, 사실관계, 법률적 주장, 증거 목록, 첨부자료 같은 순서로 내용을 배치합니다.

이 과정에서 AI가 하는 일은 문서의 틀을 잡고 언어를 정리하는 일에 가깝습니다. 예를 들어 흩어진 메모에서 날짜와 인물의 관계를 찾아 연표로 만들거나, 여러 차례 반복된 사실을 한 문단으로 합치거나, 같은 사건을 고소장 형식에 맞는 서술로 바꿀 수 있습니다. 사용자가 빠뜨린 날짜, 계약서, 송금 내역, 대화 내용처럼 추가 확인이 필요한 항목을 질문으로 되돌려주는 것도 유용한 역할입니다.

고소장과 민사소장은 겉보기에는 모두 사건을 설명하는 문서처럼 보이지만 목적과 요구되는 내용이 다릅니다. 고소장은 수사기관에 범죄 혐의의 수사와 처벌을 요청하는 문서이고, 소장은 법원에 특정한 청구를 제기하는 문서입니다. AI가 문서의 이름만 보고 한 형식을 다른 형식으로 잘못 적용할 수도 있으므로, 문서 종류와 제출 기관부터 사람이 정해야 합니다.

또한 초안은 최종본과 다릅니다. 초안에는 질문, 빈칸, 확인이 필요한 표현이 남아 있어야 오히려 안전할 때가 많습니다. AI가 모든 문장을 단정형으로 바꾸면 아직 확인되지 않은 추정이나 상대방의 주장까지 확정된 사실처럼 보일 수 있습니다. 좋은 초안은 매끄러운 문장만 제공하는 문서가 아니라, 무엇이 확인되었고 무엇이 아직 확인되지 않았는지 보여주는 작업 문서입니다.

왜 사실관계와 최신성은 사람이 책임져야 하나?

AI는 사건 현장에 있지 않았고, 사용자가 보지 못한 계약서나 메시지를 자동으로 알 수도 없습니다. 사용자가 입력한 정보가 일부뿐이면 AI는 그 일부를 전체 사건으로 오해할 수 있습니다. 날짜가 하나 빠졌거나 당사자의 역할이 바뀌어도 문장은 자연스럽게 이어질 수 있기 때문에, 문체의 자연스러움이 사실 확인의 증거가 되지는 않습니다.

사실관계를 입력할 때는 사실, 해석, 요청을 분리하는 것이 중요합니다. 사실은 확인 가능한 행동과 시점이어야 합니다. 예를 들어 특정 날짜에 어떤 계좌로 얼마를 송금했고 어떤 메시지를 받았다는 내용은 자료로 대조할 수 있는 사실입니다. 상대방이 처음부터 돈을 갚을 의사가 없었다는 문장은 중요한 주장일 수 있지만, 그 자체로 확인된 사실인지 아니면 여러 정황에서 도출한 해석인지 구분해야 합니다. AI가 이 두 층위를 섞으면 법률문서의 표현이 불필요하게 과격해질 수 있습니다.

최신 법령과 판례에 관한 한계도 별도로 봐야 합니다. 일반적인 언어 모델은 실시간 법령 데이터베이스나 법원 판례 데이터베이스에 기본적으로 직접 접속해 원문을 확인하는 시스템이 아닙니다. 학습 데이터 시점 이후에 개정된 법령, 새로 선고된 판결, 변경된 서식과 절차가 기본 모델에 자동으로 반영되는 것도 아닙니다. 모델이 현재 연도에 맞는 표현을 생성한다고 해서 실제로 최신 자료를 조회했다는 뜻은 아닙니다.

인터넷 검색 기능이나 검색 자료를 연결한 AI라고 하더라도 확인 절차가 사라지는 것은 아닙니다. 검색 결과가 오래되었거나 사건의 쟁점과 맞지 않을 수 있고, 검색된 요약문이 원문 전체의 취지를 정확히 전달하지 않을 수도 있습니다. 법령의 조문 번호가 맞더라도 시행일과 적용 범위가 다른 경우가 있으며, 판례가 존재하더라도 사건의 사실관계와 법적 쟁점이 다르면 그대로 인용할 수 없습니다.

따라서 법률문서 작성에서 AI에게 맡길 수 있는 범위와 맡길 수 없는 범위를 나누어야 합니다. 문서의 순서를 잡고 중복을 줄이는 일은 AI가 잘 도울 수 있지만, 실제로 일어난 사실을 확정하거나 현재 적용되는 법률을 최종 판단하는 일은 사람의 확인 대상입니다. 사실관계가 부족한 상태에서 문서의 완성도를 높이려고 할수록 AI는 빈틈을 그럴듯한 문장으로 메우기 쉬워집니다.

할루시네이션은 다음 토큰 예측에서 어떻게 생기나?

할루시네이션은 AI가 일부러 거짓말을 한다는 뜻이 아닙니다. 대규모 언어 모델은 입력된 문맥 다음에 어떤 단어와 기호가 올 가능성이 높은지를 계산해 문장을 한 토큰씩 생성합니다. 이 계산의 목표는 법률 데이터베이스에서 사실을 조회하고 참인지 거짓인지 판정하는 것이 아니라, 주어진 문맥에 이어질 법한 표현을 만들어 내는 것입니다.

법률문서에는 일정한 표현과 인용 형식이 반복됩니다. 법률 이름 뒤에 조문 번호가 오고, 판례에는 법원, 선고일, 사건번호, 판결 요지가 따라오는 식입니다. 모델은 이런 표현의 패턴을 많이 학습할 수 있지만, 패턴을 안다고 해서 특정 사건번호가 실제로 존재하는지 확인한 것은 아닙니다. 사용자가 판례를 요구하거나 문서가 비어 있는 부분을 완성해 달라고 하면, 모델은 법률문서에서 자주 함께 등장하는 숫자와 문구를 조합해 그럴듯한 인용을 만들 수 있습니다.

이 때문에 존재하지 않는 판례번호, 잘못된 조문 번호, 실제 판결과 맞지 않는 법리를 모두 사실처럼 제시하는 일이 생길 수 있습니다. 일부 정보는 맞고 일부만 틀릴 수도 있습니다. 예를 들어 법률 이름은 맞지만 조문이 다르거나, 실제 판례는 존재하지만 그 판결이 말한 범위를 과장할 수 있습니다. 법률문서에서 이런 부분 오류는 문장 전체의 신뢰성을 흔들고, 제출 서면의 핵심 주장을 약화시킬 수 있습니다.

확신에 찬 어조와 실제 정확도는 별개의 문제입니다. AI는 불확실하다는 표시 없이 단정형 문장을 생성하는 경우가 많습니다. 문장에 예외가 적고 설명이 매끄러울수록 독자는 높은 확률로 정확한 답이라고 느끼지만, 모델 내부의 자신감 표현은 공식적인 검증 결과가 아닙니다. 특히 사건번호나 조문처럼 구체적인 정보가 들어가면 숫자가 있다는 사실 자체가 신뢰감을 만들어 잘못을 발견하기 어렵게 합니다.

구체적인 사실관계가 부족할 때 빈틈을 메우려는 경향도 중요한 원인입니다. 사용자가 피해 시점과 금액을 적지 않았는데 AI에게 완성된 고소장을 요청하면, 모델은 일반적인 사건 서술의 흐름을 따라 내용을 채울 수 있습니다. 사실을 알지 못한다는 이유로 멈추기보다 다음 문장을 이어 가는 방향으로 작동하기 때문입니다. 이런 문장은 초안에 들어가서는 안 되며, 확인되지 않은 부분은 질문이나 빈칸으로 남기는 방식이 더 안전합니다.

검색 기반 생성이나 출처가 연결된 시스템은 환각 가능성을 줄일 수 있지만 0으로 만들지는 않습니다. 검색 결과를 잘못된 사건에 매칭하거나 원문 중 일부만 읽고 결론을 일반화할 수 있기 때문입니다. 중요한 인용은 AI가 제시한 문장보다 공식 데이터베이스의 원문을 기준으로 다시 확인해야 합니다.

법조계에서 보고된 환각 유형을 어떻게 이해해야 하나?

법조계와 법원 실무에서 AI 사용과 관련해 반복적으로 경고되는 환각 유형은 특정한 한 사건에만 한정되지 않습니다. 아래 유형은 실명 사건이나 특정 당사자를 지칭하지 않는 일반적인 분류입니다. 실제 사례를 확인하려면 해당 문서의 원문과 공식 기록을 별도로 살펴봐야 하며, 유형 설명 자체를 특정 판례의 사실로 받아들여서는 안 됩니다.

• 가짜 판례 인용: 존재하지 않는 사건번호와 판결을 제시하거나, 실제로는 다른 사건인 판례를 사건의 근거처럼 연결하는 유형입니다.
• 판결 취지의 왜곡: 판례의 일부 문장을 가져오면서 예외나 전제 조건을 지워, 법원이 일반적으로 인정하지 않은 원칙처럼 설명하는 유형입니다.
• 잘못된 조문과 항 번호: 법률 이름은 맞지만 조문 번호, 항, 호 또는 시행 시점을 잘못 적는 유형입니다.
• 사건번호와 법원 정보의 조합 오류: 실제 사건번호와 다른 선고일이나 법원을 결합해 그럴듯한 인용을 만드는 유형입니다.
• 출처와 주장 사이의 불일치: 인용한 자료는 존재하지만 주장하는 법리를 뒷받침하지 않는 유형입니다.
• 절차의 혼동: 형사 고소와 민사 청구, 지급명령과 소송, 항소와 재심처럼 목적과 요건이 다른 절차를 섞는 유형입니다.

이런 오류가 위험한 이유는 단순한 맞춤법 오류가 아니기 때문입니다. 잘못된 법적 근거는 어떤 사실을 강조해야 하는지, 어떤 증거를 준비해야 하는지, 어떤 문서를 제출해야 하는지에 영향을 줄 수 있습니다. 법률문서에 사실과 인용이 함께 들어가면 인용이 사실관계의 신뢰성을 보강하는 것처럼 보이므로, 한 번의 오류가 문서 전체에 연쇄적으로 퍼질 수 있습니다.

AI가 제시한 판례가 의심된다면 사건번호, 법원, 선고일, 판결문 원문 링크, 해당 주장과 직접 연결되는 문장을 요구해야 합니다. 공식 데이터베이스에서 검색되지 않거나 원문이 주장과 맞지 않으면 인용을 삭제하거나 확인 필요 표시로 남겨야 합니다. 이 주제를 더 구체적인 경고 사례 유형으로 살펴보려면 AI 가짜 판례 할루시네이션 안내도 참고할 수 있습니다.

결국 AI 법률문서의 핵심 위험은 AI를 사용했다는 사실 자체가 아니라, 초안과 검증을 같은 단계로 착각하는 데서 생깁니다. 사실을 사람이 제공하고, AI가 구조를 정리한 뒤, 법률 근거와 제출 가능성을 다시 검토하는 순서가 필요합니다. 실전에서 이 원칙을 적용한 체크리스트는 AI 할루시네이션 없이 법률문서를 작성하는 법에서 이어집니다. 문서의 기본 구조를 잡아 보고 싶다면 MeshLaw에서 초안 작성 시작하기를 이용할 수 있지만, 생성된 결과는 반드시 검토 절차를 거쳐야 합니다.

자주 묻는 질문(FAQ)

Q. AI가 작성한 고소장을 그대로 제출해도 되나요?

A. 권하지 않습니다. AI가 만든 문장은 초안이며, 사실관계와 증거의 일치 여부, 문서 종류, 법률 근거, 개인정보와 명예훼손 위험을 사람이 확인해야 합니다. 제출 전에는 변호사에게 검토를 받는 것이 안전합니다.

Q. AI가 제시한 판례가 모두 가짜인가요?

A. 그렇지는 않습니다. 실제 판례를 올바르게 설명할 때도 있지만, 존재 여부와 판결 취지를 자동으로 보증하지는 않습니다. 사건번호와 원문을 공식 데이터베이스에서 대조하기 전에는 검증된 인용으로 취급하지 않아야 합니다.

Q. 왜 모호한 질문에서 환각이 더 잘 생기나요?

A. 모델은 빈 정보를 사실 확인 질문으로 되돌리기보다 문맥상 자연스러운 문장으로 이어 가려는 경향이 있습니다. 날짜, 금액, 당사자 역할, 원하는 절차가 빠져 있으면 일반적인 사건 서술을 빈틈에 넣을 가능성이 커집니다.

Q. 최신 AI 모델을 사용하면 법령 오류가 없어지나요?

A. 최신 모델은 표현과 추론이 개선될 수 있지만, 모든 최신 법령과 판례를 실시간으로 확인한다는 뜻은 아닙니다. 모델의 업데이트 시점과 연결된 자료의 범위를 확인하고, 중요한 내용은 공식 원문을 다시 봐야 합니다.

Q. AI가 법원이나 법령 데이터베이스에 접속할 수 있나요?

A. 사용하는 서비스의 연결 기능에 따라 다르지만, 일반적인 모델이 기본적으로 실시간 공식 데이터베이스를 조회한다고 가정해서는 안 됩니다. 검색 기능이 있더라도 결과의 출처와 최신성, 사건의 관련성을 사람이 확인해야 합니다.

Q. 긴 프롬프트를 입력하면 정확도가 보장되나요?

A. 상세한 입력은 누락을 줄이는 데 도움이 되지만 정확도를 보장하지는 않습니다. 입력된 사실 자체가 잘못되었거나 인용된 근거가 틀리면 긴 설명도 오류를 더 정교하게 포장할 수 있습니다.

Q. 어느 단계에서 변호사에게 상담해야 하나요?

A. 문서 제출을 결정하기 전, 사실관계가 복잡하거나 상대방의 반박이 예상될 때, 손해액이나 형사책임처럼 결과가 큰 쟁점이 있을 때 상담하는 것이 좋습니다. AI 초안을 변호사에게 보여 주면 사건 설명의 출발점으로 활용할 수 있지만, 최종 법률 판단을 대신하지는 않습니다.

면책: 이 글은 AI 법률문서 작성의 일반적인 한계와 위험을 설명하기 위한 정보이며, 개별 사건의 법률자문이나 제출 판단을 대신하지 않습니다.

관련 글

• AI 할루시네이션 없이 고소장·법률문서 작성하는 법
• 고소장 작성 AI 활용 가이드
• AI 가짜 판례와 할루시네이션
• AI 소장·준비서면 작성 가이드