요즘 변호사들 "AI가 써준 거니까 괜찮겠지" 하고 제출했다가 알고 보니 존재하지도 않는 판례였다는 뉴스가 나옵니다.

한마디로 가짜 판례 서류를 법원에 들이밀었다가 걸리는 겁니다.

이게 한두 건이 아니라 한국, 미국, 세계적이라서 지금 법조계에서는 거의 "난리 났다"는 표현까지 나옵니다.

핵심은 생성형 AI가 너무 그럴듯하게 글을 써준다는 겁니다.

문제는 그 안에 섞여 있는 정보가 실제인지 가짜인지 구분을 안 하면 큰일 난다는 거죠. 특히 판례 같은 경우는 더 위험합니다.

일반 글이 아니라 법원에서 판단 근거로 쓰이는 자료니까요. 그런데 이걸 검증도 안 하고 그대로 제출해버린 사례들이 연달아 적발되고 있습니다.

캘리포니아에서는 이미 실제 징계까지 들어갔습니다. 변호사 몇 명이 AI로 작성한 문서에 존재하지 않는 판례를 넣어서 제출했다가 제소되거나 징계를 받았습니다. LA, 베벌리힐스, 애리조나 등지에서 활동하던 변호사들인데 공통점이 AI를 썼고, 그걸 제대로 검증하지 않았다는 겁니다.

한 케이스를 보면 더 현실적입니다. 상표권 소송에서 존재하지 않는 판례를 근거로 제출한 겁니다.

그냥 단순 실수가 아니라, 법원이 확인해보니 그런 판례 자체가 없는 겁니다. 또 다른 사례에서는 일부만 확인하고 전체는 안 본 채 제출했다고 인정했습니다. 이건 솔직히 말해서 "AI가 틀렸다"기보다 "사람이 일을 안 했다"에 가깝습니다.

이미 징계까지 받은 사례도 있습니다. 집단소송 서류에 가짜 판례를 넣었다가 걸려서 법원 시간을 낭비했다는 이유로 자격정지까지 받았습니다. 여기서 중요한 포인트는 법원이 이걸 굉장히 심각하게 본다는 겁니

. 단순 실수로 넘어가는 분위기가 아닙니다. "사법 시스템 신뢰를 흔드는 행위"로 보고 있습니다.

왜 이런 일이 벌어지냐. AI가 너무 편하기 때문입니다.

예전에는 판례 찾으려면 시간 들여서 데이터베이스 뒤지고, 하나하나 읽어보고, 정리해야 했습니다. 지금은 몇 줄 입력하면 그럴듯한 문서가 바로 나옵니다. 문제는 그 "그럴듯함"입니다. 실제가 아니라 "그럴듯하게 보이는 가짜"를 만들어낸다는 점입니다.

이걸 업계에서는 "환각(hallucination)"이라고 부릅니다. AI가 사실이 아닌 걸 사실처럼 만들어내는 현상입니다.

더 무서운 건, 읽는 사람이 쉽게 속는다는 겁니다. 문장 구조도 자연스럽고, 인용 형식도 맞춰주니까 얼핏 보면 진짜처럼 보입니다. 바쁜 상황에서 "대충 맞겠지" 하고 넘기면 바로 사고로 이어집니다.

그래서 지금 법조계 분위기는 확실히 바뀌고 있습니다.

AI를 쓰는 것 자체는 문제없습니다. 오히려 많이 씁니다. 하지만 최종 책임은 전적으로 변호사에게 있습니다.

"AI가 써줬다"는 건 변명이 안 됩니다. 법원 입장에서는 결과만 봅니다. 틀린 판례를 냈으면 그건 변호사 책임입니다.

이게 법조계만의 문제냐 하면 그렇지도 않습니다. 의료, 금융, 회계 같은 전문 분야 전반에 다 해당됩니다.

AI가 대신 써주는 시대가 오면서, 인간의 역할이 줄어든 게 아니라 오히려 더 명확해졌습니다.

"검증하는 사람"으로 바뀐 겁니다. 이걸 안 하면 바로 사고로 이어집니다.

결국 지금 상황을 한 줄로 정리하면 이겁니다.

"AI를 잘 쓰는 사람이 아니라, AI를 의심할 줄 아는 사람이 살아남는다."