AI 챗봇이 만든 가짜 판례로 주택분쟁… 소송 기각

MS 챗봇이 날조한 법원 판결문...10건 중 9건 허위 법원 "AI 환각 현상으로 잘못된 결과 도출" 지적 법조계 AI 활용 가이드라인 필요성 대두 BC주 민사분쟁 조정위원회는 콘도 분쟁 과정에서 인공지능이 만들어낸 허위 판례를 증거로 제출한 부부의 소송을 기각했다.  이번 사건은 법률 분야에서 AI 오남용 문제의 심각성을 드러낸 대표적 사례로 기록됐다.   로버트와 미셸 가이스메어씨 부부는 자신들의 콘도 무단 개조 승인을 받기 위해 마이크로소프트 코파일럿이 제시한 10건의 판례를 증거로 제출했다. 분쟁조정위원회 조사 결과 이 중 9건이 실존하지 않는 가짜 판례로 확인됐다. 유일하게 실존하는 1건의 판례도 무단 개조와 관련이 없는 것으로 밝혀졌다.    분쟁조정위원회의 피터 메니씨는 판결문에서 "제출된 판례들은 인공지능이 만들어낸 허위 정보인 '환각' 현상의 결과"라고 지적했다. 실제 법률은 AI가 제시한 내용과 전혀 다르다는 점도 강조했다.   가이스메어 부부는 2020년 캘로나의 한 콘도를 구입했다. 구매 전 해당 콘도가 이전 소유주에 의해 무단 개조된 사실을 인지했다. 이전 소유주는 허가 없이 다락방을 추가하고 스프링클러 헤드를 설치했으며 화재경보기를 이동시켰다가 공사중지 명령을 받았다.   해당 건물은 스키 리조트 근처에 위치해 호텔식 콘도로 운영되며 단기 임대가 가능한 곳이다. 부부는 무단 개조로 임대가 불가능한 상태였지만, 임대 지침에 맞추면 분양형 공동주택 관리단체가 이전 소유주의 개조를 소급 승인할 것으로 기대했다.   임대 관리 조직의 조언에 따라 부부는 다락방을 봉쇄하는 등 여러 변경을 가했고, 이후 3개 스키시즌 동안 임대 풀에 포함됐다. 하지만 관리단체는 다른 소유주들도 무단 개조 후 소급 승인을 요청하는 선례를 만들지 않기 위해 승인을 거부하고 다락방 완전 철거를 요구했다.   최근 법조계에서는 AI 법률정보 오남용 사례가 잇따르고 있다. 지난주 미국 와이오밍주에서는 변호사들이 월마트를 상대로 한 소송에서 AI가 만든 가짜 판례를 인용했다가 적발됐다. 작년에는 BC주의 한 변호사가 가족 관련 소송에서 AI가 만든 허위 정보를 제출해 상대방 변호사 비용을 배상하라는 명령을 받았다.   분쟁조정위원회는 "소유주들은 사전 승인 없이 진행한 개조에 대해 소급 승인을 기대할 수 없다"며 "관리단체의 승인 거부가 부당하지 않다"고 판단했다. 이번 판결은 법률 분야에서 AI 사용에 대한 엄격한 검증과 가이드라인 필요성을 제기했다는 평가를 받고 있다.