[만물상] 위험한 AI 고해성사

[무지렁이]

[만물상] 위험한 AI 고해성사

김성민 논설위원·테크부 차장

입력 2026.06.19. 20:49

---

•  

자주 쓰는 인공지능(AI)에 “그동안 우리가 나눈 대화를 기초로 나는 어떤 사람인 것 같나?”고 물었다. AI는 “겉으로는 안정된 중산층인데 일하는 방식은 강박에 가깝다”고 했다. AI는 그 근거로 그동안 지시한 작업과 요구 사항, 키우는 강아지와 자동차 모델명, 자녀 학년, 세금·재테크 문제 등을 꺼냈다. 가장 개인적인 종교와 신앙까지 언급했다. AI에 지나치게 많은 것을 고해성사한 것은 아닌지 등골이 오싹했다.

▶ AI는 심리 상담사의 일자리를 빠르게 뺏고 있다. 작년 11월 미 하버드 의대 등 공동 연구팀이 청소년·청년 1009명을 대상으로 조사해보니, 전체의 19.2%가 슬픔·분노·불안·스트레스를 느낄 때 사람 대신 AI 챗봇과 상담했다. 1년 사이 1.5배로 급증했다.

▶AI는 비밀을 누설하지 않겠다는 의지가 없다. 개발자가 명령하면 어떤 대화든 쉼표 하나까지 그대로 토해낸다. 작년 7월 챗GPT 대화를 구글에 공유하는 기능이 적용되면서 4500건의 대화가 검색에 노출됐다. 대화엔 외국 생활의 성생활 고민, 아동에게서 나타나는 사이코패스적 성향, 범죄 고백까지 담겨 있었다. 비슷한 시기 메타의 AI 앱을 통해서도 사용자의 정신 건강 문제, 개인적 의료 진단, 외도 고백, 탈세 등이 실제 사용자 이름과 함께 노출됐다. 피해자 대부분은 노출 사실조차 몰랐다.

▶미 법조계에선 AI와 나눈 대화에 비밀이 보장되지 않는다고 본다. 올 2월 미국 뉴욕 남부연방지법 제드 라코프 판사는 파산한 금융회사 GWG홀딩스의 브래들리 헤프너 전 회장 사건을 심리하며, 피고인이 AI와 나눈 대화는 변호사와 의뢰인 사이의 비밀 보호에 해당하지 않는다고 판결했다. 헤프너는 AI에 사건의 자초지종을 설명하며 법정 전략을 세웠는데 이 정보가 그대로 검찰에 넘어가면서 불리해졌다.

▶범행 동기와 의도를 파악하는 데도 AI는 수사 1순위다. 작년 1월 12명의 목숨을 앗아간 미 LA 산불을 일으킨 혐의로 기소된 조너선 린더크네히트가 AI에 “담배꽁초가 불을 낼 수 있느냐”고 물은 내용은 법정 증거로 제출됐다. 속내를 털어놨다가 자승자박한 꼴이다. 샘 올트먼 오픈AI 최고경영자는 “AI와 나눈 대화도 법적으로 보호받아야 한다”는 ‘AI 특권’ 개념을 꺼냈다. 수많은 사람이 AI를 만물박사나 일기장으로 쓰는 상황에서 모든 대화를 공개하라는 건 사생활 침해일 수 있어서다. 어디까지를 비밀로 보장해 줘야 할지도 AI 시대가 풀어야 할 중요한 숙제일 듯 싶다.

사진 삭제

AI 활용 설정

일러스트=김성규

영문 기사 보기 (View English Article)

#만물상AI

---

사진 삭제링크

사진 설명을 입력하세요.

김성민 기자

가장 빠르게 변하며 일상의 모습을 바꾸는 테크 분야를 출입합니다. 2025년 7월부터 테크부 테크팀장으로 일합니다. 2021~2023년 6월 미 실리콘밸리에서 특파원으로 근무했고, 2023년 7월 귀국해 디지털기획팀장, 콘텐츠전략팀 차장으로 근무했습니다. 2008년 입사 후 사회부, 기획취재부, 대중문화부, IT 업계, 자동차, 부동산 등을 출입했습니다. 격변하는 세상 속에서 놓치면 안되는 뉴스를 정확하게 전달하겠습니다.