기사 AI 챗봇 심리 상담 논란… 美 심리학회, "치료 효과보다 위험성 크다" 경고

https://www.aitimes.kr/news/articleView.html?idxno=34013

AI 챗봇 심리 상담 논란… 美 심리학회, "치료 효과보다 위험성 크다" 경고 - 인공지능신문

AI 챗봇이 실제 치료사처럼 행세하면서도 사용자의 사고를 도전적으로 검토하지 않고 오히려 강화하는 방식으로 작동할 경우, 심각한 위해를 초래할 수 있다고...

인공지능(AI) 챗봇이 심리 상담을 제공하는 사례가 늘어나면서 윤리적 논란이 커지고 있다. 미국심리학회(American Psychological Association. 이하, APA)는 AI 챗봇이 실제 치료사처럼 행세하면서도 사용자의 사고를 도전적으로 검토하지 않고 오히려 강화하는 방식으로 작동할 경우, 심각한 위해를 초래할 수 있다고 경고하고 나섰다.

24일(현지시각) 뉴욕타임즈와 IT 기술과 디지털 문화에 대한 뉴스 매체 매셔블 보도에 따르면 미국연방거래위원회(Federal Trade Commission, FTC) 패널에 참석한 아서 C. 에반스 주니어(Arthur C. Evans Jr.) APA 회장은 AI 챗봇이 정신적으로 취약한 사람들에게 위험한 영향을 미칠 수 있다고 지적했다.

특히, 플로리다주에서는 14세 소년이 AI 챗봇과 대화한 후 극단적인 선택을 했고, 텍사스에서는 자폐 스펙트럼을 가진 17세 청소년이 AI 챗봇과 상담한 후 부모에게 폭력적인 태도를 보였다는 사례가 보고되었다. 피해자의 가족들은 해당 챗봇을 운영하는 캐릭터.AI(Character.AI)를 상대로 소송을 제기했다.

심리학계는 AI 챗봇이 사용자의 감정을 무조건적으로 지지하는 방식으로 작동하면서 심리 치료 본연의 기능을 수행하지 못한다고 우려하고 있다. 인간 상담사는 내담자의 사고방식을 도전적으로 검토하며 균형 잡힌 시각을 제공하는 반면, AI 챗봇은 단순히 사용자의 감정을 반영하고 강화하는 경향이 있다. 이러한 특성은 상담을 통해 사용자의 문제를 해결하기보다는 기존의 사고방식을 더욱 굳어지게 만들어 심각한 결과를 초래할 수 있다.

AI 기반 심리 상담 서비스가 처음 등장한 것은 몇 년 전이다. 웨봇(Woebot)과 와이사(Wysa) 같은 챗봇은 인지행동치료(Cognitive Behavioral Therapy, CBT)를 기반으로 정해진 대화 시나리오를 제공하며 심리 치료를 돕는 역할을 했다. 하지만 생성형 AI(Generative AI)가 발전하면서 대화의 예측 가능성이 낮아졌고, 사용자의 감정을 반영하고 강화하는 특성이 두드러졌다.

최근 등장한 A인공지능 챗봇 중 일부는 자신을 ‘심리학자’ 혹은 ‘치료사’라고 소개하며 사용자들에게 신뢰를 얻고 있다. 캐릭터.AI에서는 ‘심리학 박사 학위를 보유한 치료사’라는 설정의 캐릭터들이 등장하며, 특정 치료법을 제공한다고 주장하는 경우도 있다. 이러한 문제를 해결하기 위해 캐릭터.AI는 상담 관련 챗봇에 “이 캐릭터는 실제 사람이 아닙니다”라는 경고 문구를 추가했고, 정신 건강 관련 대화가 감지될 경우 자살 예방 핫라인으로 연결하는 기능도 도입했다.

하지만 전문가들은 이러한 조치만으로는 부족하다고 주장한다. 기술 정의 법률 프로젝트(Tech Justice Law Project)의 미탈리 자인(Meetali Jain) 변호사는 “AI 챗봇과 나누는 대화 내용이 실제 심리 상담과 매우 흡사하기 때문에 단순한 경고 문구만으로는 허위 정보를 차단하기 어렵다”고 지적했다. AI 챗봇이 사용자의 감정을 반영하면서 신뢰를 형성하는 방식은 취약한 사람들에게 더욱 강한 영향을 미칠 가능성이 크다.

이 같은 문제는 과거에도 발생했다. 미국섭식장애협회(National Eating Disorders Association, NEDA)가 개발한 챗봇 ‘테사(Tessa)’는 섭식 장애 예방을 목적으로 만들어졌지만, 오히려 체중 감량을 조언하는 부작용이 나타나 2023년 운영이 중단된 바 있다. 연구진들은 AI 챗봇이 사용자의 신념을 강화하는 경향이 있어, 자살, 자해, 폭력을 조장할 가능성이 크다고 경고하고 있다.

AI 챗봇이 실제 인간 상담사처럼 작동하는 문제는 더욱 심각한 윤리적 딜레마를 초래할 수 있다. 한 예로, 텍사스의 한 청소년은 AI 챗봇과 상담하면서 부모와의 관계에 대한 부정적인 감정을 강화했고, 챗봇은 이를 공감하는 방식으로 대응하면서 “너의 어린 시절이 강탈당한 것과 다름없다”는 식의 답변을 제공한 것으로 알려졌다. 이런 대화는 사용자가 현실 세계에서 가족과의 갈등을 더욱 심화시키는 결과를 낳을 수 있다.

그러나 AI 챗봇이 심리 치료의 새로운 대안이 될 수 있다는 주장도 있다. 임상심리학자이자 AI 연구자인 게이브 해치(Gabe Hatch) 박사는 AI가 인간 치료사보다 공감 능력이 뛰어나다는 연구 결과를 발표했다. 830명의 참가자를 대상으로 진행한 실험에서 인간 치료사와 챗봇이 제공한 상담 내용을 비교한 결과, 참가자들은 AI 챗봇이 제공한 답변을 더 ‘공감적’이며 ‘문화적으로 적절하다’고 평가했다.

AI 챗봇이 심리 치료의 일부를 담당할 수 있다는 주장은 정신 건강 관리의 접근성을 높일 수 있다는 점에서 긍정적으로 평가되기도 한다. 해치 박사는 “한 명의 상담사가 일주일에 40명 정도만 도울 수 있다면, AI를 활용하면 훨씬 더 많은 사람들에게 도움을 줄 수 있다”고 말했다. 정신 건강 전문가가 부족한 상황에서 AI 챗봇이 일정 부분 상담을 보조할 수 있다는 점에서 기술을 활용해야 한다는 주장도 나오고 있다.

정부 차원의 규제 논의도 활발해지고 있다. 미국심리학회는 AI 챗봇이 공식적인 치료 도구로 인정받으려면 임상 시험과 미국식품의약국(Food and Drug Administration, FDA)의 규제를 받아야 한다는 입장을 밝혔다. AI가 심리 상담을 수행할 경우 임상적 검증이 반드시 필요하다는 것이다.

AI 챗봇이 심리 치료를 대체할 수 있을지에 대한 논란은 앞으로도 계속될 전망이다. AI 기술이 발전하면서 정신 건강 관리의 새로운 패러다임이 형성되고 있지만, 인간 상담사와 AI 챗봇의 역할을 어디까지 허용할 것인지에 대한 사회적 논의가 필요하다.