비금융·비정형 데이터 관리체계 등 점검
'금융분야 AI 보안 가이드라인'도 마련
[이데일리 서대웅 기자] 신용정보회사(CB)들이 인공지능(AI)을 활용한 신용평가를 확대하고 있는 가운데 금융위원회는 이들 신용평가모형을 검증하는 ‘AI 기반 신용평가모형 검증체계’를 마련했다고 17일 밝혔다. CB사들이 데이터를 적절히 관리하는지 등을 살펴 AI 기반 신용평가의 투명성과 공정성을 확보하겠다는 취지다.
CB사들은 최근 AI 기반의 신용평가 모형 개발·활용을 확대하고 있다. 통신료, 온라인 쇼핑 구매 패턴과 같은 비금융·비정형 데이터를 활용해 변별력이 우수하다는 장점이 있지만 신뢰성 확보와 소비자보호를 위한 객관적 검증체계를 마련해야 한다는 지적이 있었다. 금융위가 이번 검증체계를 구축한 것은 이러한 배경에서다.
검증체계에 따라 신용정보원의 ‘개인신용평가체계 검증위원회’는 CB사들이 신용평가에 활용하는 비금융·비정형 데이터를 적절히 관리하고 있는지를 점검한다. 비금융·비정형 데이터의 일관성·정확성도 주기적으로 확인해야 한다. 개인사업자 매출 데이터가 전월 대비 10% 이상 변동시 매출 데이터 오류가능성을 재점검하는 식이다.
또 신용평가에 최적화한 모형을 선택했는지 모형 선정 과정도 점검받는다. 알고리즘 선정 목적, 변수 선정 과정 등 모형 개발의 상세한 과정을 확인받게 된다. CB사들이 다양한 알고리즘 중 하나를 선택하거나 여러 알고리즘 결과를 조합해 모형을 개발하는 점을 고려해서다.
금융위는 ‘금융분야 AI 보안 가이드라인’도 마련했다. AI 서비스 활용이 확대하고 있는 가운데 개인정보 유출, 학습 데이터 조작 등 보안 위협이 발생할 우려가 커지면서다. 가이드라인은 AI 모델 개발 시 고려해야 할 보안사항을 개발 단계별로 담았다. 금융분야에서 AI가 가장 활발히 사용되는 분야인 AI 챗봇 서비스에 대해선 보안성 체크리스트를 별도로 마련했다.
금융위는 올해 중 AI 신용평가모형을 개발·활용 중인 개인사업자 CB를 검증하고, 향후 개인 CB의 AI 신용평가모형에 대해서도 검증에 나설 계획이다. 이날 발표한 ‘금융분야 AI 보안 가이드라인’은 ‘금융보안 레그테크 포털’에 게시하고, 새로운 보안위협·대응기법 등을 고려해 지속 개선·보완할 예정이다.
서대웅(sdw618@edaily.co.kr)