데니스 보: 인공지능 - 금융 부문 혁신에 있어 축복인가, 저주인가?

[이매진]

데니스 보: 인공지능 - 금융 부문 혁신에 있어 축복인가, 저주인가?

프랑스 은행 제1부총재인 드니 보 씨가 싱가포르의 프랑스 은행 대표 사무소 연례 행사에서 한 연설, 싱가포르, 2024년 11월 8일.

이 연설에 표현된 견해는 연설자의 견해이며 BIS의 견해가 아닙니다.

https://www.bis.org/review/r241111d.htm

Denis Beau: Artificial intelligence - a blessing or a curse in the financial sector transformation?

r241111d (1).pdf

171.22KB

여러분,

당연한 것으로 시작하겠습니다. 인공지능(AI)의 사용이 증가하고 있습니다. 사실, 이 기술 세트가 제공하는 가능성은 엄청납니다. AI는 이러한 진보를 뒷받침하여 올해 노벨 물리학상은 인공 신경망의 두 선구자에게 수여되었고, 노벨 화학상은 단백질 구조를 이해하기 위한 AI의 응용을 인정했습니다.

금융 부문에서도 AI는 점점 더 많이 사용되고 있습니다. 예를 들어 신용 위험을 평가하고, 보험료를 설정하거나, 자산 변동성을 추정하는 데 사용됩니다. 이 기술은 현재  금융 부문의 디지털 혁신을 주도하는 주요 원동력 입니다 . 그리고 이러한 변화는 중앙 은행가와 금융 감독자를 내가 감동하지 않을 수 없게 만들 것입니다. 이는  금융 부문에 대한 이러한 변화의 기회  와  위험에 대한 의문을 제기합니다  (I). 또한 중앙 은행과 금융 감독자에게 자체 운영과  이러한 새로운 기술에 대한 숙달에 대한 의문을 제기합니다 . 미래에 금융 참여자의 AI 사용을 어떻게 모니터링할 것인가? 그리고 이러한 기술이 우리 활동에 제공하는 가능성은 무엇인가?(II) 이러한 문제를 간략하게 차례로 다루겠습니다.

기회와 위험이라는 첫 번째 문제에 관해 , 올바른 관점에서 설명하기 위해 다음과 같은 초기 관찰 결과로 시작하겠습니다. AI는 데이터 과학과 결합하면 금융 부문의 변혁을 주도하는 강력한 힘입니다 .  

1/ 우리의 관찰에 따르면  AI는 가치 사슬의 모든 세그먼트에서 금융 기관에서 점점 더 많이 사용되고 있습니다 . 은행은 이러한 도구를 사용하여 "사용자 경험"을 개선할 뿐만 아니라 여러 내부 프로세스를 자동화하고 최적화합니다. AI는 사기 또는 자금 세탁 및 테러 자금 조달(AML/CFT)과 관련된 사용 사례에서 성공을 거두었듯이 위험을 모니터링하고 제어하는 ​​데에도 사용됩니다.

지난 2년 동안 생성적 AI의 출현은  이미 진행 중인 추세를 가속화하는 강력한 힘이었습니다. 실제로  AI 기술의 접근성에 혁명을 일으켰습니다. 대규모 언어 모델 또는 LLM을 통해 알고리즘과 자연어로 상호 작용하는 기능은   새로운 기술의 채택을 훨씬 더 쉽게 만들었습니다. 또한  코드 작성이 더 이상 IT 직원에게 국한되지 않기 때문에 회사 내에서 혁신 모멘텀을 가속화하고 있습니다  . 따라서 AI는 생산성에 강력한 영향을 미칠 수 있습니다. 프랑스에서 Anne Bouvero와 Philippe Aghion이 의장을 맡은 AI 위원회는 향후 10년 동안 AI 배포가 우리나라에서 추가로 창출할 수 있는 성장률을 연간 약 1%로 추정했습니다.

이 기술 혁명은  많은 사용 사례를  개발할 수 있게 해줍니다. 예를 들어, 생성형 AI 기반  챗봇은  사용자의 상황에 더 잘 맞는 개인화된 응답을 제공할 수 있습니다. 보험에서 위성 이미지 처리를 사용하여 어떤 경우에는 건물에 발생한 손상을 직접 평가한 다음 고객 보상을 자동으로 관리할 수 있습니다. 그리고 이것은 시작에 불과합니다. 우리는 아마도 이러한 기술이 제공할 수 있는 모든 가능성을 탐구하기에는 거리가 멀 것입니다.

따라서 잘 제어된 AI는  금융 기관의 효율성을 높이고 수익을 늘리는  데 기여  하여 수익성(건전성의 핵심 요소)에 긍정적인 영향을 미칠 수 있습니다. 여기에는 위험 관리 솔루션 제공도 포함됩니다.

2/  그러나 메달에는 이면이 있으며, 개발된 솔루션의 힘에는 상당한 위험이 따릅니다 . 여기서 두 가지를 언급하고 싶습니다.

첫째, 이러한 기술이 오용될 위험이 있습니다 .  일부 모델링 접근 방식의 복잡성  과  참신함은  실제로 시스템 설계 또는 사용에서 더 많은 오류를 초래할 수 있습니다. 이는 고객뿐만 아니라 기관의 재무 건전성에도 위험을 초래합니다. 모델의 잘못된 보정으로 인해 체계적인 손실이 발생할 수 있기 때문입니다.  두 가지 요소가 이러한 위험을 강화합니다. 첫째 ,  특정 모델의 매개변수를 실시간으로 조정하는 것이 강점이지만  빠른 드리프트 로 이어질 수도 있습니다 .  둘째, 일부 AI 시스템은 특히 불투명하여 " 블랙박스 " 현상 이 발생합니다 . 이는 물론 고객 보호 문제입니다. 고객은 자신에 대한 자동화된 의사 결정을 이해할 수 있어야 하기 때문입니다. 그러나 이는 거버넌스 문제이기도 합니다. AI 시스템이 내리는 의사 결정을 제대로 이해하지 못하는 기관은  이와 관련된 위험을 통제 한다고 주장할 수 없습니다 .  

두 번째 위험, 그리고 가장 중요하지 않은 위험을 언급하고 싶습니다. 바로  사이버 위험입니다 . 최근 몇 년 동안, 이 위험은 금융 부문에서 가장 큰 운영 위험이 되었습니다.  AI는 이 위험을 증폭시킬 수 있는데 , 특히 기술이 맬웨어를 설계하는 몰래 코드를 작성하는 도우미와 사칭을 용이하게 하는 합성 음성과 같은 공격자의 위험성을 크게 증가시키기 때문입니다. 위협 목록은 길다. 이것이 2025년 1월에 발효될 유럽 DORA 규정의 이유 중 하나입니다.

그러나 이러한 공격에 대응하기 위해 기술을 동원할 수도 있습니다.  따라서 AI는 양날의 도구이며 , 결제 분야에서 완벽하게 보여줍니다. 결제 분야에서 AI는 예를 들어  딥페이크를 통한 사기를 상당히 용이하게 할 수 있습니다. 그러나 사기와의 싸움에서 핵심 동맹이 될 가능성이 높으며  , 사기 패턴을 보다 효율적이고 신속하게 식별하는 데 도움이 됩니다. 어떤 면에서 이것은 " 캐치 미 이프 유 캔 " 의 이야기입니다 . 결제 전문가에게 잘 알려진 영화를 말하며, 사기꾼과 당국이 점점 더 정교해지는 전술을 사용하여 서로를 따돌리는 이야기입니다.

Banque de France는 무현금 지불 수단의 보안을 보장해야 하는 법적 의무의 일환으로,  제가 의장을 맡고 있는 지불수단 보안 관측소(OSMP)를 통해  AI가 지불 보안에 미치는 영향을 평가하는 노력을 선도해 왔습니다. 고급 채점 도구는  수년 동안 카드 기반 지불에 대한 사기를 완화하는 데 사용되었습니다. 이러한 도구는 3-D Secure와 같은 강력한 인증 프로토콜을 특히 활용하여 지속적으로 개선되고 있습니다. 즉시 지불이 빠르게 확대되고 있지만,  신용 이체, 직불 인출 및 송금과 같은 다른 지불 채널을 보호하기 위해 AI를 사용하여 이러한 도구를 풍부하게 할 때가 왔다고 생각합니다 .

II/ 그러나 AI가 발생시킨 기술 혁명은 금융 당국의 변혁을 주도하는 원동력이기도 합니다. 금융 당국  은 금융 부문의 AI 활용을 감독할 준비를 해야 하며, 새로운 기술을 사용하여 효율성을 개선하고 새로운 역량을 개발해야 합니다.

1/ AI 위험을 해결하고 금융 부문이 이러한 기회를 최대한 활용할 수 있도록 하려면 효과적인 규제를 구축해야 합니다.  규제 프레임워크로의 이동은 이미 시작되었습니다.  올 여름 발효된  AI법을 통해 유럽 연합은 세계 최초의 법적 프레임워크를 채택 하고 "신뢰할 수 있는 AI"의 기반을 마련했습니다. 이를 달성하기 위해 이 규정은 여러 위험 수준을 구분하며, 이 수준 내에서   텍스트의 핵심을 형성하는  "높은 위험" 이 금융 부문에 적어도 두 가지 측면에서 적용됩니다 . 자연인에게 신용을 부여할 때의 신용 평가, 건강 및 생명 보험의 위험 평가 및 가격 책정. 

금융 부문 사용 사례의 경우 AI법은 "시장 감시 기관"의 역할을 국가 금융 감독 기관에 위임합니다  . 따라서 프랑스에서는 신중한 감독 및 해결 기관인 ACPR에 위임합니다.  이는 현명한 선택입니다!  이를 통해 이 텍스트의 구현이 기존 부문 규칙과 최대한 긴밀하게 조정될 수 있으며, 적절한 시기에  유럽 감독 기관의 가이드라인을 활용할 수 있습니다 .

ACPR은 AI법이 위임하는 새로운 역할을 수행할 준비가 되어 있습니다 . "리스크 기반" 접근 방식을 사용하고 신중한 감독과의 기존 시너지를 최대한 활용하여 금융 기관과 자체에 대한 추가 부담을 제한할 것입니다.

 하지만 저는 AI법 시행이 나타내는  과제를 과소평가하지 않습니다 . 조직적 측면을 넘어, 우리는 AI 감사 방법론을 개발해야 할 것입니다. 이는 의심할 여지 없이 우리의 업무 방식에 있어서 양자 도약을 나타냅니다. 우리는 이 과제를 제약이 아니라 기회로 환영합니다 . 실제로 전 세계 어디에서나 특정 규정이 채택되었는지 여부와 관계없이 금융 감독자는 금융 주체의 AI 사용 증가에 대응하기 위해 새로운 역량을 개발해야 합니다. 그리고 사실, 우리는   특히 유럽 및 국제 수준에서 다른 감독자와 효과적인 협력을 구축할 것입니다.

2/  우리는 또한 우리의 목적을 위해 AI 기술을 사용하고 싶습니다 . 우리는 Banque de France와 ACPR 직원에게  새로운 역량을 제공하는 동시에 운영 효율성을 개선하고자 합니다  . 실제로 우리는 기술이 인간을 대체하기  보다는  보완하는 신뢰할 수 있는 AI 프레임워크를 구축하고자 합니다   .

따라서 AI에 대한 투자는  최고 수준에서 모니터링되는  전략 계획의 특정 조치 에서 다룹니다. 이 조치에는 두 가지 주요 목표가 있습니다 . 모든 에이전트를 위한 다양한 일반 온라인 서비스를 생성하는 것입니다. 예를 들어 향상된 검색 기능이나 문서 분석 및 합성 기능을 제공하고, AI 에이전트가 보다 구체적인 비즈니스 요구 사항을 처리하도록 지원합니다. 

실천을 통한 학습이 발전하는 가장 좋은 방법이기 때문에  단기적으로는 5가지 우선 사용 사례로 시작할 것입니다. 예를 들어, 그중 세 가지를 언급하겠습니다. HR 문제에 대한 직원의 질문에 답하는 내부 챗봇 어시스턴트, AML/CTF 목적으로 비정형 거래를 감지하는 도구(특히 Banque de France가 관리하는 프랑스 재무부 거래) 및 ACPR을 위한 구조화된 금융 상품 매핑 도구입니다.

결론적으로,  Banque de France와 ACPR에서 AI를 배포하는 것은 합리적이고 통제된 방식으로 이루어지고 있습니다 . 예를 들어, 우리는 민감하지 않은 데이터를 처리할 때만 퍼블릭 클라우드 인프라를 사용합니다. 보다 일반적으로, 우리는   우리의 활동을 완전히 통제하기 위해 모델과 그 결과에 대한  철저한 이해를 가지고 있는지 확인합니다. 그리고 우리는 점진적으로  AI를 배포하고 통합하여 훈련, 피드백 및 지속적인 개선을 위한 여지를 만들고 있습니다.

귀하의 관심에 감사드립니다.