데니스 보: AI 시대의 재무 감독관

[힘힘]

데니스 보: AI 시대의 재무 감독관

프랑스 중앙은행 제1부총재인 드니 보가  2024년 6월 5일 파리에서 열린 유럽 금융 규제 협회 세미나 '인공지능: 금융 감독의 판도를 바꿀 기술?'에서 한 연설. 

이 연설에 표현된 견해는 연설자의 견해이며 BIS의 견해가 아닙니다.

중앙은행 연설  |  

2024년 7월 1일

데니스 보(Denis Beau) 지음 

PDF 전체 텍스트 

(11kb)

  |  4페이지

여러분,

금융 감독을 위한 인공지능에 대한 세미나를 열게 되어 매우 기쁩니다.

금융 산업은 데이터 중심이며, 신용 위험 평가, 자산 변동성 추정 또는 보험 위험 비용 등을 몇 가지 예로 들자면, 그 분석이 필수적입니다. 따라서 금융 기관에서 사용할 수 있는 방대한 데이터를 활용하는 것을 목표로 하는 AI 기술이 이 부문에 배치되는 것은 당연합니다. 인공 지능은 이미 금융 부문의 현재 디지털 혁신의 주요 원동력 중 하나 이며, GenAI의 개발은 이러한 추세를 더욱 가속화할 것입니다. 

감독자의 관점에서, 인공지능의 영향은 잠재적으로 모호하기 때문에 특별한 주의를 요합니다. AI는 감독자를 포함한 부문에 기회 의 원천이지만, 새로운 위험 벡터 이기도 합니다 . 이러한 모호한 영향은 방금 도입된 규제 프레임워크를 부분적으로 설명합니다. 오늘 아침 여러분의 컨퍼런스를 소개하는 제 발언에서 감독자의 관점에서 금융 부문에 대한 AI의 효과적인 규제를 위한 기회, 위험 및 조건에 대해 논의하겠습니다.   

1/ AI는 금융 부문과 감독 당국에 많은 기회를 제공합니다.

지난 몇 년간의 관찰을 통해 AI가 가치 사슬의 모든 세그먼트에서 금융 기관에서 점점 더 많이 사용되고 있음을 확인했습니다. 그들은 특히 '사용자 경험'을 개선하기 위해(예: 고객 지원을 위한 챗봇) 그리고 여러 내부 프로세스를 자동화하고 최적화하기 위해 이를 배포합니다. AI는 사기, 자금 세탁 및 테러 자금 조달(AML/CFT)과의 싸움과 관련된 사용 사례에서 성공을 거두었듯이 위험을 모니터링하고 완화하는 데에도 사용됩니다. 따라서 AI를 적절히 활용하면 금융 기관의 효율성을 높이고 수익성에 기여할 가능성이 높습니다. 이는 건전성의 핵심 요소이며 위험 제어 솔루션을 제공하는 것을 포함합니다 .   

생성 AI(GenAI) 의 등장은 이 혁신 과정에서 새로운 단계를 알립니다. 가장 먼저 떠오르는 것은 기존 도구의 질적 개선입니다. 간단한 예를 들자면, ''전통적인'' 지원 챗봇은 자연어 처리를 사용하여 일반적인 설명을 제공하는 반면, GenAI로 구동되는 챗봇은 사용자의 상황에 더 잘 맞는 개인화된 응답을 제공할 수 있습니다. 따라서 GenAI는 새로운 기술의 도입을 가속화하고 , 따라서 혁신의 속도 와 프로세스의 변환을 가속화할 잠재력이 있습니다. 예를 들어, 자연어로 컴퓨터 쿼리를 수행하고 명령에 따라 코드를 생성하는 기능은 '전문' 프로그래머의 독점에 대한 의문을 제기할 것입니다. 보다 일반적으로 GenAI는 생산성을 높일 수 있습니다. Anne Bouvero와 Philippe Aghion이 의장을 맡은 AI 위원회는 2034년까지 프랑스에서 AI 배포가 연간 약 1%의 추가 성장을 창출할 수 있다고 추정했습니다.      

감독자들은 분명히 이러한 주요 변혁의 측면에서 남을 의도가 없으며 , 업무 수행 시 효율성을 개선하기 위해 이미 AI 기술을 활용하고 있습니다 . ACPR에서 이미 개발한 다른 프로젝트로는 기관 보고의 이상 징후를 조기에 감지하는 것, 또는 대량의 은행 거래를 분석하고 은행에 배치된 AML/CFT 모델의 성과를 평가할 수 있게 해주는 LUCIA 도구가 있습니다. 

아주 최근에, ACPR은 혁신 센터인 Le Lab의 도움으로 GenAI가 다양한 감독 활동에 어떤 것을 가져올 수 있는지 탐구하도록 설계된 해커톤인 ' Suptech Tech Sprint '를 조직했습니다. 3일간의 이벤트는 외부 데이터 과학자와 ACPR 직원이 공동으로 개발한 8개의 프로토타입을 통해 감독을 위한 대규모 언어 모델(LLM)의 잠재력을 보여주었습니다 . 4개 프로젝트는 전략 계획의 일부로 더욱 개발될 것이고, 감독자가 많은 활동을 하는 데 도움이 되는 새로운 도구가 만들어지기를 바랍니다. 이 Tech Sprint를 통해 감독 활동을 개발하려는 방식에 대한 장기적인 검토를 위한 토대를 마련할 수 있었습니다. 특히, 분석의 일부는 항상 인간 감독자가 수행해야 합니다. 우리의 주요 과제는 프로세스에서 매우 높은 수준의 신뢰성을 유지하는 것입니다. 

2/ AI 사용에는 위험이 따르기 때문입니다. 두 번째 요점도 바로 이것입니다. AI는 실제로 개별 기관뿐만 아니라 금융 부문 전체의 위험을 증가시킬 수 있습니다.

첫째, 미시 신중성 수준에서, 즉 각 개별 기관의 경우 AI 사용은 기관과 고객의 건전성에 위험을 초래할 수 있습니다 . 제대로 교정되지 않은 가격 책정 모델은 체계적인 손실을 초래할 수 있으며, 따라서 기관의 장기적 생존 가능성을 위태롭게 할 수 있습니다. 고객의 경우 AI 사용은 부적절하거나 차별적인 대우 의 위험 과 개인 데이터가 처리될 때의 개인 정보 보호 위험 , 고객 관계에서  잘못된 정보 제공 또는 조작 의 위험을 수반합니다.          

이런 측면에서 알고리즘 결정의 투명성 부족은 AI와 관련하여 감독자에게 주요 우려 사항입니다. 당연히 이는 고객 보호에 대한 우려를 불러일으킵니다. 고객은 자신을 대신하여 내린 자동화된 결정을 이해할 수 있어야 하기 때문입니다. 하지만 이는 거버넌스 문제이기도 합니다. AI 시스템이 내린 결정에 대한 이해가 부족한 기관은 수반 되는 위험을 통제 한다고 주장할 수 없습니다 .   

이제 초점을 확대하면 AI의 대량 도입은 금융 시스템 전체의 안정성에 대한 위험 , 즉 ' 거시 신중성' 위험 이라고 부르는 위험을 초래할 수 있습니다 . 이와 관련하여 두 가지 주요 위험을 식별할 수 있습니다. 첫째, 금융 시장의 무리 행동은 동일한 유형의 도구를 사용하여 악화 되어 더 큰 변동성과 순환성을 초래할 수 있습니다. 둘째, AI의 대량 배포는 금융 부문이 '기성품' AI 시스템 구매에 막대한 우선순위를 두는 경우 타사 플레이어에 대한 의존성이라는 체계적 위험을 초래할 수 있습니다 . 예를 들어 GenAI 분야에서 주요 플레이어는 오늘날 클라우드 시장을 지배하는 플레이어와 동일합니다.        

그러나 미래는 쓰여 있지 않으므로 우리는 신중해야 합니다. 방금 언급한 체계적 위험 요소(무리 행동으로 이어지는 동일한 유형의 도구, 동일한 공급업체)의 중요성은 무엇보다도 기술 문제에 달려 있습니다. 일반주의 모델이 점차 모든 용도에 대한 표준이 될까요? 그렇다면 경제학자들이 자연 독점 또는 과점 이라고 부르는 것으로 이어질 매우 현실적인 위험이 있습니다 . 전문 모델이 지배적이라면 그렇지 않을 것입니다.   

마지막으로, 미시 신중성과 거시 신중성 감독의 경계에서 마지막으로 위험 중 하나이자 가장 중요한 위험인 사이버 위험을 언급하고 싶습니다 . 최근 몇 년 동안 이는 금융 부문에서 가장 큰 운영 위험이 되었습니다. 그리고 AI는 이 위험을 증폭시키는 요인입니다 . 첫째, 기술은 공격자가 초래하는 위험을 크게 증가시키기 때문입니다. 악성 소프트웨어를 설계하기 위해 납치된 AI 코드 작성 도우미, 신원 도용을 용이하게 하는 합성 음성 등입니다. 위협 목록은 길지만 기술을 사용하여 이러한 공격에 대응할 수도 있습니다. 둘째, 보다 일반적으로 AI의 확산은 금융 시스템 내에서 '기술적 상호 연결'을 더욱 증가시킬 수 있습니다. 여기서 기술, 시스템 및 공급업체는 점점 더 복잡한 상호 의존성 집합으로 얽혀 있어 취약성을 한 시스템에서 다른 시스템으로 쉽게 전송할 수 있습니다. 이는 2025년 1월에 시행될 유럽 DORA 규정의 주요 이유 중 하나입니다.  

이제 금융 부문의 AI에 대한 규제 프레임워크에 대해 말씀드리겠습니다.

3/ AI로 인한 위험에 직면하여 금융 부문이 이를 통해 얻을 수 있는 기회를 최대한 활용하기 위해서는 효과적인 규제를 구축해야 합니다.

규제 프레임워크로의 이동은 이미 시작되었습니다. 유럽 연합은 AI Act 를 통해 세계 최초의 법적 프레임워크를 채택 하고 '신뢰할 수 있는 AI'의 기반을 마련했습니다. 이를 위해 이 규정은 여러 수준의 위험을 구분하는데, 이 위험 내에서 텍스트의 핵심을 형성하는 ' 높은 위험 ' 은 금융 부문에 적어도 두 가지 측면에서 적용됩니다. 개인에게 신용을 부여할 때의 고객 가치 평가와 건강 및 생명 보험의 평가 및 가격 책정입니다.      

비록 이 텍스트가 무엇보다도 시민의 기본적 권리에 초점을 맞추고 있지만, 금융 감독자는 또한 금융 안정성, AML/CFT 등의 다른 목표도 고려해야 합니다.유럽 입법자는 텍스트의 부문 간 목표를 금융 규제의 특정 목표와 연결할 필요성을 분명히 인식했습니다. 따라서 금융 사용 사례에 대한 '시장 감시 기관'의 역할을 금융 부문 감독 기관에 위임했습니다 .이는 현명한 선택으로, 이를 통해 유럽 감독 기관의 지침 의 도움을 받아 부문 및 부문 간 법률의 구현을 최적으로 조정할 수 있기 때문입니다 .어떤 경우든 ACPR은 수년간 AI에 대해 수행해 온 작업을 바탕으로 AI법이 부여하는 새로운 역할을 행사할 준비가 되어 있습니다 .        

그러나 우리는 이 역할을 고립적으로 수행할 생각이 없습니다. 오히려 저는 AI 사용을 위한 프레임워크를 제공하기 위해 효과적인 조정을 개발 해야 한다고 생각합니다. 첫째, 유럽 차원에서 저는 금융 부문에서 AI 시스템을 감사하기 위한 공통 방법론 을 신속하게 만들어 미시 신중성 위험을 줄이는 것을 보고 싶습니다. 거시 신중성 측면과 관련하여 저는 한 가지 해결책이 AI 솔루션의 유럽 공급업체의 출현을 장려 하여 도구와 위험을 다양화하는 것이라고 생각합니다.       

그럼에도 불구하고, 우리는 유럽 수준을 넘어서야 할 것입니다. 왜냐하면 AI 규제는 본질적으로 글로벌 이슈이기 때문 입니다. 또한, 많은 관할권이 우리와 비슷한 우려를 표명하고 있다는 점에 주목합니다. 이는 이제 함께 모아야 할 많은 국제적 이니셔티브 (FSB, OECD, UN 등) 의 가치를 강조합니다 . 또한, AI 관련 이슈는 대체로 상호 연결되어 있기 때문에 부문별 당국 간의 협력을 발전 시켜 더 나아가야 합니다. 오늘 여러분은 제가 경쟁과 데이터 보호 문제에 대해 이야기하는 것을 들었습니다. 오늘 세미나의 목표 중 하나는 제 생각에 모든 이해 관계자 간의 의견 교환과 대화를 장려하는 것입니다. 그리고 이것이 결실을 맺기를 바랍니다.    

귀하의 관심에 감사드립니다.

저자에 대하여

데니스 보

이 작가의 다른 글

관련 정보

• "프랑스 은행"의 다른 연설

• 국가 페이지: 프랑스