Adnan Zaylani Mohamad Zahid: 생성적 AI 시대의 뱅킹

[이매진]

Adnan Zaylani Mohamad Zahid: 생성적 AI 시대의 뱅킹

말레이시아 중앙은행(Bank Negara Malaysia)의 부총재인 아드난 자일라니 모하마드 자히드 씨가 2024년 7월 11일 쿠알라룸푸르에서 아시아 공인은행가협회(AICB)와 말레이시아 은행 협회(ABM)가 공동 주최한 제3회 말레이시아 은행 컨퍼런스 2024에서 한 폐회사.

이 연설에 표현된 견해는 연설자의 견해이며 BIS의 견해가 아닙니다.

https://www.bis.org/review/r240716g.htm

Adnan Zaylani Mohamad Zahid: Banking in the era of generative AI

r240716g (1).pdf

210.00KB

매우 좋은 오후입니다. 2024년 제3회 말레이시아 은행 컨퍼런스의 폐회사를 맡아주셔서 감사합니다.

생산적이고 통찰력 있는 컨퍼런스를 조직한 Asian Institute of Chartered Bankers(AICB)와 Association of Banks in Malaysia(ABM)에 축하를 전합니다. "생성적 AI 시대의 뱅킹"은 인공지능 기술이 빠르게 진화하고 금융 서비스에 광범위한 영향을 미치는 시기에 적절한 주제입니다.

금융 부문의 기술 혁신에 있어서 흥미로운 시기입니다. 금융 서비스의 디지털화는 이미 많은 새로운 가능성, 더 원활한 경험, 고객을 위한 더 나은 맞춤 서비스를 약속합니다. 대규모 언어 모델(LLM)의 출현으로 우리는 이러한 가능성을 더욱 확장할 강력한 AI 도구의 역량을 손에 넣었습니다.

말레이시아 금융 부문은 이러한 모든 발전을 활용할 수 있는 좋은 위치에 있습니다. 우리는 강력한 금융 및 통신 인프라의 혜택을 누립니다. 오늘날 말레이시아인의 97% 이상이 인터넷을 사용할 수 있고, 95%가 스마트폰을 소유하고 있으며, 성인의 96%가 활성 예금 계좌를 가지고 있습니다.

중앙은행이자 금융 규제 기관인 말레이시아 중앙은행(BNM)은 금융 서비스의 디지털화에 큰 관심을 가지고 있습니다. 4년 전에 디지털 은행을 위한 라이선싱 프레임워크를 출시했고, 오늘 현재 수여받은 라이선스 중 3개가 운영을 시작했습니다. 이번 주에 디지털 보험사 및 타카풀 운영자(DITO)를 위한 라이선싱 및 규제 프레임워크도 출시했습니다. 실제로, 많은 기존 업체도 디지털화 여정에 착수했습니다. 당사의 비전은 금융 부문이 AI를 포함한 기술을 활용하여 시장 역동성을 촉진하고 말레이시아인의 요구를 더 잘 충족시키는 것입니다.

AI의 급속한 진화는 전례 없는 잠재적 혜택과 위험을 가져오는데, 그 중 많은 것이 아직 완전히 이해되지 않았습니다. 예를 들어, LLM의 부상은 생성 AI 또는 GenAI를 주류 대화로 끌어올려 기존 코딩 및 인터페이스에서 자연스러운 텍스트와 음성으로 전환함으로써 인간-컴퓨터 상호 작용에 혁명을 일으켰습니다.

AI 도입은 금융 서비스를 개선하는 데 큰 잠재력을 가지고 있습니다.

의심할 여지 없이 AI 도입은 금융 서비스를 개선할 상당한 잠재력을 가지고 있습니다. 전기, 인터넷, 스마트폰과 마찬가지로 일부 전문가들은 AI가 다음 범용 기술이 될 것이며, 우리 삶을 개선할 실질적인 잠재력을 가지고 있다고 주장했습니다.

오늘 일찍, 여러분은 은행에서 고객 경험을 혁신하는 것부터 전환 금융 지원에 이르기까지 다양한 AI 사용 사례와 응용 프로그램에 대해 들을 기회를 가졌습니다. 이러한 사용 사례는 금융 기관과 소비자 모두에게 가치를 창출할 잠재력이 있습니다.

원칙적으로 이러한 사용 사례는 AI 시스템이 다른 방법으로는 분석하기 어려웠을 많은 양의 덜 구조화된 데이터 세트를 보다 효과적으로 처리하여 뛰어난 패턴 인식 및 예측 기능을 제공할 수 있는 능력에서 비롯됩니다.

말레이시아에서는 은행의 80% 이상이 하나 이상의 AI 관련 프로젝트를 도입했으며, 가장 일반적인 사용 사례로는 고객 분석부터 사기 탐지, 전자 고객 확인(e-KYC) 등이 있습니다.

BNM에서는 또한 국가 정책 목표를 발전시킬 수 있는 사용 사례에 대해서도 흥분하고 있습니다. 저는 네 가지 주목할 만한 사례를 공유하겠습니다.

• 첫째, BIS 혁신 허브가 개발한 오로라 프로젝트는 개인정보 보호 강화 기술, 머신 러닝, 네트워크 분석을 사용하여 기존 방법보다 자금세탁 방지 분석을 개선하는 효과적인 접근 방식을 보여주었습니다.
• 두 번째로, BIS가 개발한 프로젝트 가이아(Project Gaia)는 기후 관련 데이터 추출을 위해 AI와 대규모 언어 모델을 사용하는 방법을 보여주었으며, 이를 통해 대규모로 기후 관련 재무 리스크를 분석할 가능성이 열렸습니다.
• 셋째, 소외 계층에 대한 채무 불이행 예측 등 위험 관리 접근 방식에 AI를 적용하면 금융 기관이 포용성 성과를 실현할 수 있는 잠재력이 높아질 수 있습니다.
• 넷째, 말레이시아에서는 AI를 기반으로 한 e-KYC 솔루션이 완전한 디지털 계좌 개설 경험을 제공함으로써 고객 편의성을 크게 높였습니다. 이는 특히 팬데믹 상황에서 금융 서비스의 핵심 원동력이었습니다.

회사 내부적으로는 GenAI를 활용해 감독 및 정책 분석을 지원하는 방법도 모색하고 있습니다.

하지만 우리는 GenAI 도입 여정의 초기 단계에 불과하다는 것을 인정합니다. 현재 우리는 책임감 있는 방식으로 AI를 배포하는 방법을 모색하기 위해 AI 신뢰 및 거버넌스 워크스트림을 구축했습니다. 윤리적이고 책임감 있는 AI 사용은 여전히 ​​우리의 AI 전략의 중심에 있습니다. 이는 또한 책임감 있는 AI를 기존 분석 도구에 원활하게 통합하기 위한 전문성 개발을 우선시한다는 것을 의미합니다.

AI 도입으로 인해 기존 위험이 심화되고 새로운 위험이 발생할 수 있습니다.

여러분,

AI는 금융 서비스 산업에 혁명을 일으킬 잠재력을 가지고 있지만, AI 도입으로 인해 기존 위험이 심화되고 새로운 위험이 발생할 수도 있습니다.

• 첫째, AI 모델은 편견과 차별을 심화시킬 수 있으며, 특히 기본 입력 데이터에 결함이 있거나 품질이 알려지지 않은 경우 더욱 그렇습니다. 따라서 AI 프로젝트를 시작할 때 강력한 데이터 거버넌스와 관리 시스템이 가장 중요합니다.
• 둘째, 보완적인 기술적 또는 인적 통제가 없는 자체 학습 모델을 사용하면 모델 성능이 불안정해질 수 있으며, 효과적인 모델 검증에 상당한 어려움이 발생할 수 있습니다.
• 셋째, 기관 또는 공공 GenAI 도구를 사용하면 소수의 기초 모델 개발자에 대한 체계적 의존성으로 인해 발생하는 제3자 위험 증가와 같은 비재정적 위험이 의도치 않게 증가할 수 있습니다. 또한, 실수로 개인 고객 정보를 공개할 위험이 커질 수 있습니다.

또한 악의적인 행위자가 AI를 사용함으로써 발생하는 외부 위험은 조직이 AI 시스템을 구축하는지 여부와 관계없이 조직에 영향을 미쳐 새로운 사이버 위험 원천을 도입할 가능성이 높습니다. 예를 들어, GenAI는 사기꾼이 사기 공격과 허위 정보 캠페인의 정교함을 높일 수 있도록 했습니다.

• GenAI가 해커의 신뢰할 수 있는 피싱 이메일을 작성하는 능력을 크게 확장함에 따라 이메일 피싱 시도를 구별하는 것이 점점 더 어려워졌습니다.
• GenAI 도구를 무장한 악의적인 행위자들은 또한 타겟 고객을 오도하기 위해 현실적인 비디오, 가짜 신분증, 거짓 신원을 만들었습니다. 이는 불법적인 자금 이체를 유도하기 위해 회사 임원의 매우 사실적인 딥페이크를 만드는 것으로 확대됩니다.

AI 기반 사기의 증가된 유행은 디지털 금융 서비스에 대한 소비자 신뢰를 훼손할 수 있습니다. 잠재적으로, 이는 일부 소비자 세그먼트가 사기에 걸릴까 두려워 온라인 뱅킹과 같은 서비스를 완전히 철수하게 만들 수 있습니다. 이는 디지털화를 통해 금융 포용성을 발전시키는 데 있어 우리가 이룬 상당한 진전을 위험에 빠뜨릴 것입니다.

금융 규제 기관과 업계의 다음 단계는 무엇입니까?

여러분,

오늘 있었던 이런 사건과 대화를 되돌아볼 때, 금융 산업이 앞으로 나아가기 위한 가장 좋은 방향은 무엇이어야 할까요?

시작하기 위해, 앞서 설명한 위험 중 대부분은 아니더라도 많은 위험은 오늘 이 자리에 있는 금융 규제 기관과 은행가에게 친숙합니다. 이러한 위험에 접근하면서 우리는 기존 기반을 구축하고 있습니다. IT 위험 관리(RMiT) 정책 문서와 같은 프레임워크는 기술 위험 관리에 대한 명확한 원칙을 제시하고 타사 공급업체 및 서비스 제공자와 관련된 위험을 해결합니다. 고객 정보 관리 및 허용된 공개(MCIPD)에 대한 정책 문서도 마찬가지로 소비자의 데이터 프라이버시에 대한 위험을 해결합니다.

현행 규제 프레임워크가 반드시 AI를 하나의 기술로만 규정하고 있지는 않지만, 이는 AI 시스템 사용에 적용되며 기술에 독립적인 방식으로 위험을 해결하도록 설계되었습니다.

그렇다면 아직 알려지지 않았거나 새롭게 등장하는 위험을 어떻게 식별하고 대비할 수 있을까요? 전 세계적으로 금융 기관, 규제 기관 및 국제 표준 설정 기관은 일반적으로 AI의 책임 있는 사용을 위한 지침 원칙에 수렴하고 있습니다. 여기에는 공정성, 포용성, 투명성, 견고성 및 책임이 포함됩니다. 금융 기관의 경우 강력한 내부 거버넌스와 위험 관리 관행을 통해 책임 있는 AI를 육성할 수 있습니다.

BNM은 혁신의 이점을 열어가면서 규제 프레임워크가 위험에 비례하도록 계속 유지하는 데 전념합니다. 즉, 책임 있는 혁신과 건전한 경쟁이 육성되고, 새로운 사업 모델과 신규 진입자가 번창할 기회가 주어지며, 관련 위험이 효과적으로 관리되는 유리한 환경을 조성하는 것을 의미합니다. 특히 시스템 전반의 안정성, 소비자 결과 및 금융 부문에 대한 신뢰를 위협할 수 있는 위험은 더욱 그렇습니다.

이러한 목적을 위해 BNM 규제 샌드박스는 기존 규제 장애물이 있는 경우 혁신적인 AI 사용 사례의 테스트를 용이하게 하는 데 중요한 역할을 할 수 있습니다. 이러한 경우 샌드박스는 금융 기관이 새로운 AI 지원 사용 사례의 실행 가능성을 평가하는 동시에 BNM에 이러한 혁신과 관련된 기회와 위험에 대한 통찰력을 제공할 수 있습니다. 지금까지 샌드박스는 디지털 송금, e-KYC, Buy-Now-Pay-Later 및 디지털 보험을 포함한 혁신적인 사용 사례와 비즈니스 모델의 테스트를 용이하게 하는 데 역할을 했습니다.

마지막으로, 금융 산업 역시 효과적으로 과제를 극복하고 금융 분야에서 AI의 잠재력을 실현하기 위해 책임 있는 공동 혁신에 참여하는 역할을 해야 한다는 점을 강조할 만합니다.

• 첫째, 업계는 지식, 모범 사례, AI 도구를 공유하여 비용을 절감하고, 공통 표준 개발을 촉진하고, 이 새로운 분야에서 위험 관리 표준을 높이기 위해 협력할 수 있습니다. 한 가지 예는 최고 위험 책임자 포럼에서 업계가 주도하여 AI 가이드라인과 위험 관리 모범 사례를 개발한 것입니다. 우리는 책임 있는 AI 사용 및 공정성 문제를 해결하기 위한 도구나 표준 개발과 같은 분야를 다루는 업계 전반에 걸쳐 이와 유사한 노력이 더 많이 일어나기를 바랍니다.
• 둘째, 소비자의 디지털 및 금융 지식이 디지털 기술의 발전에 따라 지속적으로 향상되는 것이 중요합니다. 이를 위해 금융 기관과 업계는 금융 교육과 인식을 높이는 데 더 큰 역할을 해야 합니다. 교육은 더욱 정교한 GenAI 기반 사기로부터 소비자를 보호하고, 디지털 포용 결과를 개선하며, 디지털 금융 서비스에 대한 신뢰를 강화하는 첫 번째 방어선이 될 것입니다.
• 셋째, AI의 발전은 미래의 인력을 준비하기 위해 인재 생태계를 발전시키고 투자해야 할 필요성을 강조합니다. 숙련된 기술 개발자와 IT 인력에 대한 투자 외에도 차세대 AI 도구를 효과적이고 안전하게 활용할 수 있는 인력을 양성해야 합니다. 이와 관련하여, 우리는 이번 달 말에 AICB가 Islamic Banking and Finance Institute Malaysia와 Malaysian Insurance Institute와 협력하여 주도하는 산업 이니셔티브인 Future Skills Framework for the Malaysian Financial Sector가 금융 부문의 인재 생태계를 발전시키는 데 큰 진전을 이룰 것으로 기대합니다.

결론

여러분,

마지막으로, 영국의 컴퓨터 과학자이자 AI의 선구자 중 한 명으로 꼽히는 앨런 튜링의 말을 인용하겠습니다. "우리는 앞을 조금만 볼 수 있지만, 그 안에 해야 할 일이 많이 있습니다."

AI는 금융 서비스를 개선할 수 있는 진정한 잠재력을 가지고 있습니다. 하지만 동시에 새롭고 복잡한 과제를 만들어냅니다. 오늘날 AI 시스템은 점점 더 인간 지능을 모방하는 데 능숙해지고 있지만, 완벽하지는 않습니다. 인간의 판단이 위험을 감독하고 관리하는 데 중심적인 역할을 하는 것이 여전히 필수적입니다.

AI를 책임감 있게 수용하고 윤리적 기준과 강력한 보안 조치를 보장함으로써 우리는 AI의 모든 역량을 활용하여 더욱 회복력 있고 고객 중심적인 금융 생태계를 구축할 수 있습니다. 이 기회를 잡아 책임감 있게 혁신하고 금융의 AI가 모든 사람을 위한 투명성, 보안 및 접근성을 강화하는 미래를 만들어 봅시다.

감사합니다.