Denis Beau: 인공지능의 진화와 결과 - 디지털 신뢰, 데이터 및 클라우드
2024년 7월 2일 , 취리히에서 열린 포인트 제로 포럼 2024 에서 프랑스 은행 제1부총재인 드니 보의 서두 연설 .
이 연설에 표현된 견해는 연설자의 견해이며 BIS의 견해가 아닙니다.
중앙은행 연설 |
2024년 7월 3일
데니스 보(Denis Beau) 지음
PDF 전체 텍스트
(7kb)
| 3 페이지
신사 숙녀 여러분,
저는 인공지능(AI)에 대한 이 패널을 열게 되어 매우 기쁩니다. AI는 실질적인 경제적 혼란으로 이어질 수 있는 획기적인 혁신 입니다. 이는 특히 최근 몇 년 동안 AI가 변혁의 중요한 주요 원동력 이었던 금융 부문에서 더욱 그렇습니다. 생성적 AI 의 출현은 사용자의 AI 도구 채택을 증가시킬 뿐만 아니라 혁신의 속도를 구조적으로 가속화 함으로써 이러한 추세를 더욱 가속화할 것으로 예상 됩니다 (예를 들어 자연어 쿼리를 기반으로 컴퓨터 코드를 생성하는 새로운 기능을 생각해 보겠습니다). 그러나 이러한 중요한 발전은 중앙 은행가와 금융 감독자의 관점에서 볼 때를 포함하여 여러 가지 의문을 제기합니다. 저는 이 문제를 어떻게 해결해야 하는지에 대한 제 의견을 표명하기 전에 이러한 의문 중 일부를 여러분과 공유하고 싶습니다.
1/ 첫째, 최근의 진전에도 불구하고 기반 AI 기술은 아직 완전히 성숙되지 않은 것으로 보이며 , 특히 생성 AI(GenAI)와 관련하여 그렇습니다. 이 주제에 대한 답이 없는 질문이 여전히 많이 있습니다. 그 중 두 가지에 대해 설명하겠습니다 . 첫째, 범용 AI(GPAI) 모델에 대한 질문입니다 . 이 모델 은 금융 부문과 관련된 모든 작업에서 어떤 성능을 발휘 할까요 ? 이 질문은 실제로 두 가지 수준에서 발생합니다. GPAI 모델이 모든 용도의 표준이 되어 특수 모델에 해를 끼칠까요? 더 작고 잘 훈련된, 즉 더 특수화된 모델이 더 크고 더 범용적인 모델에 부응할 수 있을까요? 이러한 성능 문제는 많은 잠재적 결과를 초래하며, 특히 경쟁 측면에서 그렇습니다. 모든 분야에 대규모 GPAI 모델이 도입되면 자연 독점 또는 과점 상태 에 빠질 위험이 높아 클라우드 시장의 이미 과점적 성격이 더 커질 것입니다 . 두 번째, AI 시스템의 취약성 문제 : 우리는 상황에 대한 더 명확한 그림을 얻기 시작했지만, 이 주제에 대한 연구는 아직 끝나지 않았습니다. 이는 특히 GenAI 모델에 대한 사이버 보안 분야에서 "간접적인 신속한 주입"의 위험성이 최근에 발견되면서 더욱 그렇습니다. '검'(새로운 공격 기술 개발)과 '방패'(효과적인 대응책 개발) 간의 이러한 경쟁은 보안 분야에서 전통적이지만, AI 시스템을 적절하게 보호할 수 있는 우리의 능력은 다양한 행위자가 이 기술을 광범위하게 활용할 수 있는 능력에 큰 영향을 미칠 것입니다.
2/ AI 기술이 아직 완전히 성숙되지는 않았지만, 중앙은행과 금융감독원은 적어도 세 가지 이유 에서 지체 없이 이를 받아들여야 한다고 생각합니다 . 첫째, 더 많은 일을 더 잘 수행하여 임무를 효과적으로 계속 수행하기 위해서입니다 . 물론 AI는 자동화 수준을 높여 효율성을 높이는 데 도움이 될 수 있습니다. 하지만 우리는 또한 에이전트에게 새로운 역량을 제공하고자 합니다 . 예를 들어, 대량의 은행 거래를 분석할 수 있는 AI 기반 시스템인 LUCIA 도구를 사용하면 현장 검사 중에 은행의 AML/CFT 모델의 성능과 관련성을 평가할 수 있습니다. 둘째, AI에 대한 중요한 전문 지식을 개발하기 위해서 입니다. 우리 자신의 목적을 위해 AI를 사용하면 점차적으로 기술을 잘 다룰 수 있으며, 그 이점과 위험을 올바르게 이해하는 매우 효과적인 방법입니다. 실천을 통한 학습 의 장점은 금융 부문에서 배포한 AI 시스템 감독과 AI의 내부 사용이 매우 상호 보완적인 이유를 설명합니다. 예를 들어, 아주 최근에 ACPR은 Banque de France의 혁신 센터인 Le Lab의 도움을 받아 생성 AI가 다양한 감독 기능에 어떤 영향을 미칠 수 있는지 알아보는 해커톤인 " Suptech Tech Sprint "를 조직했습니다. 이 행사는 3일 만에 감독을 위한 대규모 언어 모델(LLM)의 잠재력을 보여주었습니다 . 마지막으로, 금융 생태계를 주도하기 위해 시장에도 뛰어들 수 있다거나 뛰어들어야 한다는 신호를 보냈습니다 . 예를 들어, Banque de France에서 양자 이후 암호화에 대한 최첨단 작업을 수행하면서 민간 이해 관계자들 사이에서 이 위협에 대처해야 할 필요성에 대한 인식이 높아지고 있습니다. 따라서 중앙은행과 감독 기관이 AI가 제공하는 기회를 포착해야 한다는 것은 분명하지만, 문제는 어떻게 그렇게 할 것인가 입니다 .
3/ 저는 우리가 먼저 거버넌스의 기본 원칙을 정해야 한다고 생각합니다 . AI는 인류와 사회에 봉사해야지, 그 반대가 되어서는 안 됩니다 . 이러한 관점에서 모든 문제를 해결하지는 못하더라도, "신뢰할 수 있는 AI"의 원칙을 정한 세계 최초의 구속력 있는 텍스트인 유럽 AI법 의 지속적인 채택은 환영할 만한 조치입니다 . 특히, 이 텍스트는 경제 운영자에게 법적 확실성을 제공하는 동시에 소비자 신뢰를 높일 것입니다. 이 거버넌스 원칙은 세 가지 운영 원칙 으로 보완할 수 있습니다 . 첫째, AI를 비례적이고 점진적으로 사용합니다. 간단한 규칙이 있습니다. 우리 활동에 대한 사용 사례가 중요할수록 스스로 해야 할 일이 더 많아집니다 . 우리와 같은 기관의 경우 이는 데이터 의 기본 문제로 이어집니다 . 중앙 은행과 금융 감독 기관이 보유한 일부 데이터는 타사 클라우드 인프라에 저장하기에는 너무 기밀 입니다. 둘째, 간단한 사용 사례에서도 지체 없이 실험하여 AI를 우리 활동에 통합하는 올바른 방법을 찾아 "대체 에이전트"가 아닌 "증강 에이전트"로 이어집니다 . 실제로 AI가 인간-기계 상호 작용의 패턴을 크게 바꿀 것으로 예상할 수 있습니다. 올바른 조합을 찾으면 사용자의 동의를 얻어 새로운 도구의 채택을 촉진할 수 있으며 이는 중요한 문제입니다. 셋째, 다른 사람들과 협력하여 모범 운영 관행을 공유하고 일관된 AI 감독 프레임워크를 구축합니다 . 물론 저는 먼저 국제 협력을 생각하고 있습니다. AI 관련 문제는 본질적으로 글로벌하기 때문입니다. 이 분야에서 진행 방법에 미묘한 차이가 있을 수 있지만, 무엇보다도 많은 관할권이 유사한 우려를 표명하고 있어 국제 협력이 진전될 수 있을 것입니다 . 그러나 경쟁, 사이버 보안, 기본 권리, 심지어 녹색 전환과 같은 다른 분야의 당국과 도 협력해야 합니다 . AI 관련 우려는 대체로 상호 연결 되어 있기 때문입니다 . 제 생각에, 이러한 다양한 형태의 협력은 가장 관련성 있고 회복성 있는 AI 모델의 출현에 기여하려면, 다시 말해, 우리가 기술 개발을 일반적인 이익의 방향으로 영향을 미치려면 필수적인 조건 입니다 . 귀하의 관심에 감사드립니다.
저자에 대하여
데니스 보
이 작가의 다른 글
관련 정보