유럽의 신용 점수 규정?
https://safe-frankfurt.de/news-latest/safe-finance-blog/details/a-european-regulation-of-credit-scoring.html
Katja Langenbucher: 신용 평가에 인공 지능을 사용하면 새로운 기회가 생기지만 위험도 있습니다. AI 법에 대한 유럽의 제안은 EU 전역의 신용 평가 기관에 대한 표준화된 규칙이 문제가 있음을 보여줍니다.
신용 결정에는 신용도 평가가 필요합니다. 신용 점수는 중요한 역할을 합니다. 예를 들어 독일에서는 General Credit Protection Agency Schufa에서 발행하는 고객의 신용도에 대한 보고서입니다. 기관은 예를 들어 개인 데이터, 지불 내역 및 계약 준수를 사용합니다. 이 데이터의 저장이 GDPR(일반 데이터 보호 규정)에 부합하는지 여부는 현재 Wiesbaden 행정 법원의 추천 대상입니다.
컴퓨팅 용량과 사용 가능한 데이터가 엄청나게 증가함에 따라 새로운 비즈니스 모델이 등장했습니다. 데이터 소스는 스마트폰에서 결제 카드, 소셜 네트워크("대체 데이터")에 이르기까지 다양합니다. 인공 지능(AI)을 기반으로 서로 다른 데이터와 특정 대상(예: 낮은 채무 불이행 위험) 사이에 상관 관계가 만들어집니다. 일반적인 것은 당좌 계좌에서 볼 수 있는 한 고객의 지불 행동에 대한 은행의 접근입니다. 구매 행동 또는 반복 지불과 같은 변수는 프로필을 만드는 데 유용합니다. 대조적으로 대체 데이터의 평가는 은행과 고객 간의 관계를 훨씬 뛰어 넘습니다. 데이터 마이너는 데이터 수집을 전문으로 하며 스코어링 에이전시는 모델과 프로필을 생성합니다. 이것은 예를 들어 다음을 밝힐 수 있습니다. AI가 미래 소득에 대한 긍정적인 예측에 도달하기 때문에 대학에 다니면 신용도가 높아집니다. 반대로 잠재 고객이 온라인 양식을 작성하는 데 평균보다 오래 걸리기 때문에 부정적인 예측이 계산될 수 있습니다.
새로운 시장, AI 점수의 새로운 가능성
대체 데이터를 기반으로 하는 이러한 AI 애플리케이션은 기존 대출 프로세스를 개선하거나 기존 신용 포트폴리오의 위험을 측정하는 데 사용할 수 있습니다. 또한 기존 프로세스에서 프로파일이 저조한 차용자를 위한 시장이 등장했습니다. 대체 데이터를 기반으로 매력적인 고객으로 판명되면 기존 데이터만 사용했다면 관련된 위험에 대해 적절하게 가격을 책정할 수 없었던 대출 포트폴리오를 구축할 수 있습니다. 여기에는 새로운 시장을 개척할 수 있는 기회뿐만 아니라 AI 채점의 포괄적인 잠재력도 있습니다.
이러한 AI 채점 방법, 즉 다양한 대체 데이터의 강점은 동시에 약점입니다. 첫째, 이것은 대체 데이터의 추출에 관한 것이다. 표준화된 재무 데이터가 아니라 예를 들어 소셜 네트워크에서 수집된 데이터를 다루는 경우 오류에 대한 취약성이 더 높습니다. 또 다른 약점은 모델의 후진적 관점에서 비롯됩니다. AI가 "훈련"되는(즉, 관련 상관 관계가 개발되는 기반) 데이터는 필연적으로 과거를 나타내고 그것으로부터 미래를 추론합니다.
특정 변수가 과거에 특히 중요했다면(예: 성별 또는 결혼 여부) AI는 다른 변수보다 이러한 변수에 더 높은 가중치를 부여합니다. 세계의 상황이 변하면 문제의 변수는 더 이상 변화된 세계를 적절하게 나타내지 못합니다(“역사적 편향”). 문제의 변수(예: 성별)를 삭제하라는 제안은 종종 도움이 되지 않습니다. AI가 성별뿐만 아니라 키, 이름, Google 검색어와 같이 성별과 관련된 변수에도 더 높은 가중치를 부여하기 때문입니다. , 아르바이트. 이 모든 것을 분류하면 모델의 정밀도가 낮아집니다.
"고위험 응용 프로그램"으로 대출에 AI 사용
이러한 종류의 차별 위험으로 인해 유럽 위원회는 AI 신용 점수 및 AI 지원 신용 평가를 "고위험 응용 프로그램"으로 분류하기 위한 AI 규정에 대한 최신 제안을 촉발했습니다. 이는 규제 감독 및 상당한 재정적 처벌뿐만 아니라 광범위한 규정 준수 요구 사항 카탈로그와 함께 진행됩니다.
위원회는 암묵적으로 신용 평가 기관을 규제하기 위한 첫 번째 조치를 취했습니다. 이는 전 세계적으로 일반적이지만(예: 미국의 FICO) 모든 EU 회원국에 존재하는 것은 아닙니다. 미국의 신용 평가 기관은 1970년대부터 규제를 받았지만 독일에서 Schufa의 활동은 명시적으로 다루지 않았습니다. 보다 일반적이고 수평적인 거래 기준과 데이터 보호 규칙만이 그들의 활동을 포착합니다.
제안된 규제는 또 다른 규제 계층을 추가합니다. 그러나 이 접근 방식은 부문별이 아니라 수평적입니다. 이는 신용 스코어링의 일반적인 위험(데이터 수집, 정보 및 정정 권리에서 설명 가능성 및 차별 금지에 이르는 범위)을 통합하지 않고 발생할 수 있는 기본권에 대한 위험에만 초점을 맞춘다는 사실과 일치합니다. AI 점수를 통해 정확하게.
복잡한 규제 설계
앞으로는 (신설된) AI 당국, (정보권을 갖게 될) 차별금지기구, 데이터 보호 당국이 책임을 지게 될 것이다. 은행 자체가 AI 기반 신용도 평가를 수행하는 한 예외가 적용된다는 사실로 인해 규제 설계가 훨씬 더 복잡해집니다. AI 기관이 아닌 은행 감독관이 CRR 신용 기관을 담당합니다.
또한 제안은 SREP의 위험 및 품질 관리(Art. 74 CRD IV) 준수가 AI 규정 준수로 확장된다는 가정하에 운영됩니다. 이러한 요구 사항을 지정하기 위해 은행 감독 당국이 규칙과 지침을 개발할 가능성이 매우 높아 보입니다. 그러나 이 제도는 비은행(즉, 스코어링 기관)에는 적용되지 않습니다. 따라서 AI 감독자는 자체 규칙과 표준을 개발할 것입니다. - 제안서의 수평적 접근 방식을 고려할 때 이러한 감독 기관이 다양한 AI 모델(자율주행차 이상의 의료 기기에서 형사 사법 알고리즘에 이르기까지)을 담당하고 있기 때문에 그들의 표준은 금융 감독 당국. 이것은 상당한 법적 불확실성으로 이어질 뿐만 아니라. 또한 소비자 보호 문제에서 효과적인 법 집행을 방해합니다. EU 제안을 채점 기관을 규제하는 기회로 삼으면 이 문제를 해결할 수 있습니다.
Katja Langenbucher는 프랑크푸르트 괴테 대학교 재무관의 민법, 상법 및 은행법 교수이며 SAFE 연구 교수로서 LawLab – Fintech & AI를 조정합니다.
이 기여는 European Journal of Business Law (독일어) 의 22/2021호에 처음 게시되었습니다 .
블로그 항목은 작성자의 개인 의견을 나타내며 Leibniz Institute for Financial Research SAFE 또는 그 직원의 견해를 반드시 반영하는 것은 아닙니다.