《산업보고서》 맞춤형 인공지능ㆍ설명 가능한 인공지능(XAI) 혁신 기술 트렌드 및 향후 전망

[이윤배]

 맞춤형 인공지능ㆍ설명 가능한 인공지능(XAI) 혁신 기술 트렌드 및 향후 전망

현재 디지털 기술의 급속한 성장은 조직의 디지털 성과 및 워크플로우를 향상시키는 등 산업 전반에 디지털 영향력을 확대하며 산업의 지형을 송두리째 바꾸고 있는 가운데, 기업이 디지털 시대에 접어들어 경쟁력이나 관련성을 유지하기 위해서는 반드시 인공지능 기반 디지털 기술을 수용해야 한다는 인식이 팽배해지고 있다.

인공지능은 인간 지능을 복제한 현대 기술의 클러스터(cluster)로 뉴노멀 시대 일상의 위기를 극복하기 위해 디지털 트랜스포메이션으로의 변환이 요구되자, 점점 더 많은 기업이 인공지능 채택에 적극적으로 뛰어들면서, 그 수요가 매년 40%씩 증가해 비즈니스의 새로운 지평을 열고 있다.

이처럼 수요가 증가하면서 AI 기술개발도 가속화되어 기계학습 기반 자연어처리, 패턴인식 등에서 뛰어난 성과를 보이며, 4차 산업혁명을 비롯해, 디지털 트랜스포메이션과 메타버스 세계를 가능하게 하는 등 이미 우리 삶을 바꾸고 있는 가운데, 많은 기업들은 제품 개발을 개선하여 효율성을 높이고, 고객에게 더 나은 서비스를 제공함으로써 경쟁업체에 대해 우위를 점하기 위해 인공지능 도입에 적극적인 모습을 보이고 있다.

이미 인공지능(AI)은 오늘날 기업이나 산업분야에 엄청난 파급력을 미치고 있으며, 아울러 누구도 부정할 수 없는 인공지능을 기반으로 한 디지털 시대에 돌입하고 있지만, 현재 인공지능은 문제 해결, 질병 진단과 같은 인간의 지능이 필요한 작업을 수행하는 수준에 머물러 있을 뿐, 아직 우리 삶의 구석구석을 지배하는 AI 수준에는 도달하지 못하고 있다.

이처럼 AI 기술이 다양한 신기술과 접목되면서 일상의 편의성을 제공하고 있지만, 지금까지 개발된 AI 알고리즘은 일반적인 문제를 해결하기 위한 방식으로 기술적 진보에도 불구하고, 특정 비즈니스의 정확한 요구사항에 따라 조정하는 것이 불가능하기 때문에 각 기업에 초점을 맞춘 인공지능 기술을 제공하여 운영 효율성을 높일 수 있도록 새로운 방식의 AI가 요구되고 있다.

현재 인공지능은 수집한 데이터를 사용하여 일반적인 결과에 다다르기 때문에 보편적인 작업면에서는 뛰어난 성능을 발휘하고 있으나, 기업이나 조직마다 집중 육성하는 분야가 다르기 때문에 요구사항이나 비즈니스 프로세스 또한 다를 수밖에 없는 상황에서 각 기업의 고객과 산업 특성에 초점을 맞춰 특정 작업에서 높은 성능을 이끌어냄으로써 효율성과 수익성을 향상시키기 위해서는 기업 상황에 맞춘 맞춤형(custom) AI가 요구되고 있다.

한편, 이처럼 인공지능 발전으로 비즈니스가 확대되고 있는 상황에서 AI가 결정한 최종 결과와 도출 과정에서 훈련데이터가 편향된 데이터를 기반으로 하거나 알고리즘의 악의적 조작이 개입될 경우, 편향된 판단을 내릴 위험이 충분하다는 타당성 오류가 발견되면서 AI 개발과 활용은 현실적인 문제로 이어지고 있다.

특히 자율주행 기술은 데이터 학습을 통해 복잡한 분야에도 적용 가능한 기계학습의 장점을 기반으로 운전자가 핸들, 가속페달, 브레이크 등을 조작하지 않아도 스스로 목적지까지 찾아가는 등 기술적 진화를 거듭하면서, 현재 수많은 자율주행 자동차가 도로 위를 달리면서 실전 테스트를 진행하며 상용화에 가깝게 접근하고 있지만, 그 이면에는 원인을 파악할 수 없는 사고와 같은 위험성이 존재하고 있다.

이러한 가운데 ‘설명 가능한 인공지능(XAI)'은 이에 대한 대안의 하나로 떠오르고 있는데, XAI는 AI의 설명력을 보완해 ‘인공지능이 왜 이런 결정을 내렸는지', ‘인공지능이 의사결정을 통해 수행한 결과가 왜 성공 또는 실패했는지', ‘인공지능의 의사결정이 실패한 이유가 무엇 때문이었는지', 그리고 ‘어떤 경우에 인공지능이 수행한 의사결정을 신뢰할 수 있는지' 등 예측과 판단에 대한 근거를 제공함으로써 사용자가 합리적인 의사결정을 할 수 있도록 지원할 것으로 예상하고 있다

이처럼 XAI는 설명이나 해석을 통해 사용자에게 최종 결정을 내리기 전에 AI시스템이 내린 결정이 최선의 결정이었는지를 확인할 수 있도록 함으로써 위험성에서 벗어나 보다 신뢰할 수 있는 결과에 도달할 수 있을 뿐만 아니라, AI 편향성에 의한 기업 간 담합과 같은 기업의 악용을 막을 수 있을 것으로 분석하고 있다.

이 같은 설명가능 인공지능(XAI)은 의심의 여지없이 사용자의 신뢰, 확신 및 투명성을 높여줄 인공지능(AI)의 다음 단계로 설명 가능성을 기반으로 AI와 상호작용하는 사용자가 AI의 결론과 추천을 이해하게 되면, 신뢰를 쌓고 효과적인 인간 감독이 가능해지기 때문에 자율주행을 비롯해 딥러닝 기반 인공지능의 완성도를 이끌 것으로 분석하고 있다.

이에 다양한 사업 분야에 활용될 맞춤형 인공지능과 설명 가능한 인공지능(XAI)의 최신 기술 트렌드 및 향후 전망에 대해 면밀히 조사, 분석하였다.

모쪼록 본 보고서가 맞춤형 인공지능과 설명 가능한 인공지능(XAI) 관련 사업을 추진하는 관계자뿐만 아니라, 관심을 가지고 계신 모든 분들의 업무에 미력하나마 도움이 되길 바랍니다.

[ 도서 목차 ]
Ⅰ. 주요 산업 분야별 맞춤형 AI(인공지능) 활용 동향
1. 디지털 시대 맞춤형 인공지능(AI)으로의 진화
  1-1. 디지털 시대
    1) 4차 산업혁명의 핵심인 인공지능(AI)
    2) 팬데믹(pandemic)으로 인한 환경 변화
    3) 새로운 변혁시스템을 요구하고 있는 미래사회
  1-2. 인공지능(AI) 기반 디지털 사회
    1) 인공지능(AI)과 언택트
    2) 인공지능(AI)과 디지털 혁신
    3) 디지털 비즈니스 생태계
      (1) 옴니채널(Omni-channel) 상거래
      (2) 디지털 콘텐츠 소비
      (3) 디지털 플랫폼화
  1-3. 디지털 시대 인공지능의 진화
    1) 미래 인공지능 알고리즘
      (1) 맞춤형 인공지능 기술 개요
      (2) 맞춤형 인공지능의 등장 배경
    2) 맞춤형 인공지능 개념 및 특징
      (1) 맞춤형 인공지능 개념
      (2) 맞춤형 인공지능 특징

2. 본격적인 인공지능(AI) 시대 도래
  2-1. 위드 AI 시대 개요
    1) 위드 AI 시대 빅데이터와 인공지능(AI)의 관계
    2) 위드 인공지능(AI) 시대
  2-2. 인공지능 기반 디지털 시대
    1) 디지털 시대 인공지능 기술(AI)의 중요성
    2) 인공지능을 기반으로 한 디지털 사회
  2-3. 인공지능 진화에 따른 편향성 문제
    1) 인공지능의 블랙박스 투명성 요구
    2) AI 부작용이나 위험성에 대한 해결 방안

3. 주요 산업별 맞춤형 AI 활용 동향
  3-1. 헬스케어(Healthcare) 분야
    1) 개요
    2) 인공지능(AI) 도입의 필요성
      (1) 경제적 관점에서의 필요성
      (2) 질병예방과 만성증상 관리가 새로운 쟁점
      (3) 헬스케어의 네트워크화
    3) 인공지능(AI) 도입을 위한 방법
      (1) 클라우드화
      (2) 인간적인 교류와 리더십
      (3) 데이터 최적화와 분석
      (4) 협력체제와 스케일업
    4) 인공지능(AI)의 역할
      (1) 대규모 파괴적 변혁 발생
      (2) 의료 관련 데이터의 폭발적 증가
      (3) 헬스케어 분야의 AI 활용 시나리오
      (4) 헬스케어에서 AI 활용에 따른 주요 이점
    5) 국내외 시장규모 전망
      (1) 글로벌 시장
      (2) 국내 시장
    6) 선행 사례
      (1) 병원 서플라이체인 자동화를 통한 효율 개선
      (2) 전자건강기록을 구조화 데이터로 전환
      (3) 병원 수요예측에 활용
      (4) 재입원을 줄이기 위한 AI 솔루션 개발
      (5) 당뇨환자 검사를 통한 안질환 예측
      (6) CT 검사에 의한 사망률 예측
      (7) 얼굴인식 기술에 의한 치매환자의 통증 정도 측정
    7) 해외 주요 사례
      (1) 가상 간호조무사에 의한 환자 모니터링
      (2) 눈의 증상 악화를 몇 초 만에 진단
      (3) 신약개발 프로세스 및 약물 리포지셔닝 프로세스의 합리화
      (4) 맘모그라피 진단시간 단축과 미스 감소
    8) 미국 알파벳의 AI 주요 전략
      (1) AI를 활용하는 의약품 연구개발
      (2) 화상 진단 AI
      (3) 백오피스 업무의 자동화
      (4) 의료 데이터 보관
      (5) 기타
  3-2. 제조업 분야
    1) 스마트 제조의 요소
      (1) 정보전달 속도
      (2) 데이터의 역할 범위
      (3) 생산품종의 다양성
    2) AI 스마트팩토리
    3) AI 주도 시스템(AI-Driven System)
      (1) 스킬 및 데이터 품질의 장벽의 완화
      (2) AI 주도 시스템이 등장함에 따른 설계의 복잡화
      (3) 저소비전력, 저비용 기기에 대한 AI 도입
      (4) 강화학습이 산업 용도로 이동
      (5) 데이터 품질을 시뮬레이션을 통해 극복
    4) 스마트제조 기술 분야별 AI 적용 사례
      (1) 머신비전 검사
      (2) 예지 정비
      (3) 가상 시운전
    5) 제조 업계의 AI 활용 사례
      (1) Siemens : 국가 규모의 제조
      (2) 미국 GE 애비에이션 : 제조업에서 서비스업으로 탈바꿈
      (3) Amazon : AI 로봇에 의한 자동화 창고
      (4) FUJITSU : 제조 AI 프레임워크는 고객의 니즈에 기여
      (5) FANUC : 딥러닝을 도입한 산업 로봇의 활약
      (6) 토요타 : AI 자동차
      (7) SOINN : 로봇이 학습
      (8) MUJIN : 무인 제조 공장
      (9) LG CNS
      (10) 현대자동차
      (11) 삼성전기
      (12) LS산전
      (13) 전자부품연구원
  3-3. 자동차 분야
    1) 차량용 인공지능
      (1) 자동차의 AI 개발 동향
      (2) 자동차 AI 시장 동향과 전망
    2) 자율주행차 시장 규모 전망
      (1) 상용화 시기 전망
      (2) 글로벌 시장 규모 전망
        ① 시장 규모 전망
        ② 향후 산업 전망
      (3) 레벨별(Lx3/Lx4) 시장규모 전망
    3) 인지ㆍ판단 시스템 기술 동향
      (1) 개요
        ① 개념
        ② 필요성
      (2) 기술개발의 주요 이슈
        ① 서라운드 센서융합 중심 인지 및 판단시스템
        ② 자율협력주행(도로인프라)연계 인지 및 판단시스템
      (3) 주요 업체별 개발 동향
        ① 구글(Google)
        ② 퀄컴(Qualcomm)
        ③ 엔비디아(NVIDIA)
        ④ 인텔(Intel)
        ⑤ 테슬라(Tesla)
        ⑥ 글로벌 OEM(GM, Benz, BMW, 현대자동차)
    4) AI 스타트업의 M&A 현황
      (1) 자율주행차의 AI
      (2) AI 개발업체 M&A 현황
        ① 애플(Apple)
        ② 포드 'Ford AI Argo AI'
        ③ 토요타 ‘Toyota Ai venture'
        ④ 제너럴 모터스(GM) ‘Cruise'
      (3) 자동차 관련 주요 AI 스타트업 기업

Ⅱ. 설명 가능한 인공지능(XAI) 핵심기술 개발동향
1. 설명 가능한 인공지능(XAI) 기술 개요
  1-1. XAI(eXplainable AI) 등장 배경과 개념
    1) XAI 등장 배경
    2) 인공지능의 확산에 따른 부작용
      (1) 인공지능에 대한 거부감, 불쾌한 골짜기(Uncanny Valley)
      (2) 딥러닝 기술
        ① 딥러닝의 진화
        ② 현재 인공지능이 지닌 문제점, 블랙박스의 미스터리
        ③ 인공지능의 대표적 오류 사례
      (3) 인공지능의 편향성(Bias) 문제
        ① AI의 의사결정 지원과 편향성(Bias)
        ② 데이터의 편향성(Bias)
        ③ 데이터 편향 유형
        ④ 인공지능의 편향성(Bias) 문제 해결 방안
      (4) AI 슈퍼파워의 등장과 시장 독점
        ① 데이터 경제(Data Economy) 시대
        ② 데이터 소유와 독점
    3) XAI 개요
      (1) XAI의 개념
      (2) XAI의 필요성
  1-2. AI 2.0 시대 XAI 기술 개요
        1) AI 2.0 시대
        2) 설명가능한 인공지능의 작동 방식
      (1) 기존 학습 모델 변형: 심층신경망에 설명 가능성 부여하기 다윈AI 생성 합성 기술
      (2) DAPRA XAI 전략, 기본 설계부터 인간이 이해할 수 있는 구조로 신경망을 만드는 방식
        ① 심층설명학습(deep explanation)
        ② 해석 가능한 모델(interpretable models)
        ③ 모델 귀납(model induction)
      (3) 학습모델간 비교

2. XAI(설명가능한 인공지능) 핵심기술 개발 동향
  2-1. XAI 프로세스 개요
    1) XAI 프로세스
    2) XAI의 접근 방법
  2-2. XAI 개발을 위한 기술적 접근
    1) 신경회로망 노드에 설명라벨 붙이기
    2) 의사결정트리를 이용한 설명모델 만들기
    3) 통계적 방법을 이용하여 설명모델 유추하기
  2-3. XAI 기대효과 및 시사점
    1) XAI 기대효과
      (1) 경계 사례와 데이터 편향성을 탐지ㆍ제거함으로써 성능 향상
      (2) 모델 정확성 및 성능 개선
      (3) 신뢰성 확보
    2) 시사점

3. 설명가능한 인공지능 알고리즘 핵심기술 개발 동향
  3-1. 설명가능한 인공지능 알고리즘
    1) 부분 의존 구성(Partial Dependence Plots, PDP)
    2) 개별 조건 예측(Individual Conditional Expectations, ICE)
    3) 민감도 분석(Sensitivity Analysis, SA)
    4) 계층별 관련도 전파법(Layer-wise Relevance Propagation, LRP)
    5) 일부 해석 모델(Local Interpretable Model-agnostic Explantion, LIME)
    6) 첨가 요인 민감도(Sharply Additive Explanations, SHAP)
  3-2. 활용 분야
    1) 금융ㆍ핀테크 분야 서비스
    2) 의료ㆍ헬스케어 분야 서비스
    3) 자율주행 자동차
    4) 제조업
  3-3. 주요 업체별 XAI 기술 개발 현황
    1) 미국 국방성 산하 방위고등연구계획국(DARPA)
    2) IBM
    3) 구글
    4) 심머신(simMachines,Inc)

4. 주요 AI 알고리즘 트렌드
  4-1. 제로샷 학습(zoro-shot learning)
    1) 제로샷 학습(zoro-shot learning) 개념
    2) 제로샷 학습(zoro-shot learning) 원리
    3) 제로샷 방법론
  4-2. 생성적 적대 신경망(Generative Adversarial Network)
    1) GAN(Generative Adversarial Network) 개요 및 학습 방법
      (1) GAN(Generative Adversarial Network, 적대적 생성 신경망) 개요 및 정의
        ① GAN 개요
        ② GAN 구조
      (2) 적대적 학습방법
    2) GAN 응용 모델과 적용 사례
      (1) CGAN(Conditional GAN)
      (2) InfoGAN
      (3) Laplacian GAN
      (4) DCGAN(Deep Convolutional Generative Adversarial Networks)
      (5) DiscoGAN
  4-3. 강화학습(Reinforcement Learning)
    1) 개요
      (1) MDP(Markov Decision Process) 방식
      (2) DQN(Deep Q-Network)
    2) 특징
  4-4. 전이학습(transfer learning)
    1) 개요
      (1) 개념
      (2) 특징
    2) 전이학습 알고리즘

Ⅲ. 주요 산업맞춤형ㆍ설명가능한 AI 연구 통계 분석
1. 헬스케어 인공지능(AI) 연구개발 분석
  1-1. 분석절차
  1-2. 연도별 연구 동향
  1-3. 인용 상위 연구
  1-4. 주요 단어 및 네트워크 분석
  1-5. 주제 분석
  1-6. 연구 주제별 평균 인용 수
  1-7. 연도별 주요 학술지
  1-8. 주제별 전망
  1-9. 오픈엑세스 저널 비율
  1-10. 펀딩연구의 비율

2. 자동차 인공지능(AI) 연구개발 분석
  2-1. 분석절차
  2-2. 연도별 연구 동향
  2-3. 인용 상위 연구
  2-4. 주요 단어 및 네트워크 분석
  2-5. 주제 분석
  2-6. 연구 주제별 평균 인용 수
  2-7. 연도별 주요 학술지
  2-8. 주제별 전망
  2-9. 오픈엑세스 저널 비율
  2-10. 펀딩연구의 비율

3. 제조업 인공지능(AI) 연구개발 분석
  3-1. 분석절차
  3-2. 연도별 연구 동향
  3-3. 인용 상위 연구
  3-4. 주요 단어 및 네트워크 분석
  3-5. 주제 분석
  3-6. 연구 주제별 평균 인용 수
  3-7. 연도별 주요 학술지
  3-8. 주제별 전망
  3-9. 오픈엑세스 저널 비율
  3-10. 펀딩연구의 비율

4. 설명가능한 인공지능(AI) 연구개발 분석
  4-1. 분석절차
  4-2. 연도별 연구 동향
  4-3. 인용 상위 연구
  4-4. 주요 단어 및 네트워크 분석
  4-5. 주제 분석
  4-6. 연구 주제별 평균 인용 수
  4-7. 연도별 주요 학술지
  4-8. 주제별 전망
  4-9. 오픈엑세스 저널 비율
  4-10. 펀딩연구의 비율