의료 부문 내 다양한 진단 응용 프로그램에서의 인종적 편견 https://me2.kr/XAzAr

[SBDi]

이미지를 클릭하시면 해당 페이지로 이동합니다.

AI 기술이 발전함에 따라 의료 분야에서의 인종 차별은 의도치 않게 발생한다. 예를 들어, 오늘날의 환자를 선별, 진단 및 관리하는 중요한 다양한 임상 의사 결정 도구를 고려해보자.이러한 기구에는 동맥 질환의 위험, 흉부 X선 요구 사항 및 처방된 약물의 용량과 같은 변수를 계산하기 위해 일반적으로 자동화된 알고리즘 또는 일부 단계별 프로세스가 포함된다. 필요한 데이터 세트를 얻기 위해 인공지능을 활용하여 의료 기록과 청구 데이터베이스를 살펴볼 수 있다.
이 요소들은 모두 표면적으로 상당히 객관적으로 보인다. 그러나 최근의 연구는 이러한 알고리즘에 의해 사용되는 데이터 분석이 특정 민족 및 사회경제적 그룹으로 심각하게 편향될 수 있음을 보여주었다. 이로 인해 수량과 품질 면에서 수많은 피해가 발생할 수 있다.

인공지능이 인종차별의 원인이 되다
인공지능은 일반적으로 건강 관리에 도움이 되는 기능을 포함하지만 종종 몇몇의 문제를 일으킬 수도 있다. 최근 병원에서 사용되는 AI는 어떤 환자가 치료를 필요로 하는지를 결정하는 임상 알고리즘에서 인종적 편견을 보여주었다. 다시 말해 흑인 환자가 백인 환자보다 훨씬 더 아픈 것으로 판단되어야 동일한 치료에 대한 권고를 받았다. 역사적 부와 소득 차이로 인해 역사적으로 흑인 환자가 백인 환자보다 건강관리에 쓸 돈이 적었기 때문에 이런 현상이 발생 되었다.

알고리즘이 의료 지출에 대한 과거 데이터에 대해 교육을 받았기 때문이다. 이 알고리즘의 편향은 나중에 발견되고 제거되었지만, 이 사례는 얼마든지 다른 임상 및 의료 도구도 편향될 수 있음을 암시한다.

의료 부문의 편견
새로운 연구에서, CT 스캔뿐만 아니라 엑스레이와 같은 의학적인 사진에 대해 훈련된 인공지능 도구가 의도치 않게 환자의 인종을 식별할 수 있다는 사실을 발견했다. 의사가 환자의 인종을 입력하지 않았음에도 환자의 인종을 식별하는 이 기술의 미래의 오용은 의도치 않게 유색인종 커뮤니티에 주목하거나 표준 이하의 치료를 제공할 수 있다.
공중 보건 시스템뿐만 아니라 병원에서의 편향된 알고리즘 배치는 흑인 환자, 장애 환자 및 기타 불리한 인구 구성원에 대한 편견을 조장할 수 있다. 일례로, 170개 이상의 병원과 보건 기관이 패혈증을 조기에 식별하기 위해 개발된 AI 기술을 사용한다. 그러나 최근의 연구에서 해당 AI가 패혈증이 없는 수백 명의 환자들을 오진했고, 폐혈증을 발견하지 못한 사람들 중 67%가 패혈증이 있는 것을 발견했다.

결론
매일 정교한 알고리즘은 수십 개의 의학 기사를 샅샅이 뒤지며 최신 의학 지식을 상업용 데이터베이스로 컴파일한다. PoC(Point of Care) 기술이라고도 하는 이러한 검색 가능한 데이터베이스는 환자의 진단 및 치료를 완벽하고 효율적으로 안내하는 역할을 한다. PoC 도구의 민족성과 인종에 대한 수사학적 추론은 의료 전문가들이 보유한 "기존" 인종적 선입견과 연결된다. 이러한 것들은 빨리 제거되어야 하며 의료 시설을 모두에게 공정하고 다양한 것들로 만들어야 한다

관련 보고서 : AI in Medical Diagnostics 2020-2030: Image Recognition, Players, Clinical Applications, Forecast