AI 민주주의, 조례 제정을 넘어 도민의 권리 보호로 완성을

[김상명교수]

AI 민주주의, 조례 제정을 넘어 도민의 권리 보호로 완성을

인공지능(AI)이 행정의 효율성을 높이고 공공서비스의 질을 개선하는 핵심 수단으로 부상하고 있다. 정부와 지방자치단체가 AI를 행정에 도입하는 것은 시대적 흐름이다. 그러나 기술의 발전이 곧 행정의 민주화를 의미하는 것은 아니다. AI가 정책 결정에 활용될수록 행정의 신속성과 편리성뿐만 아니라 도민의 기본권, 의사결정의 투명성, 책임 소재를 함께 살펴야 한다.

이러한 점에서 제주특별자치도의 AI 행정 추진과 이를 뒷받침하기 위한 제도적 논의는 중요한 의미를 지닌다. 한권 의원이 대표 발의한 「제주특별자치도 인공지능 민주주의 실현 지원 조례안」은 공공 부문에서 AI를 활용하는 과정에 민주적 가치와 도민 참여를 반영하려는 시도라는 점에서 주목할 만하다. 다만 조례안의 입법 취지를 높이 평가하는 것만으로는 충분하지 않다. 실제로 도민의 권리를 보호하고 행정의 책임성을 높일 수 있는 제도인지, 구체적인 실행 방안까지 갖추고 있는지를 따져야 한다.

AI 행정의 가장 큰 쟁점은 기술 자체가 아니라 기술이 활용되는 방식이다. 복지 대상자 선정, 주민 지원사업, 교통정책, 환경 관리 등 도민의 권리와 생활에 영향을 미치는 분야에서 AI가 활용될 경우 데이터의 오류나 편향이 부당한 결과로 이어질 수 있다. 더욱이 판단 근거가 공개되지 않거나 도민이 결정에 이의를 제기할 방법이 없다면 행정의 편리성이 오히려 권리 침해와 불신을 키울 수 있다. 그렇다고 AI 활용 자체를 경계하거나 거부할 이유는 없다. 필요한 것은 기술의 위험을 통제하고 잘못된 판단을 바로잡을 수 있는 민주적 관리 체계다.

공공 AI에 대한 사전 영향평가와 사후 검증을 제도화해야 한다. 모든 AI에 동일한 규제를 적용하기보다 도민의 생명과 안전, 복지, 권리·의무에 미치는 영향에 따라 위험 수준을 구분하고, 위험도가 높은 시스템부터 엄격하게 관리해야 한다. 어떤 데이터를 활용하는지, 특정 집단에 불리한 결과가 발생할 가능성은 없는지, 오류가 발생했을 때 어떻게 시정할 것인지 사전에 점검해야 한다. 도입 이후에도 정기적인 감사와 평가를 실시해 문제를 발견하면 개선하거나 사용을 중단할 수 있어야 한다.

AI를 활용한 행정 결정의 투명성과 설명 책임을 강화해야 한다. 도민에게 AI 활용 여부와 결정의 주요 근거를 알리고, 자신의 권리와 이해관계에 영향을 미친 결과에 대해 설명을 요구할 수 있도록 해야 한다. 행정기관은 AI를 도입했다는 이유로 책임을 피할 수 없으며, 최종적인 행정 판단과 그에 따른 책임은 법과 제도에 따라 명확히 규정되어야 한다.

사람에 의한 재검토와 실질적인 이의제기 절차를 보장해야 한다. AI의 판단으로 불이익을 받은 도민이 담당 공무원에게 재검토를 요청하고, 필요한 경우 독립적인 절차를 통해 구제받을 수 있어야 한다. 여기서 중요한 것은 형식적인 인간의 개입이 아니다. 담당자가 AI의 결과를 그대로 승인하는 데 그치지 않고 판단의 근거를 검토해 수정하거나 거부할 수 있어야 한다. 기술에 대한 최종 통제권은 책임 있는 행정에 있어야 한다.

도민 참여와 디지털 포용을 함께 추진해야 한다. AI 정책을 전문가와 행정기관만의 영역으로 남겨두어서는 안 된다. 장애인, 고령층, 정보 취약계층을 비롯한 다양한 도민이 정책 설계와 평가 과정에 참여할 수 있도록 공론화와 의견 수렴 절차를 마련해야 한다. AI 활용에 관한 교육과 정보 접근성도 확대해야 한다. 기술을 이해하고 활용할 기회가 일부에게만 집중된다면 디지털 격차는 결국 정책 참여의 격차로 이어질 수 있기 때문이다.

제주도정과 도의회가 특히 경계해야 할 것은 조례 제정이 곧 문제 해결이라는 안일한 인식이다. 조례의 가치는 선언적인 문구가 아니라 예산과 인력, 담당 조직, 구체적인 시행계획, 점검과 평가 체계를 통해 입증된다. 조례가 제정된다면 도정은 적용 대상과 추진 일정, 평가 기준, 공개 범위, 권리 구제 절차를 구체화하고 그 이행 결과를 도민에게 투명하게 공개해야 한다. 도의회 역시 조례가 현장에서 실효성 있게 작동하는지 지속적으로 점검해야 한다.

AI시대의 민주주의는 기술을 도입하는 속도만으로 평가할 수 없다. 얼마나 많은 행정서비스를 자동화했느냐보다 그 과정에서 도민의 권리가 얼마나 보호되고, 행정의 판단이 얼마나 투명하며, 잘못된 결정에 얼마나 책임 있게 대응하느냐가 더 중요하다.

제주특별자치도가 AI 민주주의를 선도하려면 조례 제정을 성과로 내세우는 데 그쳐서는 안 된다. 도민이 AI 행정을 신뢰할 수 있는 실질적인 제도를 만들고, 기술의 편익은 넓히되 그 위험과 책임은 공공의 원칙에 따라 관리해야 한다. AI가 행정을 대신하는 제주가 아니라, AI를 통해 도민의 권리와 참여를 더욱 강화하는 제주를 만들어야 한다. 그것이 조례안의 취지를 실현하고 제주형 민주적 AI 거버넌스를 정착시키는 길이다.

2026. 10. 14.

사단법인 제주미래전략연구원 김상명 원장

Jeju Future Strategy Institute

* 사단법인 사무국
- 전 화: 064-805-2004 | 팩스: 070-4369-2005
- 이메일: jfsi7878@daum.net
- 주 소: 제주특별자치도 제주시 도남로 117, 603호(도남동, 울담빌딩)