제주도정의 인공지능(AI) 민주주의 실현에 대한 기대

[김상명교수]

제주도정의 인공지능(AI) 민주주의 실현에 대한 기대

정부는 인공지능(AI) 기술을 행정과 공공정책 결정의 핵심 도구로 추진하고 있다. 이에 따른 제주도는 그 효율성과 신속성으로 한 알고리즘 행정에 복잡한 제주 사회 문제를 해결하는 방안으로 빠르게 AI혁신추진단을 출범시킨바 있다.

이에 일각에서는 다양한 질문을 제기하고 있는 것이 현실이다. 행정서비스에 있어서 알고리즘의 판단이 도민의 자유와 권리를 침해하는 경우에 그 책임은 누구에게 있는가라는 질문에서부터 기술 편향과 정보 격차 속에서 민주적 절차는 유지될 수 있는가에 대한 질문 앞에 서게 되었다.

이에 공공인공지능의 책임 있는 활용과 도민의 정책결정 과정 참여 및 숙의를 지원하기 위한 제도적 기반을 마련하여 인공지능 시대의 민주적 가치 실현에 기여하고자 제주도의회의 조례안을 입법예고 했다.

제주도정의 속도감 있는 움직임에 대한 그 제도적 기반과 근거를 마련하기 위한 도의회의 발 빠른 응답이다. 바로 한권의원 대표 발의‘제주특별자치도 인공지능 민주주의 실현 지원 조례안’이다. 이는 지방자치단체 차원에서 답하고자 하는 전국 최초의 선제적 시도라는 점에서 주목받는다.

이 조례의 핵심은 공공 부문에서 AI가 활용될 때 효율성보다 도민의 주권과 기본권을 우선시하겠다는 것이다. 그동안 기술 도입 논의가 주로 서비스 품질 개선이나 행정 비용 절감에 집중되었다면, 이번 조례는 AI 알고리즘의 투명성, 공정성, 통제 가능성을 규범화하여 기술 통치(Technocracy)의 위험을 방지하고자 한 것으로 볼수 있다. 이는 AI 시대에도 행정과 정책의 중심은 기술이 아닌 도민이어야 한다는 민주주의의 불변 가치를 재확인한 선언적 의의를 지닌다고 평가할 수 있다.

특히 제주특별자치도가 가진 특수성은 이 조례의 필요성을 더욱 증대시킨다. 제주도는 특별자치도라는 제도적 특수성 속에서 복지, 환경, 교통, 관광, 노동 등 행정서비스의 다양한 분야에 첨단 디지털 행정을 적극 도입해 진행하는 중이다. 그러나 복지 수급자 선정이나 주민 지원책 결정, 환경 규제 모니터링 등 도민의 직접적인 권리·의무에 영향을 미치는 영역에 AI가 깊숙이 개입할수록, 알고리즘의 블랙박스 문제는 민주적 정당성을 위협하는 불안 요소가 될 수 있다.

위 조례안은 공공정책에 AI를 활용하는 과정 전반에서 도민의 알 권리와 영향평가 절차를 명시한 것은 기술의 비가시성에 대응하는 강력한 민주적 안전장치가 될 것이다.

물론 조례 제정 자체가 모든 문제를 해결하는 완결표는 아니다. 선언적 가치가 실제 도민의 권리 보호로 이어지기 위해서는 구체적인 실행 체계가 따라야 한다. 첫째, 공공 AI 시스템에 대한 철저한 영향평가와 사후 검증 제도가 뒷받침되어야 한다. 데이터 편향으로 인해 사회적 약자가 불이익을 받지 않도록 알고리즘을 주기적으로 점검하는 구체적 가이드라인이 필요하다. 둘째, 기술 접근성에 따른 디지털 격차가 민주주의 격차로 이어지지 않도록 도민 대상 AI 리터러시 교육 및 디지털 포용 정책이 병행되어야 한다. 마지막으로, AI의 판단에 오류나 침해가 발생했을 때 도민이 이의를 제기하고 사람이 재판단하도록 하는 인간의 최종 통제권이 실질적으로 보장되어야 한다.

AI 기술의 발전은 불가피하다. 복잡한 행정의 디지털 전환 역시 거스를 수 없는 시대적 흐름이다. 그러나 어떠한 혁신적 기술도 민주적 절차와 도민 주권이라는 지방자치의 본질보

다 앞설 수는 없다. 제주특별자치도 AI 민주주의 실현 조례는 기술 주도형 행정의 그늘을 선제적으로 예방하고, AI와 민주주의가 공존할 수 있는 규범적 기틀을 마련했다는 점에서 의미가 깊다. 이번 조례가 단순한 법안 제정을 넘어, 기술에 휘둘리지 않고 기술을 주도하는 성숙한 지방 AI 거버넌스의 모범적 선례로 거듭나길 기대한다.

2026. 10. 10.

사단법인 제주미래전략연구원 김상명 원장

Jeju Future Strategy Institute

* 사단법인 사무국
- 전 화: 064-805-2004 | 팩스: 070-4369-2005
- 이메일: jfsi7878@daum.net
- 주 소: 제주특별자치도 제주시 도남로 117, 603호(도남동, 울담빌딩)