[논술] AI 규제

유럽연합이 현지시각 5월 21일 세계 최초로 인공지능 규제법인 AI법을 최종 승인했다. 이 법은 내달 발효되고 2026년 전면 시행된다. 유럽연합의 AI법은 AI 기술 위험도를 크게 네 단계로 나눠 허용할 수 없는 기술, 높은 위험, 중간 위험, 낮은 위험 등으로 분류하고 기술 개발 과정에서의 투명성을 강화하는 것이 골자다. AI 발전에 따른 사실 오류, 남용 위험성 등에 대한 우려가 커지며 해당 법안에 대한 원만한 합의가 도출된 것이다. AI법에 따르면 일부 AI 기술은 유럽연합 회원국 내에서 아예 사용할 수 없게 된다. 인종, 종교, 성적 지향 등을 기준으로 사용자를 분류하는 생체 정보 스크랩 또는 인터넷이나 CCTV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 그 대상이다. AI 발전이 불러온 차별과 범죄로부터 사용자를 보호하기 위함이다. 수사기관이 원격 생체인식 시스템을 사용하는 것도 원칙적으로 금지된다. 다만 강간·테러 등 중대 범죄 예방과 관련해 용의자를 수색할 땐 사법당국의 승인 아래 AI 기술을 사용할 수 있다. 이처럼 AI 규제에 찬성하는 측은 인공지능의 윤리불감증에 주목하며 알고리즘이 과거의 데이터에서 성차별, 인종차별 등의 편향성을 학습하고 반영할 가능성을 염두에 두고 이를 예방해야 한다고 주장하고 있다. 선례로 미국 기업인 아마존은 엔지니어 채용을 목표로 2014년 AI 채용 프로그램 개발에 착수했으나 AI가 여성과 관련된 단어가 포함된 이력서는 점수를 낮게 채점하는 경향을 보였다. 업계에 남성 엔지니어가 많기 때문에 AI가 남성이 업무 적합도가 높다고 평가한 것이다. 이와 같은 AI의 편향성은 범죄자 식별 과정에서도 나타났다. 최근 미시간주 디트로이트 경찰이 얼굴 인식 기술 사용 과정에서 무고한 흑인 여성을 용의자로 오인하는 사건이 발생했고 이번 허위 식별 사건으로 총 6건의 흑인 대상 안면 인식 허위 고발이 접수됐다. 인생을 희비로 판가름할 채용과 체포라는 일생일대의 순간에 객관성을 바탕으로 작동해야 할 AI 기술이 인간으로부터 학습한 부정적 측면을 잣대로 오류를 범하고 있다. 반면 AI 규제에 반대하는 측은 강력한 규제는 도리어 기술 혁신 저해로 이어질 수 있고 AI가 신산업 성장과 일자리 창출 문제를 해결하는 실마리로 작동할 수 있다는 점을 들며 각국의 상황을 고려해 해당 법안을 적용해야 한다고 주장하고 있다. 일각에서는 한국의 경우 생성형 AI 후발 주자이기 때문에 무작정 선제적 법제화에 나선다면 향후 기술 경쟁력을 완전히 잃게 될 가능성이 있다고 본다. 일자리 창출에 주목해 규제에 반대하는 이들은 AI혁명으로 또 다른 일자리가 창출될 가능성뿐만 아니라 장기적 효율성을 놓고 봤을 때 규제하지 않는 편이 국가의 미래 발전에 있어 중요한 열쇠가 될 수 있다고 말한다. 세계 각국이 포괄적 AI 규제책을 마련하기 위해 고군분투하고 있는 현재 한국 정부는 AI 혁신과 안전·신뢰 등이 균형을 이루기 위한 법 제정을 올해 안에 마무리할 예정이다. 현재 국회 과학기술정보방송통신위원회에는 AI 규제안이 담긴 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 계류 중이다. 인간에 의해 인간을 위해 만들어진 AI 기술은 인간 문화를 답습한다. AI 규제가 필요한 부분중 일부는 인공지능뿐만 아니라 우리 사회로부터 근절돼야 할 문제를 담고 있다. 생성형 AI가 나아가야 할 길은 인간의 시선을 그대로 가져와 상황을 바라봄이 아니라 객관성과 비판적 사고를 탑재해 인류의 삶을 윤택하게 함에 있다고 생각한다. 인공지능의 변화 가능성에 집중하며 대규모 데이터와 패턴을 학습시킨다면 강력한 규제 없이도 윤리불감증을 해결할 수 있지 않을까 싶다.