생성형 AI를 윤리적으로 활용하는 법
- 주윤경 한국지능정보사회진흥원(NIA) 수석연구원
글로벌 시장조사기관 스태티스타(Statista)의 조사 결과 ChatGPT가 사용자 100만명을 확보하는 데 걸린 시간은 단 5일로, 넷플릭스가 3.5년, 인스타그램이 2.5개월이 걸린 것과 비교하면 굉장히 빠르게 확산되고 있다는 걸 알 수 있다. 앞으로 시간을 거듭할수록 생성형 AI는 더 많은 데이터를 학습하고 진화하며 인공지능의 대중화를 이끌 것이다.
그러나 모든 혁신적이고 새로운 기술에도 한계는 있기 마련이다. 기술은 긍정적인 영향과 부정적인 영향을 동시에 갖고 있는 양면적인 특성을 가졌기 때문이다. 생성형 AI도 효율성, 생산성, 혁신성, 창조성 등의 긍정적인 특성 이외에 모호한 저작권, 개인정보유출, 허위조작정보, 정보편향, 오남용 등 부정적인 문제를 내포하고 있어서 심각한 사회적 문제를 가져올 것에 대한 우려도 있다.
각국 정부는 생성형 AI를 포함한 인공지능의 역기능 대응을 위한 각종 제도적 보완책 마련에 집중하고 있고, 기업도 생성형 AI의 경쟁이 본격화되면서 자칫 역기능에 대한 우려로 이용자가 서비스를 회피하거나 피해를 보지 않도록 하기 위해 저작권 등 분쟁으로 소송이나 손해배상을 해야 할 때 서비스 제공자인 기업이 책임있는 조치를 하겠다고 앞다퉈 발표하고 있다.
정부와 기업의 법제도적 장치 마련과 피해조치 및 지원 이외에 사전에 역기능을 예방 할 수 있는 방법도 있다. 바로 이용자의 역기능 대응 역량을 강화하는 것이다. 이용자 스스로 생성형 AI의 한계와 어떤 역기능이 발생할 우려가 있는지 조금이라도 인식하고 있다면 그렇지 않은 것에 비해 보다 긍정적이고 생산적으로 활용할 수 있게 될 것이다.
생성형 AI의 대중화와 기술의 양면성에 대한 준비가 필요한 시점이다. 몇 가지 이슈가 되고 있는 생성형 AI의 역기능과 이용자 스스로 지켜야 할 윤리적 활용에 대해 살펴보겠다.
생성형 AI 저작권과 개인정보 지키며 책임있게 쓰기
생성형 AI는 수많은 데이터를 조합해 기존 콘텐츠를 바탕으로 결과물을 생성하기 때문에 콘텐츠의 소유권이 누구에게 있는지 저작권에 대한 부분이 모호하다. 생성형 AI가 만든 창작물의 저작권을 인정하느냐, 마느냐에 대한 법적 기준도 현재로서는 명확하지 않아 해외에서는 작가단체, 예술가 등의 소송이 빗발치고 있다. 2023년 10월 캘리포니아 북부지방법원은 예술가들이 제기한 이미지 생성 AI 서비스에 대한 저작권 침해 소송을 기각하였는데, 원본 작품을 직접 참조한 것인지 증명 여부가 판단에 영향을 미쳤다. 현재로서는 국내외 모두 생성형 AI가 만들어 낸 것을 창작물로 보기 어렵다는 이유로 생성형 AI의 저작권을 인정하지 않고 있지만 첨예한 논쟁이 많은 부분이라 충분한 사회적 합의를 거친 후 새로운 질서가 정립될 것으로 예상된다.
현행 제도상 판단이 불분명하다고 하더라도 기존 저작물에 기반한 결과물이라는 점에서 원저작자의 저작권을 침해할 소지도 있어 주의가 필요하다. 이용자는 생성형 AI가 제시한 결과물이 누군가의 노력이 담긴 지식재산권일 수 있다는 생각을 바탕으로, 결과물을 활용할 때 생성형 AI가 만든 창작물임을 밝히는 등 책임있게 활용해야 한다.
저작권 문제 못지않게 개인정보 유출에 대한 우려도 생성형 AI의 역기능으로 지적되고 있다. 개인정보가 포함된 데이터를 학습한 후 여과 없이 노출되는 문제도 있을 수 있지만 가장 주의해야 하는 것은 생성형 AI에 결과물을 얻기 위해 입력한 텍스트, 파일 등의 정보 또한 그대로 학습되어 타인에게 보여질 수 있다는 것이다. 더욱이 최근에는 문서 요약, 번역, 제안서 작성 등 업무 효율성을 높일 수 있는 생성형 AI를 직장인이 많이 활용하면서 회사 자료 중 외부로 공개해서는 안 될 회의록, 내부 자료까지 유출되는 문제가 발생하기도 한다. 생성형 AI를 활용할 때는 입력하는 모든 정보가 외부에 공개될 수 있기 때문에 개인정보나 민감정보가 없는지 꼭 한번 살펴봐야 한다.
생성형 AI 환각과 조작에 흔들리지 않고 똑똑하게 쓰기
생성형 AI는 여기저기 퍼져있는 정보를 학습해 결과물을 제시하기 때문에 허위조작정보나, 성차별, 인종차별 등 사회적 편견이 내포된 편향된 정보를 포함될 수 있고 무엇보다도 이런 편향된 정보를 바탕으로 사실이 아닌데도 정답처럼 보이는 그럴싸한 생성형 AI의 답변은 정보획득에 혼란을 가져오는 할루시네이션(Hallucination, 환각) 문제가 발생할 수 있다. 환각에 쉽게 현혹되지 말고 생성된 정보에 대한 진실성과 정확성을 꼼꼼하게 확인하는 교차 검증이 꼭 필요하다.
한편 누군가는 재미로, 누군가는 악의적 목적으로 딥페이크(첨단조작기술)를 악용해 사진, 영상 등 가짜 콘텐츠를 생성하기도 하는데, 기술이 빠르게 고도화되면서 점점 더 진짜와 가짜를 구별할 수 없을 정도로 정교해지고 있다. 2023년 발생한 미국 펜타곤 폭발 사진의 경우 조작된 사진이 퍼지는 동안 실제 미국 주식시장에까지 영향을 미치며 가짜뉴스가 사회적 혼란과 함께 경제적인 위협을 불러온다는 것을 일깨워 주었다.
최근에는 유명인뿐만 아니라 일반인까지 합성 대상이 확대되고 있고, 음성 데이터를 조작해 보이스피싱 등의 범죄에 악용될 소지가 있어서 문제가 더욱 심각하다. 장난으로 시작한 딥페이크 합성물이 디지털 공간 내에서 확산될 경우 여론조작, 명예훼손 등 경제·사회적 범죄를 유발할 위험이 있다는 것을 잊지 말고 올바르게 판단하여 활용하는 것이 중요하다.
|
▲ 생성형 AI로 만든 펜타곤 대형 폭발 가짜 사진(출처: CNN, ‘Verified’ Twitter accounts share fake image of ‘explosion’ near Pentagon, causing confusion, 2023.5.23.) |
생성형 AI를 윤리적으로 활용하기 위한 삼박자
생성형 AI를 긍정적으로 활용하기 위해서는 정부, 기업, 이용자의 삼박자가 모두 잘 맞아야 한다. 서비스 제공 기업은 생성형 AI의 이면을 냉철하게 진단하고, 누구보다 윤리적으로 책임감 있게 기술을 설계해야 한다. 정부도 모든 국민이 안전하게 인공지능을 활용할 수 있도록 이용자 보호를 위한 제도 보완 노력을 해야 하며, 생성형 AI의 위험에 대한 교육, 가이드라인 등을 통해 생성형 AI의 기본 활용 방향, 사용할 때 지켜야 할 윤리적인 부분을 국민께 알리고 공감대를 형성할 필요가 있다.
가장 중요한 것은 이용자 스스로 판단과 검토를 통해 생성형 AI를 안전하고 책임감 있게 활용하는 윤리적 마인드를 갖추는 것이다. 이용자가 생성형 AI를 활용하기 전에 발생가능한 문제에 대한 윤리적인 책임과 올바른 사용에 대해 공감하고 이해한다면 역기능은 최소화하면서, 긍정적이고 생산적으로 활용할 수 있을 것이다.
방송통신위원회와 한국지능정보사회진흥원은 국민들의 이해를 돕고자 생성형 AI 윤리 가이드북을 발간하였다. 이 가이드북은 생성형 AI를 활용하면서 발생할 수 있는 저작권, 책임성, 허위조작정보, 개인정보 및 인격권, 오남용 등 윤리적인 문제와 대응 방안을 Q&A 방식으로 쉽게 풀어 설명하고 있다. 또한 생성형 AI를 활용한 후에 가이드북이 제공하는 ‘생성형 AI를 현명하게 활용하기 위한 10가지 체크리스트’로 점검을 해 보는 것도 생성형 AI를 윤리적이고 생산적으로 활용하는데 참고가 될 것이다.
|
▲ 생성형 AI 체크리스트 (출처: 방송통신위원회·한국지능정보사회진흥원, 생성형 AI 윤리 가이드북) |
이 내용은 방송통신위원회와 한국지능정보사회진흥원이 발간한 「생성형 AI윤리 가이드북」의 내용을 바탕으로 작성되었으며, 가이드북은 www.nia.or.kr에서 확인할 수 있다.