[한국과총 Webzine] “AI에 대한 논의와 규제ㆍ허용범위 등 초기에 설정해야···"[ 제154회 수요포럼 ]

[이윤배]

초지능시대의 인공지능 기반 혁신전략 [ 제154회 수요포럼 ] 

인공지능은 국가 간 주요 경쟁 분야이자 디지털 경제 시대에 있어서 중요한 축으로, 세계 주요국들이 관련 정책과 비전을 경쟁적으로 발표하고 있다. 특히 최근에 OpenAI사가 발표한 질의응답형 인공지능 ‘챗GPT(ChatGPT)’에 대한 관심이 뜨거운 가운데 국내 인공지능 기술의 경쟁력을 확보하기 위해 인공지능 현황을 파악하고 앞으로의 대응 방안을 논의하는 자리가 마련됐다.

8일 한국과학기술기획평가원은 ‘초지능 시대의 인공지능 기반 혁신전략’을 주제로 제154회 KISTEP 수요포럼을 열었다. 정병선 KISTEP 원장은 개회사를 통해 “인공지능은 국민 모두가 관심을 갖고 있는 핫이슈로, 지금까지 인공지능은 빠르게 성장해 왔다. 향후 5년간 연평균 36.2%의 성장률이 예상되고 있으며 앞으로는 인공지능이 국가의 안보와 산업에 결정적인 영향을 미칠 것이기 때문에 대부분의 선진국들이 국가전략으로 추진하고 있다”고 강조했다.

아울러 “미국에서도 오래전부터 AI 이니셔티브를 국가적으로 추진하고 있고 중국도 기술 자립화를 목표로 인공지능 발전 계획을 진행하고 있다. 우리나라도 국가 전략기술의 하나로 인공지능을 선정해서 추진하고 있다”며 “전략이나 인프라적인 것은 우리나라가 앞서 있는데 여전히 가장 부족한 것이 우수인력 확보다. 오늘 포럼이 초지능 시대에 어떻게 하면 AI를 범국가적 차원에서 전략적이고 혁신적으로 적용할 수 있을지 함께 고민하는 자리가 되기를 바란다”고 덧붙였다.

▶ 전체 영상 (영상 출처 : KISTEP)

초지능 시대의 AI 기반 혁신전략은?
포럼 첫 순서로 전승수 KISTEP 사업조정본부장이 황태호 한국전자기술연구원 반도체·디스플레이 연구본부장을 대신해 주제발표를 했다. 전 본부장은 “AI는 지난 10여 년 동안 의학이나 게임, 로봇, 자동화 시스템 등 다양한 분야에서 꾸준히 적용이 이뤄져 왔는데 최근에 챗GPT라는 대화형 생성 학습 거대 모델이 실질적으로 우리 생활 속에 들어오면서 개인이나 기업, 정부, 국가에 굉장히 많은 변화와 혁신의 가능성을 확인할 수 있었기 때문에 외계인의 침공과 같은 충격적인 형태로 받아들여지고 있다”고 AI에 관한 현 상황을 설명했다.

거대 인공지능은 라벨링 없는 대규모 데이터의 특징을 학습하고, 원하는 형태로 복원하고 변형하는 오토인코더(Autoencoder) 모델과 2021년 구글과 스탠퍼드의 비지도 학습(Unsupervised Learning) 기반의 자연어인지 및 다국어 번역을 위해 개발된 트랜스포머(Transfomer) 모델로 나뉠 수 있다. 트랜스포머 모델은 문장 속 단어와 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 병렬 처리 학습하는 인공신경망 기술을 사용하고 있다.

그중에 GPT(Generative Pre-Traind Transformer)는 OpenAI사가 만든 언어 예측 모델로, 2020년 6월 공개 소프트웨어로 발표된 GPT-3의 전체 버전은 1750억 개의 매개변수를 가지고 있고 AI 기술 혁신을 주도 하고 있다. 전 본부장은 “GPT가 2018년부터 2020년까지 버전 1에서 3까지 업그레이드를 쭉 해왔는데 주목할만한 것은 다룰 수 있는 변수들의 숫자가 기하급수적으로 커가고 있다는 것”이라며 “최근에 공개된 챗GPT는 인간 피드백을 통한 강화학습 적용으로 대화에 최적화되어서 전 세계적으로 폭발적 관심을 모았다”고 소개했다.

또 전 본부장은 “곧 공개될 챗GPT3.5부터는 대화의 수준과 대화의 내용, 의미 구조들이 더 복잡해지고 그것에 대응할 수 있는 모델의 기능들 역시 계속 향상될 것”이라며 “이런 과정 속에서 학습 모델의 능력이 계속 높아지고 적용되는 분야도 확대될 것이기 때문에 최근에는 인공지능에 의한 지식의 생성, 특히 의학논문과 같은 지적재산 관련 이슈들에 대한 문제 제기도 활발히 이뤄지고 있다”고 설명했다.

실제 챗GPT 활용 예를 보면, 의학 논문과 관련된 특정 저널에 참여하거나 챗GPT가 생성한 논문이 심사를 통과하는 결과들이 발생하고 있다. 또 특정 저널에서는 논문 참여 저자로 챗GPT를 포함시켜서 발간한 사례도 있다. 물론 세계 3대 저널인 네이처(Nature)나 셀(Cell)과 같은 경우에는 챗GPT의 저자 참여를 불허한다고 발표했지만 앞으로 새로운 형태의 지적재산과 저작물 참여에 대한 주체로서의 해석은 계속 논쟁거리가 될 것으로 보인다.

앞으로 예상되는 판도 변화에 대해 전 본부장은 “챗GPT 공개 이후 구글 최고경영자 순다 피차이는 코드 레드급 위협으로 규정하고 위기 대응을 요구했다. 마이크로소프트는 2023년 3월에 검색 엔진 빙(Bing)에 챗GPT를 탑재한 버전을 출시할 예정이다. MZ세대 이후 ‘챗봇 네이트브’ 세대의 등장으로 기존 검색 엔진이 사라질 위기에 놓여 있다”고 진단하면서 “지식을 얻기 위한 노력이 줄어들어서 지식 노동의 가치 저하가 일어나고 검색 엔진 시대에서 창의성 엔진 시대로 전환이 된다. 지금까지는 식별 AI가 주로 사용되었으나 신기술과 더 많은 데이터, 더 저렴한 컴퓨팅 성능 등으로 쉽게 생성 AI를 구축할 수 있는 환경으로 전환될 것”이라고 내다봤다.

이처럼 이미 AI가 우리 생활과 산업 속으로 들어왔기 때문에 인공지능으로 인해 생산성이 대폭 향상될 것이라는 편익 중심 관점과 함께 사회적, 경제적 혼란 야기할 것이라는 갈등적 측면도 있다. 전 본부장은 “사실로 확인되거나 증명할 수 없는 AI의 생산 저작물에 대해서 우리가 어떻게 활용하고 공유하고 이해할 수 있을 것인가에 대한 논의가 필요하다. 또 AI가 생성한 결과물에 대해서 부가가치를 얼마나 인정하느냐 하는 것도 문제다. 즉 고퀄리티의 실질적 부가가치를 생산하는 AI라는 새로운 플레이어가 경제활동에 투입됐기 때문에 이에 대한 규제의 필요성이 대두되고 있다”고 설명했다.

전 세계의 새로운 입안자들과 강경한 규제 기관들은 AI 기업들에 강력한 규제 의지를 보이고 있다. 유럽연합에서는 인공지능법을 올 여름 법안 수정을 마무리할 계획이고, 미국 연방거래위원회도 기업들의 데이터 수집과 AI 알고리즘 활용에 대해서 관련법을 검토, 규제하는 계획을 갖고 있다. 중국은 최근 이미지나 동영상에 포함된 인물의 동의를 받지 않고 딥페이크를 생성하는 행위를 금지하고 있다. 하지만 규제는 소비자 보호와 기술혁신 위축 방지라는 두 가지 사이의 균형점을 모색해야 한다.

따라서 인공지능은 기술적 차원을 넘어 인문, 사회 등 모든 영역에 걸친 패러다임의 변화를 초래할 것이기 때문에 국가 전반의 준비가 필요하다. 전 본부장은 “글로벌 주요국은 인공지능으로 인한 사회적 패러다임 변화에 대응할 수 있는 범국가적 AI 전략 실행을 위해 정부 각계 조직의 혁신 역량을 높이는 새로운 AI 거버넌스를 도입하고 있다. 전담 실행조직과 협력 네트워크, AI 연구 조직, AI 윤리 전담 조직 등을 추진하고 있다”며 “우리나라도 AI에 대한 새로운 논의와 규제, 허용범위 등을 초기에 설정해야 한다. 그래야 AI로 인한 편익이 크게 확대됐을 때 예상되는 우려들을 최소화할 수 있을 것”이라고 강조했다.

▶ 전승수 한국과학기술기획평가원 본부장 발제 (영상 출처 : KISTEP)

패널토론, AI 기술 개발 역량 강화 방안 모색
주제발표 후에는 전승수 본부장의 진행으로, 박외진 아크릴 대표이사와 문형돈 정보통신기획평가원 기술혁신본부장, 임희석 고려대학교 컴퓨터학과 교수가 패널로 참여한 가운데 다양한 연구 주체가 AI 기술 개발 역량을 높일 수 있도록 인력, 데이터 등에 대한 접근성을 높이는 방안들에 대해서 토론하고 논의하는 시간을 가졌다.

박외진 대표이사는 AI 민주화와 생성형 AI, 지속가능한 AI에 관해 토론했다. 먼저 AI 민주화에 관련해서는 “기술에 민주화라는 단어를 쓸 때는 해당 기술에 대한 더 많은 사람들의 접근성이 확보되어야 한다는 측면과 해당 기술을 이용할 수 있는 기회가 많이 늘어났다라는 측면이 고려되어야 한다. 기술에 접근성이 좋아졌다는 것은 숙련된 전문 지식 없이도 기술을 활용할 수 있도록 도와주는 다양한 소프트웨어나 서비스들이 많이 만들어지고 있다는 것을 의미한다”며 “대표적으로 로우코드와 같이 AI 기술 개발을 매끄럽게 도와줄 수 있는 많은 인공지능 플랫폼들이 시장에 속속 등장하고 있다”고 설명했다.

다음은 생성형 인공지능(Generative AI)의 약진인데 문제는 정제되지 않은 데이터들이다. 박 대표이사는 “챗GPT만 하더라도 3천억 개가 넘는 데이터를 수집했는데 그것을 깔끔하게 정제한다는 건 불가능하다. 아무리 휴먼 피드백에 의한 강화학습을 했다고 하더라도 쉽지 않기 때문”이라고 서명하면서 “사실 거대 언어모델 AI가 언어를 이해하고 있다고 믿는 사람들은 아무도 없을 것이다. 굉장히 대규모 데이터와 대규모 인프라를 동원한 언어모델 또는 하이퍼 스케일의 인공지능 모델 전쟁에 빅테크들이 계속 돈을 쏟고 있다 보니 본질적인 연구들이 소외가 되고 있고, 그런 R&D에서의 편향성 같은 것도 굉장히 우려된다”고 지적했다.

지속가능한 AI에 대해서 박 대표이사는 “트랜스포머 모델 AI가 갖고 있는 넷제로 환경을 파괴하는 현상에 대해서 의외로 많은 사람들이 주목하지 않고 있다”며 “ 2050년이 되면 유럽에서는 가솔린 엔진 차량이 다니지 못하게 하는 법안이 추진되고 있다. 그것을 대신할 자율주행차에 필요한 지속가능 AI에 대한 관심과 연구가 필요하다”고 강조했다.

문형돈 기술혁신본부장은 인공지능 기술 적용 범위와 신뢰성 확장을 주장했다. 그는 “인공지능은 24개월마다 50배씩 발전한다는 보고서들이 있다. 이처럼 빠르게 성장하고 있는데 그 과정에 데이터들이 축적되고 컴퓨팅 파워도 커지며 혁신적 기술 발전으로 챗GPT와 같은 인공지능이 일상화되고 있음을 체감할 수 있다”며 “특히 최근에는 단일 지능을 넘어서서 복합 지능이 되고 초거대 AI를 넘어서는 차세대 AI 기술에 대한 논의도 진행되고 있다. 단적으로 보면, 이미지 분류는 이미 사람의 오류를 넘어섰고 영어 언어를 이해하는 것도 AI 기술들이 사람의 기본적인 인지능력을 넘어선 것으로 판단되고 있다”고 설명했다.

이 같은 기술의 발전이 가능하게 된 것은 최근의 컴퓨팅 파워의 발전 때문이다. 문 기술혁신본부장은 “인공지능이 데이터와 알고리즘, 컴퓨팅 파워 등 3가지 축으로 발전한다고 보는데 트랜스포머 모델과 같은 기술이 공개되면서 알고리즘의 발전과 패러다임의 큰 변화가 더 이상 빠르게 진행되지 않을 것으로 전망되기 때문에 컴퓨팅 파워가 더 중요해질 것으로 예측되고 있다”며 “결국 하드웨어적인 관점에서 AI 기술 역량을 높여가는 것도 굉장히 중요한 상황이다. 이를 위해서 개별적인 기업들이 각각 고유의 AI 반도체들을 개발하고 그것들을 데이터센터에 적용하기 위한 노력들을 많이 하는 것이 또 하나의 추세”라고 진단했다.

또 “우리 기업들의 R&D에서 대기업들은 초거대 AI 기술 개발에 중점적으로 노력하고 있고 관련한 비즈니스를 만들며 그것을 위한 연구소 설립과 인력 확보를 위해 노력 중이다. 그에 비해 중소 스타트업들은 방향이 약간 좀 다르다. 초거대 AI 쪽을 활용하든 아니면 특정 산업에 접목시켜 도메인에 특화된 익스포터들과 접목하는 도메인에 특화된 기술 개발에 치중하고 있다”며 “앞으로 뚜렷한 주도국이 없는 차세대AI 기술을 선도적으로 개발하되 단계적으로 추진해야 하며, 초거대 AI 등으로 급증하는 컴퓨팅 자원, 전력 문제에 대응하기 위해 인공지능에 최적화된 초고속·초저전력 반도체를 개발해야 한다”고 주장했다.

임희석 교수는 방대한 양의 학습데이터와 컴퓨팅 자원의 중요성을 언급했다. 그는 “세계적인 수준의 성능을 보이며 회자되고 있는 AI들은 엄청나게 많은 데이터를 이용하는 모델이다. 딥러닝 기반의 모델 자체가 방대한 양의 컴퓨팅 자원과 레이블링 된 학습 데이터를 통해서 만들어지기 때문”이라며 “이런 데이터의 양을 감안할 때 전 세계적으로 한국어를 사용하는 인구가 많지 않기 때문에 영어에 비해 데이터 확보가 어려운 실정이다. 그나마 정부 주도로 몇 년간 계속 인공지능 학습 데이터 구축 사업을 수행하고 있어 다행”이라며 “AlHub에 구축된 데이터가 국내외에서 가시성을 확보할 수 있도록 제도적 개선이 필요하다”고 강조했다.

그런데 궁극적으로 우리는 조금 더 지능을 갖춘, 인간의 지능에 더 가까운 범용인공지능(AGI : Artificial General Intelligence) 구현을 원한다. 이를 위해 임 교수는 “현재 딥러닝 기반의 인공지능 기술이 가지고 있는 한계를 뛰어넘을 수 있는 새로운 모델 연구가 필요하다”며 “사실 우리나라 AI 연구자들의 기술이 상당한 수준에 와있지만 실패를 두려워해 혁신적이고, 남들이 시도하지 않는 것들을 할 때 주저하는 경우가 많다. 이제 우리 연구자들도 패스트 무버로서 과감한 시도를 해나갈 필요가 있다”고 조언했다.

끝으로 임 교수는 “대학을 빅테크 기업과 비교하면 여러 가지 자원 면에서 많이 부족하다. 그런데도 기업에서 대학을 중요시하는 것은 학생들을 기업에 많이 보내 달라는 뜻이다. 그만큼 인재 확보가 중요하기 때문”이라며 “대학원생들이 군대 문제 때문에 연구가 중단되는 경우가 많이 있다. 이를 해결할 수 있는 제도들을 더 많이 활성화하고, 수혜 인원도 증가시킬 필요가 있다. 또 요즘 MZ세대들이 복지나 연봉 등에 민감하기 때문에 그들을 유인할 수 있는 방법들도 모색해서 우수 인재를 확보하는 것이 더욱 중요하다”고 덧붙였다.

▶ 패널토론 및 질의응답 (영상 출처 : KISTEP)