“GPT 혁명, 교육에는 재앙될 것… 과도한 경쟁 앞서 새규범 마련을”[손재권의 실리콘밸리 투데이]

[백한진]

“GPT 혁명, 교육에는 재앙될 것… 과도한 경쟁 앞서 새규범 마련을”[손재권의 실리콘밸리 투데이]

서울신문 : 2023-04-03 00:08

롭 라이히 스탠퍼드대 인간중심인공지능연구소 부소장 인터뷰

“챗GPT 등 거대 언어 모델이 출현함과 동시에 다양한 유형의 피해가 발생할 수 있습니다. 또는 이 문제와 관련된 다양한 것들을 측정하는 사회 기술 지표(벤치마크)가 필요합니다.” 롭 라이히 스탠퍼드대 인간중심인공지능연구소(HAI) 부소장은 기자와의 단독 인터뷰에서 챗GPT 출연 이후 세계는 큰 정치사회적 변화를 겪고 있으며 전 세계가 그 변화를 받아들일 준비가 안 돼 있다며 이같이 말했다.

▲ 롭 라이히 스탠퍼드대 인간중심인공지능연구소(HAI) 부소장.

●라이히, 기술 발전 문제 탐구 사상가

라이히 교수는 “사실 구글 등 많은 회사들이 비슷한 언어 모델을 갖고 있기 때문에 챗GPT의 출현 이후 오픈AI의 직원들도 많이 놀라고 있다”며 “앞으로도 (인공지능 개발 경쟁으로 인해) 많은 변화가 있을 것”이라고 말했다.

이 인터뷰는 스탠퍼드대 HAI에서 개최한 ‘임베디드 윤리 콘퍼런스’ 직후에 이뤄졌다. 라이히 교수는 스탠퍼드대 HAI 부소장이자 정치학과 교수로 재직 중이다. 그는 기술의 발전이 사회에 미치는 영향과 파생되는 문제점을 탐구하는 선구적 사상가로 꼽히며 뛰어난 강의로 스탠퍼드대에서 가장 우수한 교직원에게 수여하는 월터 J 고어즈 상 등을 수상했다. 지난해엔 실리콘밸리 빅테크 기업과 그 속에서 일하는 엔지니어들의 사고방식을 다룬 ‘시스템 에러’를 펴내기도 했다.

라이히 교수가 스탠퍼드대 HAI 부소장으로 재직 중인 사실 자체가 인공지능 연구의 글로벌 센터로 불리는 스탠퍼드대가 기술과 사회적 영향 그리고 윤리의 균형을 잡기 위해 노력 중인 사실을 보여 준다.

라이히 교수는 챗GPT 등 생성 AI가 의학, 교육, 디자인, 법률, 예술, 일 등의 분야를 어떻게 바꾸고 영향을 미치는지를 다룬 ‘생성 AI: 스탠퍼드 HAI의 관점’이란 리포트를 발표한 바 있다. 12명의 스탠퍼드대 교수 및 글로벌 리더들의 생각을 담은 리포트로, 출간 직후부터 큰 파장을 일으켰다. 라이히 교수는 이 리포트에서 GPT와 같은 생성 AI는 현재 교육계에 재앙이며, 교육적 환경과 전문적 환경에 적합한 규범이 필요하다고 역설한 바 있다.

라이히 교수는 교육계에 생성 AI가 부정적 영향을 미칠 것이란 주장의 배경을 묻자 “교육 환경과 작업 환경에는 중요한 차이점이 있다. 지금 테크 기업들의 경쟁적인 발표는 문서의 완성이나 보고서 작성 등 생산성 향상에는 기여하지만 교육 환경에는 부적절하다. 아무리 챗GPT를 기반으로 인간이 내용을 추가한다고 해도 학생들이 생각하는 법을 배우는 건 아니다”라고 지적하고 “아직 지식의 형성 과정을 배우지 못했거나 창작의 과정을 알아야 하는 학생들은 생성 AI를 학습의 보조 수단으로 사용하기보다 학습의 대체 수단으로 사용할 것”이라고 말했다.

그는 또 “학생들은 GPT로부터 얻은 지식을 자신이 가지고 있던 기존의 지식과 섞어 증강(augmented)하는 게 아니라 이를 대체하려 들 것이다. 전문적인 세팅과 교육 목적의 세팅은 달라져야 한다”면서 “챗GPT 등 생성 AI는 교육 분야에는 재앙일 수 있으며 적절한 규범이 필요하다”고 재차 강조했다.

▲ 스탠퍼드대 HAI에서 펴낸 ‘생성 AI: 스탠퍼드 HAI의 관점’이란 리포트 표지. 이 리포트에서 생성 AI가 의학, 교육, 디자인, 법률, 예술, 일 등의 분야를 어떻게 바꾸고 영향을 미치는지를 다뤘다.

●업계, 책임 있는 예방조치 없어 우려

생성 AI가 교육계에서 일으킬 재앙을 막기 위해선 다양한 업계 협력을 통해 새로운 규범을 마련해야 한다고 말했다. 이 리포트에서 라이히 교수는 기업들이 최신 모델 출시를 위해 경쟁하는 환경에서 윤리적, 사회적 영향이 간과될 우려가 있기 때문에 관련 규범 개발이 시급하다고 강조했다.

같은 리포트에서 피터 노비그(구글연구원 및 나사 전산과학 부문 책임자) 스탠퍼드대 HAI 특별교육연구원도 “학습자 수준에 맞춘 인공지능 강의 내용과 속도가 가장 최선의 학습 방법이다. 하지만 교육자가 부족하다. 모든 학습자가 높은 상호작용이 이루어지는 환경에서 교육을 제공받기에는 실질적으로 어려움이 존재한다”며 교육 시스템의 불평등이 앞으로 문제로 대두될 것이라고 예측했다.

라이히 교수가 GPT4 등 생성 AI에서 발생할 문제가 인공지능 자체의 문제보다 업계의 ‘과도한 경쟁’에서 나올 것이라고 전망한 것은 무리가 아니다.

지난달 10일 오픈AI의 정식 GPT4 출시 전후로 지난달은 ‘10년 같은 한 달’이라는 평가를 받을 정도로 AI 역사에 남을 만한 개발과 발표가 이어졌다.

실제 GPT4 공개 직전 구글은 구글 워크스페이스에 AI를 통합한다고 발표했으며 이후엔 마이크로소프트가 엑셀, 파워포인트, 워드 등의 오피스365에 생성 AI 프로그램인 ‘코파일럿’ 기능을 내장, 출시한다고 발표해 서비스 출시 경쟁에 불을 지폈다. 이후 지난달에 어도비, 엔비디아, 줌, 골드만삭스 등이 생성 AI 기능을 내장한 제품을 마치 기다렸다는 듯 공개했다.

그야말로 기업들에 ‘생성 AI 황금기’가 본격적으로 개막된 것이다. 이를 두고 빌 게이츠 게이츠재단 이사장은 ‘새로운 AI 시대가 개막했다’는 제목의 게이츠 노트를 통해 “AI 발전은 마이크로프로세서, 개인용 컴퓨터, 인터넷, 휴대전화의 탄생만큼이나 근본적인 변화”라며 “AI는 사람들이 일하고, 배우고, 여행하고, 의료 서비스를 받고, 서로 소통하는 방식을 바꿀 것이다. 모든 산업이 이를 중심으로 재편될 것”이라고 평가했다.

하지만 지나친 개발 및 출시 경쟁으로 인한 ‘피로’를 호소하고 역작용을 우려하는 전문가들의 목소리도 높아졌다.

실제 미국 비영리단체 ‘퓨처오브라이프 인스티튜트’는 ‘대규모 AI 시스템’ 개발 중단을 촉구하는 공개서한을 지난달 29일(현지시간) 발표했다. 전 세계 AI 연구소에 “GPT4보다 강력한 AI 시스템에 대한 훈련(training)을 최소 6개월 동안 멈추라”고 요구하는 내용이다.

▲ 오픈AI의 챗GPT 초기 화면.

●머스크·유발 하라리 등 1200명 서명

일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동 설립자, 에마드 모스타크 스태빌리티AI CEO 등 기업가를 포함해 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 버클리대 교수, 유발 하라리 히브리대 교수, 앤드루 양 등 저명한 교수, 정치인 등 총 1200여명이 서한에 서명했다. 대규모 AI 시스템 개발 경쟁이 무분별하게 진행돼 인류에 위협을 초래할 수 있다는 이유다.

이들은 이번 성명에서 AI 개발 일시 중단을 계기로 독립된 외부 전문가가 엄격하게 감독하는 ‘발전된 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜’을 공동으로 개발해야 한다고 주장했다. 첨단 AI 시스템을 더 정확하고, 안전하고, 투명하고, 신뢰할 수 있게 만들어야 하며 AI 개발자는 정책 입안자들과 협력, 강력한 ‘AI 거버넌스 시스템’을 만들어야 한다고 주장했다. 이는 라이히 교수의 주장과도 일맥상통한 의견이다.

순다르 피차이 알파벳(구글 모회사) CEO도 이에 동의했다. 그는 지난달 31일 뉴욕타임스 팟캐스트 ‘하드포크’와 진행한 인터뷰에서 “공개서한의 정신은 충분히 가치 있다고 생각한다”며 “AI는 제대로 규제(regulate)하지 않기에는 너무 중요한 영역”이라며 “이런 논의가 진행되고 있다는 사실이 기쁘다. 개인정보 보호 규정을 제대로 마련하는 것부터 (논의를) 시작하면 좋을 것”이라고 말했다. 오픈AI가 촉발한 치열한 AI 기술 개발 경쟁과 함께 사회에서 제대로 받아들이고 활용할 수 있도록 하는 ‘거버넌스 및 규칙’ 논의도 본격적으로 시작되는 형국이다.

글·사진 더밀크 대표