이계성 유튜브 방송 2023.3.30 정의구현사제단 때문에 교회떠나는 신자들 클릭=https://www.youtube.com/live/G72YpKP23_A?feature=share -------------------------------------------- [칼럼]인공지능(AI)챗봇이 마든 정보가 우리사회를 파멸시킬 수도 있다
AI챗봇 학습한 데이터를 토대로 확률적으로 단어를 선택하고 문장을 구성하는 과정에서 생기는 오류가 문제 AI챗봇이 공포스러운 존재로 과장도 문제지만 정보를 악용하는 것이 더문제
AI 챗봇 경쟁에서 지면 낙오된다는 절박한 경쟁의식 속에 사업자들이 밤낮을 가리지 않고 뛰고 있어 새로운 챗봇들이 쏟아져 나와 맹목적인 AI 기술 개발이 초래할 위험에 대한 최소한의 안전장치 마련을 위해 국가가 나서야
대 AI 기술 개발에는 천문학적인 국가 예산과 투자가 집중되는 반면, 챗봇시대가 자져올 사회윤리적 문제에는 관심도 지원도 없어 불균형의 갖고올 결말은 우리 정신세계의 파멸, 생각만으로도 아찔해
챗GPT "독도, 한국 소유 아냐"...삼국통일? "광개토대왕" 오류 다반사 챗GPT와의 대화에서 웃음은커녕 두려움에 몸이 떨려 개발보다 먼저 사용 윤리부터 제정해야
챗봇이 만든 거짓 정보도 사실로 믿어 2030세대 대부분이 휴대전화에 인공지능(AI)챗봇을 깔아 이용하고 있다. 인공지능(AI)챗봇으로 공부해 의사시험 변호사시험에 합격했다는 보도가 나오자 국민들 관심이 매우 높아졌다. 공지능(AI)챗봇 내가 ‘제사를 지내야 하나요 안 지내도 되나요’라고 물으니 제가 대답할 문제가아니라 가족들 간에 의논해서 결정할 문제라고 명확한 답변을 해 주었다. 또 3박4일 제주 여행을 하려는데 일정표를 짜달라고 했더니 날자별 시간대별로 짜주었다. 할루시네이션(hallucination) 현상은 AI가 종래 학습한 데이터를 토대로 확률적으로 단어를 선택하고 문장을 구성하는 과정에서 생기는 오류다. 이런 AI를 인간지능을 넘어선 공포스러운 존재로 의인화하는 것은 과장이다.하지만 정작 두려운 건 AI를 악용하는 사람들이다. 교수들은 학생들이 챗GPT로 숙제를 해서 낼까 걱정이고 시민들은 챗봇이 만들어낸 허위 조작 정보의 범람을 걱정하고 있다. 챗봇 세상 어떻게 믿고 살것인가 챗GPT를 활용하면 누구나 쉽게 그럴듯한 뉴스를 만들 수 있다. 모든 영역에서 언뜻 보아 자연스럽고 사실 같은 가상 뉴스가 양산될 수 있다. 양산된 가자뉴스를 다른 인공지능인 포털 알고리즘이 퍼 나르면 일시에 많은 사람들이 볼 수 있게 된다. 사람들에게 한번 입력된 뉴스는 가짜뉴스라고 밝혀져도 한번 생성된 뉴스는 인식속에 남아 있다. 여론조사에서 30%가 넘는 응답자들은 사드 전자파가 인체에 유해하고, 윤대통령 청담동 술자리가 실제 있었으며, 김건희 여사가 유흥업소 출신이고, 대장동 사건은 윤석열 게이트라고 믿고 있다. 챗봇이 만든 가짜뉴스가 여론 호도 챗봇 만든 가짜뉴스가 쏟아지면 세상은 경악할 수준에 이르게 될 것이다. 최근 미국의 빌게이츠의 마이크로소프트(MS)사가 AI 윤리 책임 부서를 해체하고 그 성원들을 해고하는 조치를 강행했다. 국내에서도 ‘우선 허용, 사후 규제’ 원칙의 AI 산업 육성 법안이 입법 추진 중이다. AI 챗봇 경쟁에서 지면 낙오된다는 절박한 경쟁의식 속에 사업자들이 밤낮을 가리지 않고 뛰고 있다. 밤을 새고 나면 새로운 챗봇들이 쏟아져 나오있다. 이처럼 맹목적인 AI 기술 개발이 초래할 위험에 대한 최소한의 안전장치 마련을 위해 국가가 나서야 한다. 그 출발점은 ‘가상’에 맞서 ‘팩트’를 지키고며 기업의 노력들을 지원해야 한다. 거대 AI 기술 개발에는 천문학적인 국가 예산과 투자가 집중되는 반면, 챗봇시대가 자져올 사회윤리적 문제에는 관심도 지원도 없다. 이 불균형의 갖고올 결말은 우리 정신세계의 파멸이다. 이 무엇일지는 생각만으로도 아찔하다. 챗GPT와의 대화에서 웃음은커녕 두려움에 몸이 떨려온다. 챗봇이 만들어낸 지식 정보가 우리사회를 파멸시킬 수 있기 때문에 깨발보다 먼저 사용윤리에 대한 대책이 필요하다. 인간이 만든 AI챗봇이 인간을 파멸시킬 수 있는 핵보다 더 무서운 정신을 파멸시키기 전에 윤리도덕 무장이 필요하다.2023.3.31 관련기사 [朝鮮칼럼 The Column] 챗GPT가 전해준 섬뜩한 경고 챗GPT도 못 피한 AI 윤리적 문제 챗GPT와 함께 떠오르는 AI윤리 문제, 국내 대학에서는? 10명 중 7명, '챗GPT' 윤리적인 문제 있다 챗GPT 열풍 속 'AI 윤리' 수면 위로 "챗GPT 등 생성 AI, 개인정보 도용·저작권 침해 등 문제 발생 오픈AI가 만든 챗봇 "똑똑하지만 저작권·윤리 문제 있어“ 챗GPT "독도, 한국 소유 아냐"...삼국통일? "광개토대왕" 오류 다반사 챗GPT의 실체…'그럴듯한' 거짓말쟁이출처 : 의협신문
후원계좌 = 국민은행 758-21-0124-726(이계성) 이계성 TV(http://www.youtube.com/c/이계성tv) = 천주교 사제 부정부패 자료 이계성유튜브 =종교관련 자료 네이버 <이계성 카페>https://cafe.naver.com/leegyeseoung 다음 <남자천사 교육> http://cafe.daum.net/namjachansa < 이계성 대수천 http://cafe.daum.net/ligyeseong> 천주교 자료 이계성 이매일, aabb1941@naver.com, gyeseongi9@gmail.com
|