ChatGPT의 편리함 속에 숨은 문제점 (3303강화정)

[강화정]

 요즘 AI의 기술이 증가하는 세대에 chatGPT가 큰 인기를 끌고 있다. 친구들에게 chatGPT 에 대해 물어본다면 한 번쯤은 들어본 AI앱이라고 답을 받을 수 있었다. 우리 주변을 보면 챗GPT를 사용하는 학생들을 흔히 볼 수 있는데, 이러한 챗GPT는 신속한 답을 주고 유용한 정보를 제공해주고 편리함을 우리에게 제공하므로 사람들은 챗GPT를 많이 이용한다.

나 또한 챗GPT를 많이 사용하는 가? 라는 질문을 받는다면 맞다고 할 수 있을 정도로 챗GPT를 많이 이용한다. 하지만 이런 챗GPT에도 문제점이 있다는 걸 아는가?

 첫째, chatGPT가 제공하는 답은 모든 게 사실은 아니다.

사람들은 챗GPT가 주는 해답이 모두 사실이라고 믿고 의존하는 경우가 있는데, 청년의사 기사 ‘그럴듯한' 오답 내놓는 챗GPT. 허위 정보 유도 활용 우려(2023,05.24)에 따 르면 캐나다 토론토대 연구팀이 북미영상의학회 학술지인 ‘Radiology'에 발표한 논문에 따르면 연구팀은 AI인 챗GPT를 대상으로 영상의학과 전문의 시험을 봤다. 연구팀은 캐나다 영상 의학과 전문의 협의회와 미국영상의 학회 전문의 시점에서 발췌해 총 150문제를 마련했다. 그 결과  챗GPT는 고차원적인 생각이 필요한 문제에서는 60%의 정답률을 기록했다. 챗GPT는 정확하지 않은 답변을 보이는 경우에도 일관되게 자신감 있는 언어를 사용했다. 정답이 아니더 라도 그럴듯한 말을 사용해 대답을 출력하는 경우가 있었다. 우리는 이러한 챗GPT에도 오류 가 생길 수 있다는 것을 인식해야 한다.

[챗GPT 시대 팩트체크, 어디로 가야할까] ‘그럴듯한 거짓말' 적절하게 걸러내는 능력 키워야(2023.05)에서 조사한 결과와 같이 챗GPT는 간단한 문서부터 복잡한 보고서까지 순식간에 만들어낸다. 하지만 실제로 챗GPT는 여기저기 있는 자료들을 끼워 맞춰 '그럴듯한 거짓말' 을 마구 쏟아내는 경우도 발생한다고 한다.

 둘째, 우리의 문제해결 능력이 떨어지게 된다. 챗GPT를 사용하면 우리가 정보를 찾아보거나 생각하지 않아도 빠르게 해답을 얻을 수 있는데,  우리는 스스로 답을 찾을 수 있는 능력도 있어야하는데 하지만, 챗GPT를 사용하면 그런 과정이 생략 되기 때문에 오히려 우리의 문제해결 능력을 떨어지게 만든다.

연합뉴스 기사 챗GPT는 21세기형 계산기...학생들 '활용 역량 '길러줘야’(2023.03.14.)에 따 르면 박남기 광주교대 교육학과 교수는 생성형시 시대 학교 교육의 새로운 가능성과 한계'를 주제로 한 발표한 표문에서 챗GPT의 출현을 '계산기의 출현'과 비교하며 학생들에게 이를 적 절하게 활용할 역량을 길러줘야 한다고 강조했다. 박 교수는 다만, 생성AI가 인간의 고급 역량을 약화시길 수 있으므로 어린 학생들에게는 최대한 사용을 자제하도록 할 필요가 있다고 했다. 그는 생각하고, 자료를 찾고, 고민하고, 구조화하는 사이에 우리 뇌가 발달하는데 이를 챗GPT에게 시키면 우리의 뇌는 자연스럽게 게을러질 수밖에 없다며 초, 중, 고교생에게는 극히 보수적으로 활용하도록 해야 아이들의 역량 강화를 도울 수 있다고 했다. 챗GPT를 많이 사용한다면 생각하는 과정, 스스로 답을 찾는 이러한  구조화하는 중요한 과정이 제거되므로 문제가 될 수 있다. 

 이와 같이 챗GPT는 우리에게 편리함을 주기도 하지만 숨어 있는 문제점을 발견할 수 있었다. 

 우리는 챗GPT만 믿고 옳고 그름을 평가하는 경우가 있다. 하지만 챗GPT는 100% 옳은 것은 아니므로 오류를 답하는 경우도 있기 때문에, 우리는 다시 한번 답을 팩트체크 해보거나 검토 할 필요성이 있다. 모든 것을 챗GPT에게 너무 의존하지 않고 스스로 답을 찾아보는 경우도 있어야 한다고 생각한다. AI에는 양날의 검이 존재한다. 챗GPT도 마찬가지이다. 챗GPT가 우리가 원하는 답을 빠르게 주고 바로 해결할 수 있다는 점이 있어도 이러한 문제점에도 불구하고 함부로 사용할 것인가? 우리는 이러한 생성형 AI을 사용하되, 이러한 문제점을 인식하고 경계하는 태도를 기를 필요가 있다. 또한 모든 문제를 챗GPT를 이용하여 해답을 빠르고 찾을 수 있다고 좋은 게 좋은 것만은 아니라고 생각한다. 이러한 문제점을 이제 알고 chatGPT를 사람들이 현명하게 쓰면 좋겠다는 마음이다.

<사용한 표현전략>
AI에는 양날의 검이 존재한다. :비유

이러한 문제점에도 불구하고 함부로 사용할 것인가? :설의

<수행평가 감상> 

이 수행평가를 하면서 원래도 챗GPT에 관심이 많았는데 이번 활동을 통해서 챗GPT의 모르고 있었던 문제점을 알게돼서 좋았던 시간이였던 거 같다. 이렇게 우리에게 편리성을 주는 것도 뒤에서는 많은 문제가 있었던 거 같아 신기했다. 그리고 글을 쓰면서 표현전략을 넣어 직접  문장을 만들어 봐 글을 전 보단 더 잘 쓰게 된 거 같다는 느낌이 들었다. 모둠별에서 친구들에게 피드백을 받으니 더 글이 매끄러워진 거 같아서 좋았다.>

[이갈리아]

유지우 : 요즘에 잘 사용하고 있는 챗gpt의 문제점에 대한 연구 결과와 조사 결과 등 자세하게 제시하여 좋았다. 그리고 표현전략 중 비유를 적절하게 활용하여 배치한 것이 대단했다.

[송준호]

우리처럼 고등학생쯤부터 chat gpt를 쓰면 그 전까지의 경험이 있으니 적절하게 사용할 수 있지만 그 이전부터 쓰면 그 사람 자체의 역량 발달에 영향을 끼칠 수 있다 생각한다

[배주한]

Chat gpt를 잘 써보진 않았지만 쓰더라도 생각해야하는 점이 많다는것을 알게 되엇어

[도현]

GPT의 단점만을 부각하는 것이 아니라 이것이 필요한 순간과 함께 장점도 같이 써주면서 우리가 조심해야 할 것들을 말해주어서 더욱 좋았던 것 같다.

[유성빈]

챗지피티를 남용한적이 있는데 그 일을 반성하고 앞으로는 적절하게 사용해야겠다고 생각했다

[1205 김지윤]

나도 사실 챗 GPT를 사용할 때 크게 경각심 없이 써왔는데 글을 읽고 적당히 써야겠음을 다짐하게 되었다. 글에 제시된 장단점을 인식하면서 사용하면 더 효과적으로 사용할 수 있을 것 같다는 생각이 들었다

[지유정]

가끔씩 정말 자료 찾기 힘들때나 가끔씩 사용하는데 이런 쳇gpt에 정보 전부가 사실이지 않다라는 것을 인지하게 되어 쳇gpt을 사용할때 신중해지고 문제 해결 능력에 좋지 않아 되도록 사용하지 않을려고 하게 된거 같다.