[생활인문칼럼] AI에게 생각을 맡겨도 될까?

[최영찬]

[생활인문칼럼] : AI에게 생각을 맡겨도 될까

최영찬

  요즘은 궁금한 일이 있으면 검색보다 AI를 먼저 찾는 일이 점점 늘고 있다. 나도 그렇다. 처음엔 궁금한 것도 가르쳐주고 친구처럼 대화할 수 있어 신기했다. 자동차 외부에 흠이 나서 복원할 때, 고장 난 가전 기계 수리할 때, 세금 신고할 때도 도움받았다. 그런데 요즘 AI를 사용하면서 마음에 떠오르는 질문이 하나 있다. '인간이 생각하는 일까지 AI에게 맡겨도 될까?'

생각하는 인간 vs. AI

  나는 기술을 반대하지 않고 새 기술에 관심이 많으며 적극 활용한다. 내가 걱정하는 것은 기술보다 그것을 사용하는 인간이다. 인류는 오랫동안 기술을 통해 편리함을 추구해 왔다. 자동차는 다리를, 크레인은 근력을, 컴퓨터는 계산 능력을 대신했다. 이제 한 걸음 더 나아가 AI가 인간의 지적 활동까지 대신하기 시작했다.

  전에는 전화번호를 외우고, 지도 펼쳐서 길 찾고, 사전 뒤적이며 단어 뜻을 확인했다. 이제 그 일을 기계가 한다. 우리는 기억하고 탐색하고 확인하는 일을 기계에 넘기고 편리하게 살아간다. AI 시대에는 이 일이 더 빠르게 진행될 수 있다. 글쓰기 전 초안부터 요청하고, 책 읽기 전에 요약을 부탁할 수 있다. 자료를 찾아보기 전에 답부터 묻고, 생각 정리까지 AI에게 맡길 수도 있다. 코딩은 물론 업무의 상당 부분을 AI 에이전트에게 맡기는 시대가 되었다.

  최근 발표된 OECD의 국제학업성취도평가(PISA) 관련 보고서를 보면서 이 문제를 다시 생각하게 되었다. 학교에서 내준 과제를 할 때, AI를 자주 사용하는 학생일수록 학업 성취도가 낮은 것으로 나타났다.

  과학 숙제할 때 AI를 전혀 사용하지 않거나 거의 사용하지 않는 학생들의 평균 점수는 509점이었다. 반면 매일 또는 거의 매일 AI를 사용하는 학생들은 481점이었다. 사회경제적 지위를 고려해 조정해도 28점 차이가 났다. 이는 대략 1년 반 정도의 수업 시간에 해당하는 차이라고 한다. 물론 이 결과만으로 AI 사용이 학업 능력을 떨어뜨렸다고 단정할 수는 없다. 그러나 AI에 대한 지나친 의존이 학생의 학습과 사고 능력을 약하게 할 가능성을 보여주는 것은 분명해 보인다.

  특히 눈길을 끄는 사실은 AI를 적당히 비판적으로 사용하는 학생의 성취도가 높다는 일이다. 보고서에 따르면 일주일에 한두 번 정도 AI를 사용하는 학생이 AI를 거의 사용하지 않거나 매일 사용하는 학생보다 학업 성취도가 높았다. 결국 중요한 것은 AI를 사용하느냐 사용하지 않느냐가 아니라 그것을 어떻게 사용하느냐에 달려있다. 

  한국 학생들의 학업 성취도 하락도 걱정스럽다. 3년 전과 비교해 과학은 528점에서 526점으로, 수학은 527점에서 522점으로 떨어졌다. 특히 읽기는 515점에서 501점으로 14점이나 하락했다. 상위 수준의 학생 비율은 줄고 하위 수준의 학생 비율은 늘었다. 읽기 능력의 저하를 더욱 심각하게 생각할 필요가 있다. 읽기는 단순히 글자를 이해하는 능력이 아니다. 정보를 평가하고 서로 다른 정보를 연결하며, 무엇이 맞는지 판단하는 능력과도 관련되어 있다. AI가 넘쳐나는 시대에 오히려 인간에게 더 필요한 능력이다.

무비판적인 AI 의존의 결과

  얼마 전 미국 미시시피의 한 대학에서 일어난 일도 생각해 볼 만하다. 한 역사학 교수가 산업혁명에 대해 시험 문제를 내면서, AI만 알아볼 수 있는 흰색 글씨를 시험지에 숨겨놓았다. 학생이 시험 문제를 읽고 직접 대답하면 아무 문제 없다. 그러나 AI에게 시켜서 쓴 답안을 입력하면, 답안에 ‘마다가스카르’라는 단어를 넣도록 지시한 것이다. 결과는 놀라웠다. 학생 35명 중 32명의 답안에 ‘마다가스카르’라는 단어가 있었다. 산업혁명과 관계없는 내용도 있었다. 여기에서 중요한 점은 학생들이 AI를 사용했다는 사실이 아니다. 문제는 AI가 만든 답을 읽고 검증하지도 않고 그대로 제출했다는 사실이다. 

  AI는 많은 가능성을 가지고 있다. 방대한 자료를 빠르게 분석하고 원하는 정보를 찾을 수 있다. 과거에 전문가만 소유했던 지식에도 쉽게 접근하게 해준다. 코딩하고 글을 쓰며 인간의 일을 대신할 수도 있다. AI는 분명히 인간의 능력을 확장하는 훌륭한 도구가 될 수 있다. 그러나 인간이 생각하는 일마저 AI에게 맡기면 이야기가 달라진다. 답을 요청하기 전 먼저 생각하고, 요약을 부탁하기 전에 읽어보고, 또 AI가 제시한 정보가 맞는지 확인하고 검증해야 한다.

  나는 AI의 미래를 예측할 수 없다. AI가 인간을 더 똑똑하게 할지, 아니면 더 게으르게 만들지도 알 수 없다. 분명한 점은 인간이 AI를 어떻게 사용하느냐에 따라 결과가 크게 달라진다는 사실이다. 그래서 중요한 질문은 ‘AI를 사용해야 하나 말아야 하나?’가 아니라, ‘AI를 어떻게 사용해야 하나?’하는 것이다.

  나는 AI를 사용하지 말라고 말하기보다 잘 활용하라고 권하고 싶다. 하지만 AI가 내 생각을 대신하게 하면 안 된다. AI에게 답을 구해도 그 답을 판단하는 것은 내 역할이어야 한다. AI에게 글의 도움을 받아도 무엇을 말할지는 스스로 결정해야 한다. 편리함을 얻으려고 생각하는 일을 포기하면 너무 큰 대가를 지불해야 할 지도 모른다. AI가 아무리 훌륭한 답을 제공하고 많은 일을 해도, 그것을 수용하거나 수정할 것을 결정하는 주체는 인간이어야 한다. AI 시대에 우리가 끝까지 지켜야 할 것은 ‘생각하는 인간’이다.

  인간이 생각을 멈추면 인간과 AI 모두에게 좋지 않은 결과가 나타난다. 인간이 생각하지 않으면 양질의 데이터가 줄고, 결국 AI가 학습할 자료도 부실해진다. 반대로 인간이 열심히 생각하고 연구하면 AI가 학습할 정보의 질도 높아지고, 그 결과는 다시 인간에게 돌아온다.

  스스로 질문하고, 읽고, 생각하고, 판단하고, 검증하는 능력을 포기하지 않을 때, AI는 인간을 대신하는 존재가 아니라 인간의 능력을 확장하는 훌륭한 도구가 될 수 있다. AI에게 내 생각을 모두 맡기지 말자. AI를 사용하되 생각은 우리가 하자.

협력과 확장의 도구로서의 AI

---

[Everyday Humanities Column]

Should We Let AI Do Our Thinking for Us?

Youngchan Choi

These days, whenever I become curious about something, I find myself turning to AI before searching the internet. I am no exception. At first, I was fascinated by the fact that AI could answer my questions and even carry on a conversation with me like a friend. I have received help from AI with everything from repairing scratches on my car and fixing broken home appliances to dealing with tax filing. But as I have been using AI more and more, one question has begun to linger in my mind:

Should we let AI do our thinking for us?

Thinking Human vs. AI

I am not opposed to technology. In fact, I am very interested in new technologies and actively use them whenever I find them useful. What concerns me is not technology itself, but the way we humans use it. For a long time, humanity has pursued convenience through technology. Cars replaced our legs, cranes replaced our physical strength, and computers took over much of our calculating. Now we are taking another step forward. AI has begun to take over not only physical tasks, but also some of our intellectual activities.

There was a time when we memorized telephone numbers, unfolded maps to find our way, and looked up words in dictionaries. Now machines do those things for us. We have handed over remembering, searching, and checking to technology, and we live more conveniently as a result. In the age of AI, this process could happen even faster. We can ask AI to write a draft before we have written a single sentence ourselves. We can ask for a summary before reading a book. We can ask for an answer before looking for the information, and even ask AI to organize our thoughts for us. Coding is no exception. We are already entering an era in which AI agents can handle a substantial part of our work.

A recent OECD report related to the Programme for International Student Assessment (PISA) made me think about this issue again. According to the report, students who frequently used AI when doing school assignments tended to have lower academic achievement.

In science, students who never or hardly ever used AI for their homework had an average score of 509 points. In contrast, students who used AI every day or almost every day averaged 481 points. Even after adjusting for socioeconomic background, there was still a 28-point gap. The report says that this difference is roughly equivalent to about a year and a half of classroom learning.

Of course, these results alone do not prove that using AI causes academic ability to decline. However, they do seem to show that excessive dependence on AI may weaken students' ability to learn and think for themselves. What is particularly striking is that students who use AI moderately and critically tend to achieve higher academic performance. According to the report, students who used AI once or twice a week had higher academic achievement than those who hardly used AI at all or those who used it every day. In the end, the important question is not whether we use AI, but how we use it.

The decline in the academic performance of Korean students is also concerning. Compared with three years earlier, science scores fell from 528 to 526, while mathematics scores fell from 527 to 522. Reading showed an even larger decline, dropping 14 points from 515 to 501. The proportion of high-performing students decreased, while the proportion of low-performing students increased.

We need to take the decline in reading ability particularly seriously. Reading is not simply the ability to understand written words. It also involves eval‎uating information, connecting different pieces of information, and deciding what is true or reliable. These are precisely the abilities that humans need even more in an age overflowing with AI.

The Pitfalls of Uncritical AI Reliance

Something that happened recently at a university in Mississippi, in the United States, is also worth considering. A history professor gave his students an exam on the Industrial Revolution. Hidden in the exam questions was white text that could be detected only by AI. If a student read the questions and answered them personally, there was no problem. But if the student asked AI to write the answer, the hidden instruction told the AI to include the word “Madagascar”

in the response. The result was astonishing. Of the 35 students, 32 submitted answers containing the word “Madagascar.” Some of the answers even included content completely unrelated to the Industrial Revolution. The important point here is not simply that the students used AI. The real problem was that they submitted AI-generated answers without even reading or verifying them. 

AI has enormous potential. It can analyze vast amounts of information quickly and find what we are looking for. It gives us easy access to knowledge that was once available mainly to experts. It can write, code, and perform many tasks that humans used to do themselves. 

AI can certainly become a remarkable tool that expands human capabilities. But things change when we begin to outsource even our thinking to AI. Before asking AI for an answer, we should think for ourselves first. Before asking it for a summary, we should read the material ourselves. And when AI provides information, we should check and verify whether that information is actually correct.

I cannot predict the future of AI. I do not know whether AI will make human beings smarter or simply make us more dependent and less willing to think. One thing, however, is clear: the outcome will depend greatly on how we choose to use AI.

So the important question is not, “Should we use AI or not?” but rather, “How should we use AI?”

Rather than telling people not to use AI, I would encourage them to learn how to use it well. But we should never allow AI to replace our own thinking. We may ask AI for help with an answer, but deciding whether that answer is right should remain our responsibility. We may ask AI for help with writing, but we should decide for ourselves what we want to say.

If we give up thinking in exchange for convenience, the price we pay may be far too high. 

No matter how impressive the answers AI provides or how many tasks it can perform, the final decision about what to accept, what to change, and what to reject must remain in human hands. In the age of AI, what we must protect to the very end is the thinking human being.

If humans stop thinking, the consequences may not be good for either humans or AI. When people stop thinking, the supply of high-quality data and original ideas may eventually diminish. And if the quality of the information available to AI declines, the material from which AI learns will also become poorer. On the other hand, when people continue to think deeply, research carefully, and create new knowledge, the quality of the information AI learns from will improve as well. And those improvements will ultimately come back to benefit us.

As long as we do not give up our ability to ask questions, read, think, judge, and verify for ourselves, AI does not have to be something that replaces human beings. It can instead become a remarkable tool that expands what human beings are capable of achieving. Let us not hand all of our thinking over to AI. Let us use AI—but let us do the thinking ourselves.

AI as a Tool for Collaboration and Human Augmentation

---