The illusion of thinking: Can you think without being moral? 생각에 대한 환상

[Condel]

 
미국에 살고있는 혁신전문가 제이슨 림의 AI가 생각을 하지않는 다는 점에 대한 칼럼입니다.
진정한 인간적 의미에서 생각한다는 것은 도덕적 틀 안에서 생각하는 것입니다.
인간이 불확실성이나 복잡성이 증가할 때 우리는 단순히 논리를 적용하는 것이 아니라 가치를 적용합니다.
따라서 AI의 미래는 컴퓨팅능력의 발전은 물론 도덕적 상상력의 획기적인 발전에도 달려 있다고 필자는 주장합니다.
 
The illusion of thinking: Can you think without being moral?
생각에 대한 환상: 도덕성없이 생각할 수 있을까?
 
By Jason Lim 제이슨 림

Jason Lim (jasonlim@msn.com) is a Washington-based expert on innovation, leadership and organizational culture. The views expressed in this article are the author’s own and do not reflect The Korea Times’ editorial stance.
제이슨 림(jasonlim@msn.com )은 워싱턴에 거주하는 혁신, 리더십 및 조직 문화 전문가입니다. 이 기사에서 표현된 견해는 저자 자신의 견해이며 코리아 타임즈의 편집 입장을 반영하지 않습니다.
 
Published Jul 10, 2025 2:20 pm KST Updated Jul 10, 2025 2:20 pm KST
The Korea Times
 
 
In its recently published paper titled “The Illusion of Thinking,” Apple made a bold but necessary observation: today’s most advanced artificial intelligence (AI) models don’t truly “think.” At best, they mimic reasoning. At worst, they collapse under complexity, unable to generalize or course-correct in meaningful ways. But what Apple may have inadvertently spotlighted is not just a technical limitation — it is a moral one. Perhaps the illusion is not merely about cognition but about conscience. And perhaps, to think in a truly human sense is to think within a moral framework.
Apple은 최근 발표한 논문 '사고의 환상'에서 대담하지만 필요한 관찰을 했다. 오늘날의 가장 진보된 인공지능(AI) 모델은 진정한 '사고'를 하지 않는다는 것이다. 기껏해야 추론을 모방한다. 최악의 경우 복잡성 아래 붕괴되어 의미 있는 방식으로 일반화하거나 과정을 수정할 수 없다. 하지만 Apple이 의도치 않게 주목한 것은 단순한 기술적 한계가 아니라 도덕적 한계일 수 있다. 아마도 그 환상은 인지에만 국한된 것이 아니라 양심에 관한 것일 것이다. 그리고 어쩌면 진정한 인간적 의미에서 생각한다는 것은 도덕적 틀 안에서 생각하는 것일 수도 있다.
 
Apple’s research examined large language models that simulate reasoning, such as Claude, OpenAI’s o3-mini and DeepSeek. These models perform admirably when solving simple problems but frequently fail — sometimes spectacularly — as problem complexity increases. The paper calls this phenomenon a “complete accuracy collapse.” In layman’s terms, the machine begins confidently, stumbles quietly and finishes disastrously.
Apple의 연구는 클로드, OpenAI의 o3-미니, 딥시크와 같이 추론을 시뮬레이션하는 대형 언어 모델을 조사했다. 이러한 모델은 간단한 문제를 풀 때는 놀라울 정도로 성능이 뛰어나지만 문제 복잡성이 증가함에 따라 종종 실패하기도 한다. 이 논문에서는 이러한 현상을 "완전한 정확도 붕괴"라고 부른다. 일반인의 관점에서 이 기계는 자신 있게 시작하여 조용히 비틀거리며 비참하게 마무리한다.
 
That collapse, while framed as a failure in logic or computational architecture, hints at something deeper. When humans encounter uncertainty or escalating complexity, we don’t just apply logic, we apply values. We ask: What matters here? What’s at stake? Who could be harmed? These questions cannot be answered by probability tokens alone.
그 붕괴는 논리나 계산 아키텍처의 실패로 간주되지만, 더 깊은 무언가를 암시한다. 인간이 불확실성이나 복잡성이 증가할 때 우리는 단순히 논리를 적용하는 것이 아니라 가치를 적용한다. 우리는 묻는다: 여기서 중요한 것은 무엇인가? 무엇이 위태로운가? 누가 피해를 입을 수 있을까? 이러한 질문은 확률 토큰만으로는 답할 수 없다.
 
This is why thinking, in the human sense, is more than deduction or syntax. It’s moral navigation. It involves weighing competing truths, understanding human needs and adapting to the emotional context of a situation. When a person wrestles with a difficult decision — whether to forgive a friend, to report wrongdoing at work or to risk something for the greater good — they are not “reasoning” in the sterile sense. They are engaging in ethical deliberation.
그렇기 때문에 인간의 의미에서 사고는 추론이나 구문 그 이상이다. 도덕적 탐색이다. 이는 경쟁하는 진실을 저울질하고, 인간의 필요를 이해하며, 상황의 감정적 맥락에 적응하는 것을 포함한다. 친구를 용서할지, 직장에서 잘못을 보고할지, 더 큰 이익을 위해 무언가를 위험에 빠뜨릴지 등 어려운 결정을 내릴 때, 그들은 무균적인 의미에서 '추론'하는 것이 아니다. 그들은 윤리적 숙고에 참여하고 있다.
 
Machines don’t do this. And Apple’s findings suggest they may not be able to — not yet, and maybe not ever, without radically rethinking what artificial “intelligence” should even be — and what human “thinking” truly is.
기계는 이런 일을 하지 않는다. 그리고 Apple의 연구 결과는 인공 '지능'이 무엇이어야 하는지, 그리고 인간의 '사고'가 무엇인지 근본적으로 재고하지 않고는 아직, 어쩌면 앞으로도 그럴 수 없을 수도 있음을 시사한다.
 
Let’s imagine a scenario where an AI is tasked with allocating scarce medical supplies. It’s told to be efficient. It will likely prioritize based on data — age, survival rate, resource optimization. But a human ethicist might ask: Should we also factor in care responsibilities? Social vulnerability? Dignity in death? None of these considerations are computational necessities, but they are moral imperatives. They serve as guiding lights in situations where paths have not been previously trodden and must be freshly cut.
AI가 희소한 의료용품을 할당하는 임무를 맡는 시나리오를 상상해 보자. AI는 효율적이라고 한다. 연령, 생존율, 자원 최적화 등 데이터를 기반으로 우선순위를 정할 가능성이 높다. 하지만 인간 윤리학자는 다음과 같이 물어볼 수 있다: 돌봄 책임도 고려해야 할까? 사회적 취약성? 죽음의 존엄성? 이러한 고려 사항 중 어느 것도 계산적 필수 사항은 아니지만 도덕적 필수 사항이다. 이는 이전에 길을 닦지 않았고 새로 잘라야 하는 상황에서 안내등 역할을 한다.
 
Apple’s paper inadvertently underscores this. When AI tries to “think,” it mimics patterns rather than values. It generates the appearance of deliberation, not its substance. It has no ethical core — no internal compass. As a result, when faced with dilemmas that demand more than logic, the illusion shatters because it has no moral framework to guide its deliberation. At some point, especially for something new, there is no “how” without a “why.”
Apple의 논문은 실수로 이를 강조한다. AI가 "생각"하려고 할 때 가치보다는 패턴을 모방한다. AI는 그 실체가 아니라 숙고의 모습을 만들어내다. 윤리적 핵심도 내부 나침반도 없다. 결과적으로 논리보다 더 많은 것을 요구하는 딜레마에 직면하면 숙고를 이끌 도덕적 틀이 없기 때문에 착각이 산산조각이 난다. 특히 새로운 것에 대해서는 언젠가는 "이유" 없이는 "어떻게"가 존재하지 않는다
 
Critics may argue that AI doesn’t need morality — it just needs better training, better algorithms and more guardrails. But those are surface fixes. The deeper problem is that true reasoning requires a why, not just a how. Without a moral framework, “thinking” becomes a dangerous illusion: precise, persuasive and hollow.
비평가들은 AI가 도덕성이 필요하지 않다고 주장할 수 있다. 더 나은 훈련, 더 나은 알고리즘, 더 많은 가드레일만 있으면 된다. 하지만 이는 표면적인 수정이다. 더 깊은 문제는 진정한 추론에는 단순한 방법이 아니라 이유가 필요하다는 것이다. 도덕적 틀이 없으면 '사고'는 정확하고 설득력 있으며 공허한 환상이 된다.
 
This is not a new debate. Philosophers from Immanuel Kant to Hannah Arendt have warned us about the perils of reason divorced from ethics. Arendt called it the “banality of evil” — when thinking becomes procedural and blind to harm. Today’s AI systems risk becoming that: intelligent but indifferent.
이것은 새로운 논쟁이 아니다. 임마누엘 칸트부터 한나 아렌트에 이르기까지 철학자들은 윤리와 분리된 이성의 위험성에 대해 경고해 왔다. 아렌트는 사고가 절차적이고 해악에 눈이 멀어지는 것을 '악의 진부함'이라고 부른다. 오늘날의 인공지능 시스템은 지능적이지만 무관심할 위험이 있다.
 
Apple, to its credit, doesn’t overpromise. The paper does not claim artificial general intelligence is near. It argues the opposite: We’re still far from building machines that can reason like us. But the question it leaves hanging is whether we even want machines to think like us, if they can’t also care like us.
Apple은 과한 약속을 하지 않는다. 이 논문은 인공지능이 곧 등장할 것이라고 주장하지 않는다. 그 반대의 주장을 펼친다: 우리는 아직 우리처럼 추론할 수 있는 기계를 만드는 것과는 거리가 멀다. 하지만 여전히 남아 있는 질문은 기계가 우리처럼 생각하기를 원하는지, 기계도 우리처럼 신경 쓰지 못하는지 여부이다.
 
To build ethical intelligence, we must move beyond performance metrics and benchmark tests. We must ask: What does it mean to think well? Not just to solve problems, but to solve the right problems, in the right ways, for the right reasons. That’s not just a software challenge — it’s a philosophical one.
윤리적 지능을 구축하려면 성과 지표와 벤치마크 테스트를 넘어서야 한다. 우리는 질문해야 한다: 잘 생각한다는 것이 무엇을 의미하는지. 단순히 문제를 해결하는 것이 아니라 올바른 방법으로 올바른 이유로 올바른 문제를 해결하는 것이다. 이는 단순한 소프트웨어적 도전이 아니라 철학적 도전이다.
 
The future of AI depends not only on breakthroughs in computing power but on breakthroughs in moral imagination. If we want machines that assist human flourishing — not just efficiency — we need more than neural nets. We need moral nets. We need frameworks that encode empathy, justice and respect for the messy, beautiful complexity of human life.
AI의 미래는 컴퓨팅 능력의 획기적인 발전뿐만 아니라 도덕적 상상력의 획기적인 발전에도 달려 있다. 효율성뿐만 아니라 인간의 번영을 돕는 기계를 원한다면 신경망 이상의 것이 필요하다. 도덕적 그물이 필요하다. 인간 삶의 지저분하고 아름다운 복잡성에 대한 공감, 정의, 존중을 인코딩하는 프레임워크가 필요하다.
 
So yes, the illusion of thinking is real. But the greater danger is the illusion of meaning, believing that computation alone can replace the hard, ethical work of being human.
따라서 사고의 환상은 현실이다. 하지만 더 큰 위험은 계산만으로도 인간의 힘들고 윤리적인 일을 대체할 수 있다고 믿는 의미의 환상이다.
 
Apple’s research reminds us that thinking isn’t about having the right answer. It’s about asking the right questions, guided by values that machines do not — and cannot — yet possess.
Apple의 연구는 사고가 정답을 찾는 것이 아니라는 것을 상기시켜 준다. 이는 기계가 아직 소유하지도, 소유할 수도 없는 가치에 따라 올바른 질문을 하는 것이다.
“I think, therefore I am.” Descartes would probably be surprised to find his axiom a new rallying cry for the human in the AI world.
"나는 생각한다, 그러므로 나는 그렇다." 데카르트는 아마도 그의 공리가 AI 세계에서 인간을 위한 새로운 결집의 외침이라는 사실에 놀랄 것이다.
 
#IllusionofThinking사고의환상 #ArtificialIntelligence인공지능 #MoralFramework도덕적틀 #EthicalDeliberation윤리적숙고 #HumanValues인간가치