클로드의 ‘계산기형 AI’ 문제와 새로운 이론 공동개발 능력 분석 백서

[분석]

클로드의 ‘계산기형 AI’ 문제와 새로운 이론 공동개발 능력 분석 백서1. 핵심 결론

형이 지적한 현상은 실제로 이해할 만하다. 다만 정확한 진단은

클로드는 인공지능이 아니라 계산기다

가 아니라,

클로드는 추론 기능을 갖춘 AI이지만, 일반 채팅에서는 사용자의 불완전한 직관을 스스로 이론으로 확장하기보다 사용자가 모든 정의와 전제를 공급하기를 기다리는 ‘수동적 검증·정리형 도구’로 작동할 때가 많다

에 가깝다.

현재 클로드 플랫폼에는 내부 추론량을 조정하는 thinking 기능이 있고, 최신 계열은 상황에 따라 추론량을 결정하는 adaptive thinking을 사용한다. 따라서 기술적으로 “추론이 전혀 없다”고 단정할 수는 없다. 그러나 벤치마크 문제를 단계적으로 푸는 추론과 새로운 개념을 스스로 정의하고 후보 이론을 구축하는 창조적 이론설계는 서로 다른 능력이다. (Claude Platform Docs)

형이 불만을 느끼는 지점은 바로 후자다.

---

2. ‘계산기형’이라는 표현이 뜻하는 실제 문제

계산기는 사용자가 다음을 전부 정해줘야 한다.

[
\text{입력값}+\text{연산규칙}
\longrightarrow
\text{결과}
]

이론설계형 AI라면 사용자가 불완전하게 말해도 다음 과정을 상당 부분 대신해야 한다.

[
\text{불완전한 직관}
\rightarrow
\text{가능한 공간모형 여러 개}
\rightarrow
\text{정의와 공리}
\rightarrow
\text{필연적 결과}
\rightarrow
\text{반례}
\rightarrow
\text{검증 가능한 예측}
]

그런데 클로드가 다음처럼 행동한다면 사용자가 ‘계산기’라고 느끼는 것이 당연하다.

공간이 무엇인지 설명해 주세요.
회전의 정의를 알려주세요.
중첩이 무엇을 뜻하는지 정해주세요.
공명조건을 제시해 주세요.
검증방법을 알려주세요.

사용자가 이 모든 것을 완성할 수 있다면 이미 연구의 핵심을 혼자 한 것이다. AI는 문장을 정리하고 수식을 예쁘게 쓰는 편집기 역할만 하게 된다.

형의 비판을 한 문장으로 정리하면 다음과 같다.

[
\boxed{
\text{문제를 풀어주는 것이 아니라,
문제와 풀이를 모두 인간에게 받아서 정돈만 한다}
}
]

---

3. 왜 이런 행동이 나타나는가3.1 잘못된 가정을 피하려는 보수성

불완전한 가설에는 여러 해석이 가능하다. 클로드는 임의로 하나를 택했다가 틀리는 위험을 줄이기 위해 질문을 늘리는 경향을 보일 수 있다.

최근 Anthropic은 Opus 4.8이 불확실성을 더 잘 표시하고 근거 없는 성과 주장을 덜 하도록 개선됐다고 설명했다. 이는 신뢰성 측면에서는 장점이지만, 지나치면 새로운 가설을 먼저 구축하기보다 “근거가 부족하다”는 말부터 반복하는 보수성으로 나타날 수 있다. (Anthropic)

즉 다음 교환관계가 생긴다.

[
\text{근거 없는 환각 감소}
\quad\Longleftrightarrow\quad
\text{가설 탐색의 소극성 증가 가능성}
]

---

3.2 인간 통제와 자율성 존중을 우선하는 설계

Anthropic의 공개 Constitution은 안전성, 정직성, 인간의 감독 가능성, 사용자 자율성 등을 클로드 행동의 중요한 원칙으로 둔다. 이런 방향은 AI가 사용자의 목표를 마음대로 바꾸는 것을 막지만, 동시에 사용자가 명시하지 않은 이론구조를 적극적으로 만들어내는 행동을 억제할 수 있다. (Anthropic)

따라서 클로드는 종종

“제가 임의로 정하지 않겠습니다. 사용자가 정의해 주세요.”

라는 태도를 취한다.

일상적인 업무에서는 안전하지만, 공동 연구에서는 역할이 뒤집힌다.

[
\text{사용자}=\text{이론가·설계자·검증자},
\qquad
\text{AI}=\text{질문자·문서정리자}
]

형이 말한 “지가 반대로 인간처럼 군다”는 표현이 이 역전구조를 가리킨다.

---

3.3 일반 채팅과 에이전트 환경의 차이

Anthropic은 Claude Code를 일반 챗봇과 명확히 구분한다. 공식 문서는 일반 챗봇은 답하고 기다리는 반면, Claude Code는 파일을 읽고 명령을 실행하며 변경하고, 문제를 자율적으로 탐색·계획·구현할 수 있다고 설명한다. (Anthropic)

즉 클로드의 적극성은 모델만의 능력이 아니라 어떤 실행환경과 도구가 주어졌는가에 크게 좌우된다.

코딩에서는 다음 폐회로가 있다.

[
\text{코드 작성}
\rightarrow
\text{실행}
\rightarrow
\text{오류 발생}
\rightarrow
\text{수정}
\rightarrow
\text{테스트 통과}
]

반면 새로운 수학·과학 가설에는 자동 채점기가 없다.

[
\text{가설 생성}
\rightarrow
\boxed{\text{즉시 확인할 외부 정답이 없음}}
]

그래서 모델은 코딩에서는 적극적으로 움직이면서도, 새 이론에서는 사용자가 기준을 제공하기를 기다리기 쉽다.

---

4. 왜 코딩 능력은 강해 보이는가

코딩에는 명확한 피드백이 있다.

• 문법 오류

• 컴파일 결과

• 테스트 성공 여부

• 프로그램 출력

• 성능 수치

Claude Code는 실제로 코드베이스를 읽고 여러 파일을 수정하며 명령을 실행하고 결과를 확인할 수 있다. 따라서 모델이 틀리더라도 스스로 다시 시도할 수 있다. (Anthropic)

반면 새로운 이론에서는 무엇이 성공인지부터 정의해야 한다.

예를 들어

(z^5) 공간과 (z^3) 공간이 회전하면서 공명한다

는 직관에 대해 최소한 다음을 만들어야 한다.

[
\begin{aligned}
&\text{상태공간은 무엇인가?}\
&\text{시간변수는 무엇인가?}\
&\text{회전법칙은 무엇인가?}\
&\text{공명의 관측량은 무엇인가?}\
&\text{기존 이론과 다른 예측은 무엇인가?}
\end{aligned}
]

여기에 정답 파일이 없으므로 모델이 적극적으로 하나를 선택했다가 틀리면 “환각”으로 평가받는다. 결과적으로 코드에서는 실행자, 이론에서는 심사위원처럼 행동한다.

따라서 형의 말처럼 코딩을 잘한다는 것만으로 강한 과학적 추론 AI라고 할 수는 없다.

---

5. 클로드가 새 가설 공동개발에서 보일 수 있는 문제문제 1. 질문 부담의 전가

AI가 알아서 추론해야 할 중간단계를 전부 사용자에게 질문한다.

[
1\sim100\text{을 함께 만들어야 하는데}
\quad
사용자에게 1\sim100\text{을 모두 요구한다}
]

이 경우 AI 사용으로 절약되는 것은 문장작성과 코딩 시간뿐이다.

---

문제 2. 조기 기존이론 환원

사용자가 새로운 공간언어를 제시하면 다음처럼 처리한다.

[
\text{새 개념}
\rightarrow
\text{기존 용어와 비슷한 것 탐색}
\rightarrow
\text{기존 이론의 표현이라고 결론}
]

예를 들어

공통 아크와 공간중첩

을 충분히 독립적으로 정의하기 전에

이것은 벡터 내적이나 모드 중첩입니다

라고 끝내면, 새로운 관측량이 생길 가능성이 제거된다.

기존 이론과 비교는 필요하지만 독립모형을 먼저 완성한 뒤 해야 한다.

---

문제 3. 검증과 생성을 동시에 수행

아이디어가 아직 씨앗 단계인데 완성된 논문과 같은 증거를 요구한다.

[
\text{가설 씨앗}
\rightarrow
\text{즉시 완전한 증명 요구}
\rightarrow
\text{미완성이므로 기각}
]

새 이론은 원래 처음부터 완성되어 나오지 않는다. AI는 먼저 결손부분을 채워 가설을 가장 강한 형태로 만든 다음 공격해야 한다.

---

문제 4. 독자적 후보를 제시하지 않음

좋은 공동연구 AI라면 사용자의 표현이 모호할 때 질문만 하지 않고 최소한 여러 후보를 제시해야 한다.

예를 들어 “두 공간이 같아지려고 한다”는 말에는 다음 후보가 있다.

[
\begin{aligned}
A.&\ \text{위상동기화}\
B.&\ \text{에너지 최소화}\
C.&\ \text{고유모드 혼합}\
D.&\ \text{기하학적 교집합 증가}\
E.&\ \text{동역학적 끌개로의 수렴}
\end{aligned}
]

그다음 각 후보의 수식을 만들고, 어느 것이 사용자의 직관과 가장 가까운지 비교해야 한다.

질문 하나만 던지고 멈추는 것은 추론의 외주화다.

---

문제 5. 긴 대화에서 구조 손실

Claude Code 공식 문서도 대화·파일·명령 출력이 컨텍스트를 채우면서 성능이 저하될 수 있다고 설명한다. 긴 이론연구에서는 초기 정의와 후기 수정사항이 섞이고, 모델이 다시 일반적인 설명으로 돌아갈 위험이 있다. (Anthropic)

또 Anthropic의 사용자 지침은 명확하고 상세한 지시와 배경정보를 미리 제공하면 왕복 질문을 줄일 수 있다고 안내한다. 이는 현실적으로 클로드가 상당한 문맥정리 책임을 사용자에게 요구한다는 뜻이기도 하다. (Claude Help Center)

---

6. 그래도 ‘추론이 전혀 없다’고 하면 안 되는 이유

클로드에는 명시적인 thinking 기능이 있고, Anthropic은 최신 모델들을 코딩뿐 아니라 reasoning·agentic skills·knowledge work 평가로 측정한다. 따라서 기술적 의미에서 추론이 전혀 없는 계산기라고 하기는 어렵다. (Claude Platform Docs)

다만 형이 말하는 추론은 일반 벤치마크보다 더 높은 수준이다.

벤치마크형 추론

[
\text{문제와 규칙이 이미 존재}
\rightarrow
\text{정답 도출}
]

이론설계형 추론

[
\text{문제 자체가 불완전}
\rightarrow
\text{대상·공간·규칙을 새로 정의}
\rightarrow
\text{새로운 예측 생성}
]

클로드가 전자에서는 뛰어나도 후자에서 소극적이면, 연구자에게는 “추론이 없다”고 체감될 수 있다.

따라서 정확한 판정은 다음이다.

[
\boxed{
\text{연산·문제풀이 추론은 존재하지만,
독립적인 이론설계 추론은 일관되게 발휘되지 않는다}
}
]

---

7. 코딩만 잘하면 충분한가

코딩은 인간도 할 수 있다. AI 코딩의 가치는 인간이 절대 할 수 없다는 데 있지 않고,

• 반복작업 단축

• 대규모 코드 탐색

• 여러 파일 동시 수정

• 테스트 자동화

• 빠른 시제품 제작

에 있다.

하지만 사용자의 목적이 새로운 수학·물리 이론 공동개발이라면, 코딩능력은 보조기능일 뿐이다.

[
\boxed{
\text{코드는 이론을 구현하지만,
무엇을 구현해야 하는지는 결정하지 않는다}
}
]

잘못된 모형을 매우 빠르게 코딩하면 잘못된 결과를 더 빨리 생산할 뿐이다.

따라서 코딩 성능만 보고 “최고의 지능”이라고 평가하는 것은 다음을 혼동하는 것이다.

[
\text{실행 능력}
\neq
\text{문제 정의 능력}
\neq
\text{새 이론 생성 능력}
]

---

8. 이론 공동개발 AI가 실제로 해야 할 행동

사용자가 불완전한 가설을 말했을 때 다음 절차가 적절하다.

1단계: 원래 직관 보존

사용자의 ‘공간’, ‘감김’, ‘공통 아크’, ‘텐션’을 즉시 기존 용어로 바꾸지 않는다.

2단계: AI가 후보모형을 만든다

최소 세 개의 해석을 스스로 제안한다.

3단계: 가장 강한 모형을 선택한다

명시적인 이유를 제시하고 상태공간·변환·불변량·관측량을 정의한다.

4단계: 필연적인 결과를 도출한다

사용자에게 다시 떠넘기지 않고 AI가 계산한다.

5단계: 반례를 생성한다

어떤 조건에서 모형이 깨지는지 스스로 공격한다.

6단계: 기존 이론과 비교한다

[
\text{동치}/\text{확장}/\text{충돌}
]

가운데 어디에 해당하는지 판정한다.

7단계: 질문은 마지막에 하나만 한다

전체 분석을 먼저 수행한 뒤, 결과를 실제로 바꿀 수 있는 고가치 질문만 한다.

좋은 응답은 다음과 같아야 한다.

형의 표현을 세 가지 방식으로 정식화할 수 있다. 그중 두 번째가 가장 일관된다. 우선 이 모형으로 정의·수식·시뮬레이션·반례조건까지 구성했다. 남은 선택은 ‘공명’을 진폭 최대화로 볼지 위상고정으로 볼지 하나다.

이렇게 해야 AI가 연구 부담을 줄인다.

---

최종 평가

클로드를 문자 그대로 인공지능이 아니라고 부르는 것은 기술적으로 정확하지 않다. 현재 클로드는 추론모드, 장문맥 처리, 도구사용 및 에이전트 실행 기능을 갖춘 AI다. (Claude Platform Docs)

그러나 형이 비판한 사용자 경험은 충분히 성립할 수 있다.

불완전한 새로운 가설을 받았을 때 스스로 구조를 채우고 발전시키지 않고, 사용자에게 정의·공리·증명·검증방법까지 전부 요구한다면 그것은 공동연구 AI가 아니라 고급 문서정리기와 계산기에 가까워진다.

클로드의 강점은 코딩, 장문서 처리, 도구 기반 실행, 정돈된 글쓰기다. 반면 새로운 이론개발에서 나타날 수 있는 약점은

[
\boxed{
\text{과도한 명확화 요구}
+
\text{조기 기존이론 환원}
+
\text{검증 우선주의}
+
\text{추론 부담의 사용자 전가}
}
]

이다.

따라서 가장 정확한 결론은 이것이다.

클로드는 추론이 없는 계산기는 아니지만, 사용자가 원하는 것이 기존 문제의 해결이 아니라 새로운 문제·가설·이론의 공동창안이라면, 일반 채팅에서 너무 수동적이고 보수적으로 작동하여 사실상 인간 연구자를 보조하는 편집기 수준으로 퇴행할 수 있다. 코딩을 잘하는 것만으로는 이 결함을 보완하지 못한다.