26.7.27 The medical question that AI can't ever answer

[김상태]

①One of us got a call last spring from a longtime friend.

    지난 봄, 우리 중 한 명이 오랜 친구로부터 전화를 받았습니다.

The story was familiar: two doctors, an MRI, an online artificial intelligence tool, a stack of articles — and one anxious question.

이야기는 익숙한 내용이었습니다: 의사 두 명, MRI 검사 결과, 온라인 인공지능 도구, 쌓여 있는 논문들… 그리고 불안에 찬 한 가지 질문이 있었습니다.

“Everything tells me something different. The AI says I might need surgery. What should I do?”

“모든 정보가 나에게 서로 다른 말을 하고 있는 것이었어요. 인공지능은 수술이 필요할 수도 있다고 해요. 나는 어떻게 해야 할까요?”

We believe there’s one key response to anyone in this all-too-common conundrum: “What matters most to you?”

우리는 이처럼 너무나 흔한 어려운 문제에 빠진 누구에게 줄 수 있는 핵심적인 답변이 하나 있다고 믿습니다. “당신에게 가장 중요한 것이 무엇인가요?”

There was a long pause.          오랜 침묵이 흘렀다.

That pause is one of the most important moments in modern health care — and it is exactly the question artificial intelligence is unable to address.

그 침묵은 현대 의료에서 가장 중요한 순간 중 하나이며, 바로 인공지능이 해결할 수 없는 문제이기도 하다.

In our careers as physicians and researchers, we have found, clearly and repeatedly, that for many common conditions the medical evidence does not point to a single “right” answer.

의사이자 연구자로서의 경력을 쌓아오면서, 우리는 많은 흔한 질환에 대해 의학적 근거가 단 하나의 ‘올바른’ 답만을 제시하지 않는다는 사실을 분명하고도 반복적으로 확인해 왔습니다.

The biology is often close. What determines the success of an outcome is whether the choice fits the person making it.

생물학적 측면에서는 종종 차이가 미미합니다. 치료 결과의 성공 여부를 결정하는 것은 그 선택이 결정을 내린 개인에게 적합한지 여부입니다.

Some patients with back pain want the fastest possible return to physically demanding work, even if it means surgery.

요통을 앓는 환자 중에는 수술을 받아야 하는 경우라고 해도 신체적으로 힘든일을 해야하는 일터로 가능한 한 빨리 복귀하기를 원하는 사람이 있습니다.

Others want to avoid an operation at almost any cost, even if recovery takes longer.

어떤 사람은, 회복 기간이 더 길어지더라도 또 어떤 대가를 치르더라도 수술을 피하고 싶어 하는 환자도 있습니다.

 The scan may look the same. The lives behind the scan are not.

영상 검사 결과는 비슷해 보일지 모릅니다. (하지만,) 그 영상 뒤에 숨겨진 환자 각자의 삶은 전혀 다릅니다.

That insight is becoming critically important as artificial intelligence moves deeper into everyday health decisions.

인공지능이 일상적인 건강 관련 결정에 점점 더 깊이 관여함에 따라, 이러한 통찰력은 매우 중요해지고 있다.

②In our research on AI and clinical decision-making, we’ve studied what happens when systems are trained to optimize medical outcomes but are blind to human values.

AI와 임상 의사결정에 관한 연구에서, 우리는 의료적 결과를 최적화하도록 훈련받았으나 인간의 가치기준( 인간의 가치관이나 윤리, 환자의 선호를 고려하지 못하는 )은 고려하지 않는 시스템이 어떤 결과를 초래하는지 조사해 왔습니다.

In plain English, today’s AI is very good at telling you what usually works for people like you with similar demographics and medical histories.

쉽게 말해, 오늘날의 AI는 인구통계학적 특성이나 병력이 비슷한 사람들에게 일반적으로 어떤 치료법이 효과가 있는지 알려주는 데는 매우 뛰어납니다.

It is far less capable of understanding what you are trying to protect, avoid or prioritize.

(하지만) 여러분이 무엇을 지키고자 하는지, 무엇을 피하고자 하는지 또는 무엇을 우선시하고자 하는지를 이해하는 능력은 훨씬 떨어집니다.

This matters because some of the most common and most expensive medical decisions are not purely biological.

이 문제가 중요한 이유는, 가장 흔하고 비용도 많이 드는 의료적 결정 중 일부가 순전히 생물학적 요인만으로 결정되는 것이 아니기 때문이다.

Should someone with low-risk prostate cancer choose surgery, radiation or careful monitoring?

저위험군 전립선암 환자는 수술, 방사선 치료, 아니면 주의 깊은 경과 관찰 중 무엇을 선택해야 할까?

Should a person with atrial fibrillation undergo a procedure or manage the condition with medication?

심방세동이 있는 환자는 시술을 받아야 할까, 아니면 약물로 증상을 관리해야 할까?

Should a patient with chronic knee or back pain operate now or try months of physical therapy to see whether surgery can be avoided?

만성 무릎 통증이나 허리 통증이 있는 환자는 지금 바로 수술을 받아야 할까, 아니면 수술을 피할 수 있는지 확인하기 위해 몇 달간 물리치료를 받아봐야 할까?

In these situations, the medical differences between options are often small or uncertain.

이러한 상황에서, 여러 치료 옵션 간의 의학적 차이는 대개 미미하거나 불확실합니다.

What makes the biggest difference is whether the treatment aligns with the patient’s goals: tolerance for risk, willingness to undergo recovery, ability to adhere to long-term therapy or simply what kind of life they want to live.

가장 큰 차이를 만드는 요소는 치료가 환자의 목표, 즉 위험에 대한 수용 정도, 회복 과정을 감수할 의지, 장기적인 치료를 꾸준히 이어갈 수 있는 능력, 혹은 단순히 어떤 삶을 살고 싶은지와 부합하는지 여부입니다.

AI systems can calculate probabilities. They cannot determine what those probabilities mean to a particular person.

AI 시스템은 확률을 계산할 수는 있지만, 그 확률이 특정 개인에게 어떤 의미를 지니는지는 판단할 수 없습니다.

In some respects, AI may know more medicine than any individual physician.

어떤 면에서 보면, AI는 어떤 개별 의사보다 의학에 대해 더 많이 알고 있을지도 모릅니다.

It can synthesize millions of scientific papers, clinical studies and patient records in seconds.

AI는 수백만 건의 과학 논문, 임상 연구 및 환자 기록을 단 몇 초 만에 종합해낼 수 있습니다.

Yet it knows remarkably little about the person sitting across from it.

하지만 AI는 자신 맞은편에 앉아 있는 사람에 대해서는 놀라울 정도로 아는 바가 적습니다.

AI does not know a patient’s goals, fears, obligations, tolerance for risk or personal definition of a good outcome.

AI는 환자의 목표, 두려움, 의무, 위험 감수 능력, 또는 ‘좋은 결과’에 대한 개인적인 정의(성향)를 알지 못합니다.

And because it knows little about either the patient or the physician, it knows even less about the conversation between them — the place where facts, values and trust come together to produce the right decision for a particular person.

그리고 환자나 의사 모두에 대해 아는 바가 거의 없기 때문에, 그들 사이의 대화—즉, 사실과 가치관, 신뢰가 어우러져 특정 개인에게 맞는 올바른 결정을 이끌어내는 그 자리—에 대해서는 더욱 알지 못합니다.

③A second patient story brought this home.

    두 번째 환자 사례를 통해 이 점이 더욱 실감 나게 다가왔습니다.

A retired teacher was referred after an AI-based symptom checker flagged a heart rhythm abnormality and “favored” an invasive procedure.

은퇴한 한 교사는 AI 기반 증상 점검 시스템이 부정맥(심장 리듬 이상) 가능성을 감지하고 침습적 시술이 필요할 가능성이 높다고 판단하면서 병원으로 의뢰되었습니다.

The patient arrived frightened, convinced there was one correct path.

환자는 오직 하나의 올바른 치료법만 있다고 확신하며 두려움에 휩싸인 채 병원을 찾았습니다.

When we talked, it became clear that what mattered most was avoiding a long recovery and staying healthy enough to travel to see grandchildren.

"대화를 나누다 보니, 가장 중요한 건 긴 회복 과정을 피하고 손주들을 보러 여행을 떠날 수 있을 만큼 건강을 유지하는 것이라는 좋겠다는 점이 분명해졌습니다.“

Medication and monitoring — less dramatic, but well-supported by evidence — fit those goals better.

약물 치료와 모니터링은 — 그다지 극적이지는 않지만, 증거에 의해 충분히 뒷받침되어서 — 이러한 목표에 더 잘 부합합니다.

The AI wasn’t wrong. It just didn’t know what mattered.

AI가 틀린 것은 아니었습니다. 단지 무엇이 중요한지 몰랐을 뿐입니다.

This blind spot is not trivial.

이러한 사각지대는 결코 사소한 문제가 아닙니다.

Roughly a quarter of US health care spending flows through decisions in which patient preferences meaningfully affect outcomes.

미국 의료비 지출의 약 4분의 1은 환자의 선호도가 결과에 상당한 영향을 미치는 의사결정을 통해 지출됩니다.

When those preferences are ignored — by people or by algorithms — care becomes misaligned.

사람이나 알고리즘에 의해 이러한 선호도가 무시될 때, 치료는 환자와의 조화를 잃게 됩니다.

That can mean unnecessary procedures, poor adherence, regret and rising costs without better health.

이는 불필요한 시술, 치료 순응도 저하, 후회, 그리고 건강 개선 없이 비용만 증가하는 결과를 초래할 수 있습니다.

So what should consumers do when an app, portal or “smart” tool recommends a course of action?

그렇다면 앱, 포털 또는 ‘스마트’ 도구가 어떤 조치를 취할 것을 권장할 때 소비자들은 어떻게 해야 할까요?

Start with three questions. 다음 세 가지 질문부터 시작해 보세요.

First: “Best for whom?” If a tool says one option is best, ask whether it means best on average — or best for someone with your priorities.

첫째: “누구에게 가장 좋은가?” 어떤 도구가 특정 옵션이 가장 좋다고 말한다면, 그것이 평균적으로 가장 좋다는 뜻인지, 아니면 여러분의 우선순위에 맞는 사람에게 가장 좋다는 뜻인지 물어보세요.

④Second: “What does this system not know about me?”

vvv둘째: “이 시스템은 나에 대해 무엇을 알지 못할까?”

AI can see lab values and imaging results. It cannot see your job, your family responsibilities, your fears or what you are trying to get back to.

AI는 검사 수치와 영상 검사 결과를 볼 수 있습니다. 하지만 당신의 직업, 가족에 대한 책임, 두려움, 혹은 당신이 다시 되찾고자 하는 것이 무엇인지까지는 알 수 없습니다.

Third: “What happens if I wait or choose differently?”

셋째: “기다리거나 다른 선택을 하면 어떻게 될까?”

Many important medical decisions are not emergencies. When options are close, taking time to reflect is often part of good care.

많은 중요한 의료적 결정은 응급 상황이 아닙니다.  선택지가 비슷할 때, 시간을 들여 숙고하는 것은 종종 양질의 치료를 위한 일부입니다.

Artificial intelligence is becoming a powerful partner in medicine.

인공지능은 의학 분야에서 강력한 파트너로 자리 잡고 있습니다.

It can help explain options, surface evidence and reduce confusion. But it should inform human decisions, not replace them.

하지만 인공지능은 인간의 결정을 대체해서는 안 되며, 단지 의사결정에 참고가 되어야 합니다.

AI may know more medicine than any physician.    It knows far less about any patient.

AI는 그 어떤 의사보다 의학 지식을 더 많이 알고 있을지 모릅니다.  하지만 환자에 대해서는 훨씬 적게 알고 있습니다.

And it knows least about the conversation between them.

그리고 환자와 의사 사이의 대화에 대해서는 거의 잘 모릅니다.

The most important variable in your health care is not in any algorithm. It is you.

여러분의 건강 관리에서 가장 중요한 변수는 어떤 알고리즘에도 담겨 있지 않습니다. 바로 여러분 자신입니다.

James N. Weinstein is a surgeon and clinical professor at Northwestern University’s Kellogg School of Management. Ogan Gurel is a physician and assistant professor at the University of Texas at Arlington, where he researches AI, causal inference and patient decision-making. They wrote this for The Los Angeles Times. The views expressed here are the writers' own. — Ed.

Joke-Our Daily Chicken

<1>

Desperate after three bad months of sales at Kentucky Fried Chicken, the famous Colonel called up the Pope and asks him for a favor.

"What can I do for you?" Said the Pope.

The Colonel said, "Holy father, I need you to change the daily prayer from, 'Give us this day our daily bread' to 'Give us this day our daily chicken'. If you do that, I swear I will donate $10 Million Dollars to the Vatican."

<2>

The Pope replied, "I am very sorry. That is the Lord's prayer and it isn't something I can just change the words for." So the Colonel, disappointed, hung up.

After another month of bad sales, the Colonel panicked, and called again. "Listen your Excellency. I really need your help. I'll donate $50 million dollars if you change the words of the daily prayer from 'Give us this day our daily bread' to 'Give us this day our daily chicken.'"

<3>

And the Pope responded, "It is very tempting, Colonel Sanders. The church could do a lot of good with that much money. It would help us to support many charities. But, again, I must decline. It is the Lord's prayer, and I can't change the words." So the Colonel gave up again.

After two more months of terrible sales, the Colonel got desperate. "This is my final offer, your Excellency. If you change the words of the daily prayer from, 'Give us this day our daily bread' to 'Give us this day our daily chicken' I will donate $100 million to the Vatican." The Pope replied, "Let me get back to you."

<4>

So the next day, the Pope called together all of his bishops and said, "I have some good news and I have some bad news. The good news is that KFC is going to donate $100 million to the Vatican."

The bishops rejoiced at the news.

Then one asked about the bad news.

The Pope replied:

"The bad news is that we lost the Wonder Bread account."