[진료철학] 개원 한의사가 왜 근거중심의학을 말하는 걸까요? AI의 할루시네이션과 비교 | 구로디지털단지 한의원

진료에 근거가 필요한 이유 ❘ 구로디지털단지역 한의원

 

 

 

 

안녕하세요?

구로디지털단지에서 진료하고 있는 한방내과 전문의 송원장입니다.

오늘은 왜 구로디지털단지 한의원에서 굳이 '근거'를 논하는지 말씀드리고자 합니다.

사실 환자 분들 입장에서는,

"아니, 의사든 한의사든, '근거'를 가지고 말하는 것은 당연한 것 아니야?"

라고 생각하시기 쉽습니다.

하지만 안타깝게도,

양방이든 한방이든,

의사들은 '헛소리(Bullshit)'를 하는 경향이 있습니다^[각주:1].

마치 AI의 '할루시네이션'과 비슷하게요.

오늘은 이 문제를 다룬 세계적 권위의 학술지, BMJ의 글을 소개해 드리겠습니다.

---

저자들에 따르면,

의사들이 근거 없는 주장을 흔들림 없는 오만함으로 늘어 놓는 현상,

즉 '헛소리'는 의료 현장에서 오랫동안 인식된 문제입니다.

과거에는 이러한 오만함이 사회적, 심리적 문제에서 비롯되었다고 여겨졌습니다.

사회적으로 의사는 환자를 비용효율적으로 처리할 대상으로 여기고,

이것이 '체계적 오만'을 만들어냅니다.

또 심리적으로 중병에 걸리거나 부상을 입은 환자의 도움 요청을 받을 때,

의사들의 오만함이 발생한다고도 볼 수 있습니다 ^[각주:2] .

개인적인 의견을 첨가한다면,

무면허 행위를 막고 국민 건강을 지키려는 국가의 홍보사업을 보면서,

자신의 면허를 '제도적 필요성에 의해 주어진 역할'이 아니라,

자기 자신을 특별한 존재로 여기는 경우도 존재하는 거 같습니다.

 

그런데 오늘날 대규모 언어모델 등 AI가 내놓는 소위 '할루시네이션'을 보면,

이는 단순히 '오만' 뿐만 아니라 의사소통의 메커니즘 자체에 문제가 있을 수 있습니다.

 

1. 대답해야 한다는 강박감

 

의학 교육과 진료에 있어서,

의사들은 답변을 제공함으로써 자신의 역략을 입증해야 한다는 강한 압력을 받습니다.

전공의나 수련의는 자신이 이해 못하는 검사 결과를 설명하려 들고,

진료하는 의사들은 권위를 유지하기 위해 근거 없는 확신을 가지고 치료를 제안하며,

학회 발표자들은 결론을 과장할 수 있습니다.

이는 인공지능이 '불확실성'을 인식하고 전달하는 것 보다는,

어떻게든 허위 정보를 '환각'으로 만들어 내는 경향이 있는 것과 동일합니다.

 

어제 구로디지털단지 야간진료에 내원하신 20대 여성 환자 분의 경우,

오른쪽 아킬레스건의 부종과 염증이 갑자기 발생해서 내원하셨습니다.

저희 한의원과 또 다른 정형외과에서는 모두 '아킬레스건염'을 의심했지만,

어떤 가정의학과에서는 '류마티스'를 의심하고,

관련 검사를 권유했다고 하더군요.

이에 환자가 걱정을 하면서 상담을 위해,

야간임에도 따로 시간을 내서 방문해 주신 경우였습니다.

환자분의 말씀에 따르면

'매우 확신에 찬 어조로 류마티스 가능성'을 언급했다고 하시지만,

다른 근거를 제시하지 못하는 이상,

잘 모르는 질환에 대해  답변을 하다가 지나친 대답을 한 경우가 아닐까 싶습니다.

 

2. 성과와 보상

 

의학에서는 위계구조와 권위가 정확성 보다 우선시 되는 경우가 많습니다.

가령 자신감 있는 발표는 지식의 부족을 은폐할 수 있는 반면,

주저함은 면밀한 검토를 불러일으키게 됩니다.

결국 업무의 질과 상관 없이 권위 있게 말하는 사람에게 더 많은 기회가 부여됩니다.

결과적으로,

자신의 능력을 정확히 평가하는 사람들 보다,

자신의 능력을 과신하는 사람들이 더 높은 사회적 지위를 얻는 경향이 나타납니다.

이는 인공지능이 사용자가 만족하는 답면을 긍정적으로 평가함에 따라,

사실적 정확성 보다 이러한 보상 신호를 최대화함에 따라,

그럴듯 하고 자신감 있어 보이는 응답을 하는 것과 결부됩니다.

 

3. 제도적 요소

 

학계에서는 논문의 질보다 '양'을 우선시 여기는데,

여기에 더해서,

재정적 이해관계, 갈등, 편견은 연구 결과에 편향을 주게 됩니다.

결과적으로 많은 발견은 경험적 진실보다는 편견을 반영하게 됩니다.

 

의무기록 역시 '일관성'을 강조하고 책임을 최소화하는 경향이 있을 수 있고,

데이터 편향의 원천이 될 수 있습니다.

 

 

4. 인간과 인공지능의 피드백 루프

 

인간에 의해 생성된 오정보는 인공지능의 학습데이터를 오염시킵니다.

심지어 의무기록이나 선별된 데이터 조차,

여기서 자유로울 수 없습니다.

인공지능은 검증 메커니즘 없이 이러한 데이터를 통해 통계적 패턴을 학습하기 때문에,

이러한 헛소리를 흡수하고 복제합니다.

 

 

5. 해결책

 

지식 습득 및 표현 능력 위주의 교육에서,

인식론적 겸손을 중시하는 교육으로의 근본적인 전환이 필요합니다.

한국에서는 주로 '지식 습득'을 강조하고,

서구에서는 '표현 능력'을 강조하는 경향이 있는 거 같습니다.

하지만 둘 다 '헛소리'를 유발할 수 있습니다.

불확실성을 인지하는게 결점이 아니라 전문성임을 인식해야 합니다.

 

토론에서는 주어진 지식으로 토론하는 것에 그치지 않고,

지식의 격차를 인정하고,

추가 정보를 찾는 것이 정답인 시나리오가 포함되어야 합니다.

 

📄 관련 논문/근거 (Reference)

Soto, R. A. C., McCoy, L. G., Perdomo-Luna, C., Ziegler, J., Pino, L. E., Rico, A., Velasco-Muñoz, V., Uribe-Castaño, A., Rodman, A., & Celi, L. A. (2025). Parallel pressures: The common roots of doctor bullshit and large language model hallucinations. BMJ, 391, r2570. https://doi.org/10.1136/bmj.r2570

 

6. 구로디지털단지 한의원 생각

 

○ 연구자도 아닌 개원의가 논문에 집착하는 까닭은 뭘까요?

구로디지털단지 한의원에서 매일 논문을 찾아 보는 것은,

스스로의 '모름'을 확인하고 보충하기 위함입니다.

다른 병의원보다 논문을 더 빠르게 더 많이 읽는 것이

중요한 게 아닙니다.

원글에서도 나오는 이야기지만

그 '논문' 역시,

'헛소리'에 불과한 것일 수도 있습니다.

스스로의 '모름'을 확인하고 지식의 정확성을 재확인 하는 것.

그래서 '경영적 판단'이 '진료'를 오염시키는 현상을 막는 것.

이것이 '개원한 한의원에서 근거를 계속 확인하는 까닭'입니다.

 

○ [논어(論語)] [위정(爲政)]편에서는,

'많이 듣고 보되, 의심나고 불분명한 것은 보류해야 한다'고 하였습니다^[각주:3].

흥미로운 것은 공자가 여기서 '보상(祿)'을 연결짓고 있는 것인데요,

공자에 따르면 그와 같은 '모름에 대한 인정과 보류'를 해도,

"보상은 그 가운데에 있다"라고 말합니다.

"보상은 그 가운데에 있다"는 말의 어감은 매우 중요한데요,

비록 이와 같은 올바른 행동이 즉각적인 보상을 약속하지는 않지만,

보상을 구하는 올바른 방법임은 분명하다는 지적입니다.

보상을 외면하지도 않고 약속하지도 않는,

공자의 화법이지요.

 

논문의 저자는 '모름을 인정하는 것'에 일정한 보상을 주어야 한다고 말하지만,

그게 현실적으로 작동하기에는 어려운 부분이 많을 겁니다.

'함정'처럼 주어진 도저히 알 수 없는 문제가 아닌 이상,

뭐라도 최대한 알려고 노력하고 추론한 가치를 무시할 수도 없으니까요.

때문에 구로디지털단지 한의원에서는,

'인식론적 겸허함' 뿐만 아니라,

'보상에 대한 유보적 태도'역시 학습되어야 한다고 생각합니다.

다만 이 부분은 개인의 가치관과 매우 밀접한 관련이 있어서,

소위 '우원하다'고 평가받기 쉬운 부분이 있습니다.

 

다만 원래의  글 처럼 '시스템의 문제'라고만 이야기 하는 것 역시,

저는 반대합니다.

물론 저 논문의 저자들의 위치에서는 저렇게 접근하는게 맞겠지만,

'시스템 문제'라고만 정의할 경우,

'시스템 문제이니 내 책임 아님'이라고 주장하는 개인이 나타납니다.

시스템이 언제나 정당하고 만족스러운 보상을 줄 수는 없으므로,

한 편으로는 시스템을 개선해야 하지만

다른 한 편으로는 보상을 유보해서라도 지켜야 할 가치를우리는 논의해야 한다고 생각합니다.

 

 

BMJ 의사의 헛소리와 AI의 할루시네이션의 관계

 

 

 

 

 

✨ 이 글은 한방내과 전문의인 경희송한의원 원장이 직접 작성 및 감수했습니다.

(의학정보는 진료를 대신할 수 없으며, 개인의 증상에 따라 진단 및 치료가 달라질 수 있습니다.)

🏥 구로디지털단지 경희송한의원 진료 안내

✅ 경희대학교 졸업, 경희의료원 한방내과 전문의 진료
⏰ 주중 매일 야간 진료: 평일 오전 9시 ~ 오후 9시 (점심시간 없이 진료)
📞 전화 문의: 02-851-8575
📍 오시는 길: 구로디지털단지역 2/6번 출구 도보 1분 (서울시 구로구 시흥대로 571, 부호빌딩 2층)

(토요일 오전 9시~ 오후 3시, 점심시간 없이 진료. 일요일 휴진)

네이버 지도/예약

카카오맵 길찾기

 

 

 

 

 

1. 여기서 말하는 '헛소리'는 해리 G. 프랑크푸르트(Harry G. Frankfurt)의 개념입니다. 단순한 거짓말이 아니라, 진실에 대한 태도 자체가 결여된 발언을 '헛소리'라고 할 수 있습니다. 헛소리는 어쩌면 거짓말 보다 더 위험할 수 있습니다. 의사가 헛소리를 한다는 표현은, 단순히 의료인 개인을 비난하는 욕설이 아니라, 의견을 반드시 가져야 한다는 사회적 압박으로 인한 도덕적 결함에 대한 지적입니다. [본문으로]
2. Berger, A. S. (2002). Arrogance among Physicians. Academic Medicine, 77(2), 145.
   [본문으로]
3. 子曰 多聞闕疑요 愼言其餘면 則寡尤하고 多見闕殆요 愼行其餘면 則寡悔니 言寡尤하고 行寡悔면 祿在其中矣니라 [본문으로]