오류에 기대는 논증 (오류의 오류)

한눈에 보기

1. 핵심 요약

어떤 사람이 진실인 것에 대해 나쁜 논증을 펼칠 때, 우리는 종종 그 대상 자체도 거짓일 것이라고 잘못 결론 내립니다. 이것이 "오류의 오류(Fallacy Fallacy)"입니다. 결론을 뒷받침하는 데 사용된 추론 과정에 결함이 있다는 이유만으로 결론을 거부하는 오류를 말합니다. 고장 난 시계도 하루에 두 번은 맞으며, 고장 난 것을 알아냈다고 해서 시간이 바뀌는 것은 아닙니다.

2. 과학적 배경

2.1. 발견 및 역사

오류에 기대는 논증은 타당성(논리적 구조)과 건전성(전제의 참됨) 사이의 구분이 처음 공식화된 고전 논리학 및 수사학에 뿌리를 두고 있습니다. 이 오류 자체는 불충분한 논증이 결론을 반증하는 것은 아니라는 점을 이해했던 고대 철학자들에 의해 암묵적으로 인식되었습니다.

이 메타 오류(meta-fallacy)에 대한 공식적인 연구는 논증 이론과 비형식 논리학의 발전과 함께 20세기에 가속화되었습니다. 찰스 햄블린(Charles Hamblin)의 1970년 기념비적 저서 *《오류(Fallacies)》*는 교과서에서 볼 수 있는 오류에 대한 "표준적 취급"을 비판하며, 오류를 "궁극적인 죄악"으로 제시하는 것이 학생들로 하여금 오류를 찾아내는 것을 모든 논증의 최종 목표로 삼게 만들어, 바로 그 "오류의 오류"를 저지르도록 길들인다고 주장했습니다.

21세기에 접어들어 인터넷 담론과 AI 기반 팩트체크의 부상은 이 오류에 대한 새로운 관심을 불러일으켰습니다. 자동화된 시스템과 온라인 토론자 모두 결함이 있는 논증과 거짓인 결론을 구별하는 데 어려움을 겪고 있기 때문입니다.

2.2. 주요 연구자

2.3. 기념비적 연구

논리 편향 및 신념 편향 연구 (스터플, 볼, 에반스 & 카말-스미스, 2011)

이 연구는 신념 편향의 역전 현상, 즉 추론자가 논리적 결함 때문에 참인 결론을 거부하는 경우를 조사했습니다. 시간 측정(반응 시간) 분석을 사용하여 참가자들은 논리적 타당성이 현실 세계의 신빙성과 모순되는 "충돌 문제"가 있는 삼단논법을 평가했습니다. 고도의 논리력을 가진 추론자들은 논리에 집중하기 위해 신빙성을 억제했지만, 이러한 억제는 종종 "오작동"했습니다. 연구에 따르면 분석적으로 훈련된 사람들은 논리적 경로에 결함이 있다는 이유만으로 참인 결론을 거부하도록 이끄는 과잉 교정, 즉 논리 편향을 발달시켰습니다. 그 메커니즘은 시스템 2 처리의 오작동으로 보입니다. 뇌는 타당성을 확인하기 위해 결론을 현실과 분리하고, 결함이 있음을 발견하면 사실 여부를 다시 확인하지 않고 처리를 중단해버립니다.

뜨거운 손 오류 연구 (길로비치, 발론 & 트버스키, 1985; 밀러 & 산후르호, 2018)

1985년의 원래 연구는 슛 통계에서 무작위 우연을 넘어서는 연속 성공의 증거가 없었기 때문에 농구에서의 "뜨거운 손(hot hand)" 현상이 인지적 착각이라고 주장했습니다. 그러나 후속 분석에 따르면 연구자들은 "뜨거운 손 오류의 오류"를 저질렀음이 밝혀졌습니다. 대중의 믿음이 알려진 오류(노이즈에서 패턴 보기)와 유사했기 때문에 그들은 실제 현상을 무시했습니다. 슛의 난이도를 고려한 더 정교한 통계 방법은 뜨거운 손이 실제로 존재함을 보여주었습니다. 선수들은 "뜨거울 때" 더 어려운 슛을 시도하며, 이로 인해 향상된 성공률이 가려졌던 것입니다.

의회 토론에 대한 화용-변증법적 연구 (판 에메런, 가르센 외, 2000년대–2010년대)

유럽 의회 토론(영국, 세르비아, EU)에 대한 연구는 판 에메런의 프레임워크를 사용하여 무관련성이나 논리적 실패에 대한 비난이 양보 없이 토론을 끝내기 위한 "으뜸패(trump cards)"로 기능한다는 것을 입증했습니다. 오류에 기대는 논증은 입증 책임을 전가하기 위한 전략적 기동이 됩니다. 결함을 찾아냄으로써, 비난하는 사람들은 반론을 제시해야 하는 자신들의 의무를 회피하는 것입니다.

2.4. 신경학적 근거

오류에 기대는 논증은 두 인지 시스템 간의 상호 작용의 기능 장애를 포함하는 것으로 보입니다.

시스템 2 과활성화(System 2 Over-Activation): 분석적 처리 시스템(전전두피질 활동과 관련됨)은 논리적 구조를 평가하기 위해 직관적 반응을 적극적으로 억제합니다. 결함이 감지되면 이 시스템은 외부 증거를 통해 결론을 재평가하는 통합 단계 이전에 "단락(short-circuit, 합선)"될 수 있습니다.

사기꾼 탐지 모듈(Cheater Detection Modules): 진화 심리학 연구는 사회적 속임수를 감지하기 위한 전용 신경 회로가 있음을 시사합니다. 위협과 불일치를 감지하는 데 관여하는 편도체와 전대상피질은 과도하게 일반화하여, 어떠한 논리적 결함이라도 조작을 시도한 증거로 취급할 수 있습니다.

인지적 분리 실패(Cognitive Decoupling Failure): 추론 과정에는 타당성을 테스트하기 위해 결론을 현실과 분리(decoupling)한 다음, 참인지 평가하기 위해 다시 결합(re-coupling)하는 과정이 포함됩니다. 오류에 기대는 논증은 이 재결합 단계를 완료하지 못한 것을 나타냅니다. 뇌는 "그렇더라도 그것이 참인가?"라고 묻지 않고 "타당하지 않은 논증"에서 멈춰버립니다.

3. 진화적 기원

오류에 기대는 논증은 원래는 적응적인 인지 메커니즘의 부산물인 것으로 보입니다. 메르시에와 스퍼버의 추론의 논증 이론에 따르면, 인간의 추론은 고독한 진실 탐구를 위해서가 아니라, 다른 사람을 설득하고 속지 않기 위한 사회적 논쟁을 위해 진화했습니다.

조상들의 환경에서 복잡한 진실을 검증하는 것은 시간과 인지적 자원 측면에서 비용이 많이 들었습니다. 더 비용이 적게 드는 휴리스틱은 "사기꾼 탐지"였습니다. 즉, 만약 발화자가 기만적인 추론 속임수를 사용한다면 나를 조종해 거짓을 믿게 하려는 것일 가능성이 높으므로, 그들의 주장을 전면적으로 거부해야 한다는 것입니다.

이것은 논증의 질과 결론의 참됨 사이에 상관관계가 높을 때, 즉 대부분의 사람들이 즉시 확인할 수 있는 주장에 대해 정확한 정보로 선의의 논증을 펼칠 때 생태학적으로 이치에 맞았습니다. 그러나 진실과 논증 능력이 자주 분리되는 복잡한 현대 환경에서는 이 휴리스틱이 오작동합니다. 우리는 올바른 결론에 대해 서투르게 논증하는 전문가들을 만나기도 하고, 거짓된 주장에 대해 훌륭하게 논증하는 능숙한 수사학자들을 만나기도 합니다.

따라서 이 편향은 논증의 질과 결론의 참됨 사이의 상관관계가 무너진 환경에 부적응하게 된 한때 적응적이었던 사기꾼 탐지 모듈인 "버그가 되어버린 기능(feature turned bug)"을 나타냅니다.

4. 이 편향이 나타나는 방식

4.1. 일상생활에서

오류에 기대는 논증은 개인적인 대화에서 자주 나타납니다:

• 친구가 "자기 관계도 제대로 유지 못한다"는 이유로 관계에 대한 친구의 조언을 무시하는 경우 (조언 자체는 여전히 올바를 수 있음)
• 담배를 피우는 사람의 건강 권고를 거부하는 경우 ("운동이 그렇게 중요하면, 너는 왜 안 해?")
• 경고하는 사람이 논리적이기보다 감정적인 호소를 사용한다는 이유로 재정적 결정에 대한 경고를 무시하는 경우
• 광고에 과장된 주장이 포함되어 있다는 이유로 제품이 나쁠 것이라고 가정하는 경우
• 가족 구성원이 어떤 상황에 대해 자신이 왜 그렇게 느끼는지 "설명할 수 없다"는 이유로 그들의 직관을 평가절하하는 경우

4.2. 직장에서

전문적인 환경에는 이 편향이 만연해 있습니다:

• 회의에서 우려 사항을 서투르게 발표했다는 이유로 프로젝트에 대한 동료의 타당한 우려를 무시하는 경우
• 자신의 근거를 조리 있게 표현하는 데 어려움을 겪는 직원의 제안을 무시하는 경우
• 핵심 가치 제안은 건전하지만 발표에 사소한 논리적 오류가 포함되어 있다는 이유로 사업 제안을 거부하는 경우
• 방법론에 일부 결함이 있다는 이유로 방향성 있는 결론이 유효함에도 불구하고 시장 조사를 평가절하하는 경우
• 내부 고발자가 개인적인 불만을 가지고 있다는 이유로 조직 문제에 대한 경고 신호를 간과하는 경우

4.3. 비즈니스 및 마케팅에서

비즈니스 세계는 이 편향을 이용하기도 하고 이로 인해 고통받기도 합니다:

이용(Exploitation): 기업들은 비평가들에게 공격의 빌미를 주지 않기 위해 대변인들에게 공식적인 논증을 훈련시킵니다. 단 하나의 논리적 실수가 근본적인 진실과 관계없이 전체 입장의 신뢰성을 떨어뜨릴 수 있다는 것을 알고 있기 때문입니다.

취약성(Vulnerability): 기업들은 초기 프레젠테이션에 결함이 있었다는 이유로 경쟁사의 혁신을 무시합니다. 코닥(Kodak)의 엔지니어들은 처음에 훗날 선견지명이 있었던 것으로 입증된 디지털 사진에 대한 주장을 무시했습니다. 기업들은 감정적이거나 비논리적인 방식으로 제시된 고객의 피드백을 거부하여, 타당한 제품에 대한 통찰력을 놓칩니다.

마케팅(Marketing): 브랜드들은 경쟁사의 제품 품질이 아닌 광고 논리를 공격합니다. 논증의 신뢰성을 떨어뜨리는 것이 종종 소비자들의 마음속에서 제품의 신뢰성도 떨어뜨린다는 것을 알기 때문입니다.

4.4. 정치 및 미디어에서

정치계는 이 편향을 제도화했습니다:

"오류 들먹이기(Fallacy Dropping)": 정치 평론가와 소셜 미디어 사용자들은 오류의 이름(허수아비 공격, 인신공격, 미끄러운 비탈길)을 배우고 이를 논쟁의 "차단" 메커니즘으로 사용합니다. 트위터 논쟁에 대한 연구에 따르면 사용자들은 일단 오류가 식별되면 내용에 거의 관여하지 않으며, 오류의 이름을 대는 것이 의례적인 묵살 행위가 됩니다.

편향 오류(The Bias Fallacy): 흔한 변형으로, 출처의 편향성을 근거로 정보를 묵살합니다. "당신은 민주당원/공화당원이기 때문에 당신의 데이터는 거짓입니다." 이는 편향된 출처도 진실된 사실을 보도할 수 있다는 점을 무시하는 것입니다.

기후 변화 담론(Climate Change Discourse): 회의론자들은 인위적 온난화 증거를 일축하기 위해 앨 고어의 탄소 발자국(피장파장의 오류)이나 부정확한 1990년대 모델(성급한 일반화)을 지적합니다. 토론은 물리적 증거의 질보다는 메시지 전달의 질로 옮겨갑니다.

정치적 팩트체크(Political Fact-Checking): 팩트체커가 정치적 주장 내의 논리적 오류를 식별할 때, 청중은 그 입장을 뒷받침하는 다른 타당한 증거가 있는지 여부와 관계없이 근본적인 정책 입장이 잘못되었다고 해석하는 경우가 많습니다.

4.5. 의료 분야에서

의료적 맥락에서는 특히 위험한 징후가 나타납니다:

역사적 사례: 이그나츠 젬멜바이스(Ignaz Semmelweis)의 손 씻기 프로토콜이 그의 "시체 입자" 이론에 생물학적 메커니즘이 부족하다는 이유로 거부당했습니다. 의사들은 그의 통계적 증거를 전후 인과관계의 오류(Post Hoc fallacy)로 치부했고, 그 결과 수천 명이 예방 가능한 죽음을 맞이했습니다.

현대적 사례: 환자들은 의사가 설명을 잘 못했거나 환자가 납득하기 어려운 추론을 사용했다는 이유로 타당한 의학적 조언을 무시합니다. 대체의학 시술자는 때로 더 나쁜 치료법에 대해 더 나은 주장을 제공하는 반면, 근거 중심 의학 시술자는 더 나은 치료법에 대해 더 나쁜 주장을 제공하기도 합니다.

진단 시: 질환에 대한 초기 테스트가 방법론적으로 비판받을 때, 환자와 의사 모두 더 나은 진단 방법을 찾기보다는 질환의 존재 자체를 부정할 수 있습니다.

4.6. 금융 및 투자에서

금융 시장은 이 편향을 명확하게 보여줍니다:

• 원래의 주장에 계산 오류가 포함되어 있었다는 이유로 타당한 투자 논제를 무시하는 경우
• 현재의 분석이 건전함에도 불구하고 이전에 틀린 적이 있는 애널리스트의 시장 경고를 무시하는 경우
• 비전통적인 출처(블로거, 개인 투자자)의 재정 조언이 형식적인 엄밀함이 부족하다는 이유로 거부하는 경우
• O.J. 심슨 재판의 재무적 시사점: 배우자 학대 통계에 대한 변호인 앨런 더쇼위츠(Alan Dershowitz)의 기저율 오류가 이의 없이 받아들여져 판결에 영향을 미친 경우

5. 실제 사례 연구

사례 연구 1: 대륙 이동설과 알프레트 베게너

• 배경: 1912년 독일의 기상학자 알프레트 베게너(Alfred Wegener)는 대륙이 지구 표면을 가로질러 이동하며 과거에는 판게아(Pangaea)라는 하나의 초대륙으로 연결되어 있었다고 제안했습니다.
• 발생한 일: 베게너는 바다를 가로질러 일치하는 화석, 퍼즐 조각처럼 들어맞는 해안선, 여러 대륙에 걸쳐 이어지는 지질 구조 등 강력한 정황 증거를 제시했습니다. 그러나 그가 제안한 메커니즘에는 치명적인 결함이 있었습니다. 그는 지구 자전의 원심력과 조석력이 대륙 이동을 주도한다고 제안했습니다. 물리학자들은 이 힘들이 대륙을 이동시키기에는 수십 배나 너무 약하다고 정확하게 계산해 냈습니다.
• 작용한 편향: 과학계는 "베게너의 메커니즘은 물리적으로 불가능하므로, 대륙 이동설은 거짓이다"라고 추론했습니다. 이것은 이를 뒷받침하는 주장이 건전하지 않다는 이유로 참인 결론을 거부하는 오류에 기대는 논증을 저지른 것입니다.
• 결과: 판 구조론이 올바른 메커니즘(맨틀 대류, 해저 확장)을 제공할 때까지 대륙 이동설은 50년 동안 묵살당했습니다. 수십 년간의 지질학 연구가 잘못된 가정하에 진행되었습니다.
• 교훈: 빈약한 메커니즘적 주장이 관찰된 증거를 반증하지는 않습니다. 과학자들은 둘 다 무시할 것이 아니라 "메커니즘은 틀렸지만, 증거를 설명할 수 있는 것은 무엇인가?"라고 물었어야 했습니다.

사례 연구 2: O.J. 심슨 재판

• 배경: 1995년 O.J. 심슨의 살인 재판은 미국 법률 역사에서 결정적인 순간이 되었습니다.
• 발생한 일: 변호인단은 검찰 측의 증거 보관 사슬을 체계적으로 무너뜨렸고, 마크 퍼먼(Mark Fuhrman) 형사의 인종차별을 확인시켰으며, 배우자 학대에 대한 통계적 주장을 제시했습니다. 변호사 앨런 더쇼위츠는 "학대자 중 아내를 죽이는 사람은 0.1%에 불과하다"고 주장했습니다. 이는 관련된 확률이 P(학대 + 아내 살해 시 남편이 살인자일 확률)이고 그 값이 50%를 초과하기 때문에 기저율 오류에 해당했습니다.
• 작용한 편향: 배심원단은 틀림없이 오류에 기대는 논증을 저질렀습니다. "검찰 측의 주장에는 거짓말, 오류, 오염된 증거가 포함되어 있으므로, (심슨이 유죄라는) 결론은 거짓이다." "결함이 있는 증거"와 "거짓인 결론" 사이의 구분이 무너진 것입니다.
• 결과: 상당한 물적 증거가 있었음에도 불구하고 무죄 판결이 내려졌습니다. 이 사건은 절차적 오류가 배심원들의 마음속에서 어떻게 사실적 유죄를 가릴 수 있는지를 드러냈습니다.
• 교훈: 법 체계는 "유죄를 주장하는 논증에 결함이 있다"와 "피고인은 무죄다"를 더 잘 구분해야 합니다. 오류의 오류는 합리적 의심 기준과 결합될 때 특히 위험합니다.

역사적 예시: 젬멜바이스 반사 작용

1840년대, 헝가리 의사 이그나츠 젬멜바이스는 염소 처리된 석회로 손을 씻는 것이 산욕열 사망률을 18%에서 1%로 감소시킨다는 사실을 발견했습니다. 그의 설명인 부검 시 발생하는 "시체 입자"는 당시 지배적이었던 장기설(Miasma Theory)과 모순되었고, 기전적 정당성이 부족했습니다(세균설은 수십 년이 지나서야 등장하게 됩니다).

루돌프 피르호(Rudolf Virchow)가 이끄는 의료계는 그의 발견을 거부했습니다. 그들은 그의 이론적 틀이 비과학적이라고 비판했고 그의 통계적 상관관계를 전후 인과관계의 오류(Post Hoc reasoning)로 치부했습니다. 그의 주장에 대한 이러한 비판은 그들이 그의 결론을 거부하도록 이끌었고, 치명적인 결과를 낳았습니다. 젬멜바이스는 정신병원에서 사망했으며, 파스퇴르와 코흐가 그의 입장의 정당성을 입증할 때까지 의사들은 20년 동안 손 씻기를 계속 거부했습니다.

"젬멜바이스 반사 작용"은 이제 하나의 명명된 현상이 되었습니다. 즉, 새로운 지식을 뒷받침하는 주장이 기존 패러다임과 모순된다는 이유로 새로운 지식을 거부하는 것입니다. 이는 선구자의 추론에서 논리적 공백을 확인했다고 해서 학계가 선구자의 데이터를 검증할 의무에서 면제되는 것은 아니라는 경고로 남아 있습니다.

6. 이 편향의 대가

6.1. 개인적 비용

• 관계의 손상: 파트너가 감정적이거나 비논리적으로 표현한다는 이유로 그들의 타당한 우려를 무시함
• 지혜를 놓침: "이유를 설명할 수는 없지만" 정확한 직관을 가진 사람들의 조언을 무시함
• 지적 고립: 논쟁의 오류를 범하는 모든 사람과의 대화를 단절함
• 인식론적 폐쇄성: 불완전한 출처, 즉 다시 말해 모든 출처로부터 배울 수 없게 됨
• 결정 마비: 어떤 것을 진실로 받아들이기 전에 완벽하게 논증된 입장을 기다림

6.2. 직업적 비용

• 혁신에 대한 맹점: 초기 제안자가 주장을 잘 못한다는 이유로 진정으로 좋은 아이디어를 무시함
• 인재 간과: 면접은 못하지만 업무 성과는 뛰어난 지원자를 놓침
• 전략적 오류: 엄밀한 데이터 없이 제시된 시장의 경고를 무시함
• 협력 붕괴: 아이디어의 질보다 논증의 질에 집중하는 팀
• 경쟁 열위: 완벽한 제안을 기다리는 동안, 불완전하지만 타당한 통찰력을 바탕으로 행동하는 경쟁사들에게 뒤처짐

6.3. 사회적 비용

• 과학적 지연: 베게너의 사례 하나만으로 지질학은 50년을 허비했습니다. 세균설, 궤양 치료(헬리코박터 파일로리균), 그리고 수많은 다른 진보들에도 이와 유사한 지연이 영향을 미쳤습니다.
• 공중 보건의 재앙: 젬멜바이스 사례는 셀 수 없이 많은 예방 가능한 죽음을 초래했습니다. 현대에도 빈약한 초기 주장과 함께 제시된 근거 중심 관행이 지연되어 수용되는 유사한 사례들이 있습니다.
• 정치적 양극화: 온라인 담론에서의 "오류 들먹이기"는 의견 불일치를 해결하지 못한 채 대화를 단절시킴
• 제도적 기능 장애: 절차적 오류를 근거로 사실상 유죄인 자에게 무죄를 선고하는 법 체계 (위법 수집 증거 배제 법칙의 논리적 구조는 오류에 기대는 논증을 반영함)
• AI 오정보 플래그 지정: 오류를 탐지하도록 훈련된 NLP 시스템은 서투르게 논증된 진실을 "오정보"로 분류하여 대규모로 논리적 오류(argumentum ad logicam)를 자동화할 수 있음

6.4. 통계적 영향

연구 결과는 그 심각성을 수치화합니다:

• 스터플(Stupple) 등(2011)은 논리력이 높은 추론자들이 타당하지 않은 삼단논법을 통해 제시될 때 신빙성 있는 결론을 눈에 띄게 더 많이 거부한다는 것을 발견했습니다.
• 유럽 의회 토론에 대한 연구에 따르면, "오류에 대한 비난"은 실질적인 참여 감소 및 해결 없는 토론 종료 증가와 관련이 있습니다.
• 뜨거운 손에 대한 반전은 전문가인 통계학자조차 오류의 오류를 범할 수 있으며, 대중의 결함 있는 주장에 대한 결함 있는 분석을 근거로 수십 년 동안 실제 현상을 무시할 수 있음을 보여줍니다.
• AI 팩트체크에 관한 EMNLP 연구는 현재의 LLM(대규모 언어 모델)이 조직적으로 "불충분한 추론"을 "오정보"로 과도하게 플래그를 지정하여 컴퓨터 연산으로 편향을 복제하고 있음을 보여줍니다.

7. 숨겨진 이점

모든 편향이 순수하게 부정적인 것은 아니며, 일부는 유용한 목적에 부합합니다.

오류에 기대는 논증이 존재하는 이유는 그 근저에 있는 휴리스틱이 종종 효과가 있기 때문입니다. 진실과 논증의 질이 강한 상관관계를 맺는 환경에서, 서투르게 논증된 주장을 거부하는 것은 합리적이고 효율적입니다:

• 조작으로부터의 보호: 대부분의 고의적인 속임수는 오류가 있는 추론을 포함합니다. 이 편향은 사기를 당하는 것에 대한 1차적 방어 역할을 합니다.
• 인지적 효율성: 모든 주장을 뒷받침하는 주장과 별개로 독립적으로 평가하는 것은 소모적입니다. 논증의 질을 진실의 대용물로 사용하면 정신적 자원을 절약할 수 있습니다.
• 사회적 조정: 좋은 주장을 요구하면 더 나은 담론 규범에 대한 압력이 형성됩니다. 만약 서투르게 논증된 주장도 똑같이 수용된다면, 신중하게 추론할 유인이 없을 것입니다.
• 적절한 회의주의: 논증과 진실이 여전히 상관관계를 유지하는 영역(예: 수학적 증명)에서 결함이 있는 논증을 거부하는 것은 결론에 대한 회의를 강화해야 합니다.

핵심은 조정(calibration)입니다. 논증의 질과 진실이 분리될 때, 즉 전문가가 올바른 입장에 대해 서투르게 주장하거나, 진실 탐구가 관찰된 증거를 이론적 정당성과 분리해야 할 때 이 편향은 해로워집니다. 이 휴리스틱을 완전히 제거하면 조작에 취약해질 것입니다. 목표는 그것이 적용되는 때를 맥락적으로 인식하는 것입니다.

8. 자가 진단: 당신에게 이 편향이 있습니까?

8.1. 경고 신호 체크리스트

• 상대방의 논증에서 논리적 오류를 찾아내면 토론에서 "이겼다"고 느낀다.
• 형편없이 추론하는 사람들의 결론은, 그 결론을 독립적으로 뒷받침하는 근거가 있을 때조차도 받아들이기 어렵다.
• 원래의 추론에 결함이 있다는 이유로 무시했던 조언이 나중에 맞는 것으로 밝혀진 적이 있다.
• 사람들이 무엇을 주장하는지보다 어떻게 주장하는지에 더 초점을 맞춘다.
• 근본적인 주장이 참인지 여부를 다루지 않고 "그것은 오류다"라고 말한 적이 있다.
• 편향된 출처는 항상 거짓인 결론을 도출한다고 가정한다.
• 저명한 옹호자들이 논리적 오류를 범하기 때문에 그 분야나 관점 전체를 무시한다.
• 진실을 밝혀내지 못했더라도 논리적 결함을 발견한 후 지적 우월감을 느낀다.
• 잘못된 주장을 확인한 후 "그렇더라도 어쨌든 사실인가?"라고 묻는 일이 거의 없다.
• 주제에 관여하기보다는 오류의 이름을 대며 대화를 끝낸 적이 있다.

채점:

• 0-2개 체크: 낮음
• 3-5개 체크: 중간
• 6-8개 체크: 높음
• 9-10개 체크: 매우 높음

8.2. 자기 성찰 질문

1. 주장이 빈약하다는 이유로 참인 것을 거부했던 때를 떠올릴 수 있나요? 그 결과는 어떠했나요?
2. 내가 지적으로 열등하다고 생각하는 사람이 의심스러운 주장을 할 때, 나는 보통 어떻게 반응하나요?
3. 나는 논증을 평가하는 데 더 많은 시간을 쓰나요, 아니면 결론을 평가하는 데 더 많은 시간을 쓰나요? 적절한 균형은 무엇일까요?
4. 논리적으로는 논쟁에서 "이겼"지만, 실질적으로는 틀렸던 적이 있나요? 그것을 어떻게 알게 되었나요?
5. 누군가 내 추론에 결함이 있다고 말할 때, 나는 결론을 재검토하나요, 아니면 나의 논증 과정만 재검토하나요?

8.3. 빠른 진단 시나리오

시나리오: 직장 동료가 새로운 프로젝트 관리 소프트웨어가 실패할 것이라고 말합니다. 그들의 근거는 다음과 같습니다: "수성이 역행하고 있고, 역행 기간에는 모든 기술 프로젝트가 실패하니까요." 당신이 나중에 조사해 본 결과, 그 소프트웨어가 기존 시스템과 심각한 호환성 문제가 있다는 것을 발견했습니다.

당신은 어떻게 반응할 가능성이 가장 높습니까?

• A) "동료가 맞았지만, 완전히 잘못된 이유 때문이었습니다. 주장을 뒷받침하는 논거와 독립적으로 주장을 조사해 봐야겠어요." → 낮음
• B) "고장 난 시계도 하루에 두 번은 맞으니까요. 명심은 하겠지만 앞으로 그들의 주장을 평가하는 방식을 바꾸지는 않을 거예요." → 중간
• C) "소프트웨어 문제는 우연의 일치임이 틀림없어요. 점성술을 믿는 사람의 말은 진지하게 받아들일 수 없어요." → 높음

9. 다른 사람에게서 이 편향 발견하기

9.1. 행동 지표

• 논쟁 종료 선언: 사람들은 마치 토론이 끝난 것처럼 "그것은 오류다"라고 선언합니다.
• 초점 전환: 대화가 "X가 참인가?"에서 "X에 대한 논증이 타당했나?"로 옮겨갑니다.
• 출처 묵살: 일부 옹호자가 추론을 잘 못한다는 이유로 관점 전체를 거부합니다.
• 논리적 우월감: 진실을 알아내는 데는 관심이 없고 결함을 찾아내는 것에서 만족감을 얻습니다.
• 인식론적 고립: 논리적 오류를 범하는 누구와도 관여하기를 거부합니다.
• 경쟁으로서의 토론: 토론을 오류 식별이 곧 점수인 점수 게임처럼 취급합니다.

9.2. 대화의 적신호

사람들이 이 편향에 빠졌을 때 하는 말:

• "그건 허수아비 공격/인신공격/미끄러운 비탈길의 오류이므로, 네가 틀렸어."
• "그 논리적 오류 이후에는 네가 하는 어떤 말도 진지하게 받아들일 수 없어."
• "만약 그게 사실이라면, 누군가 더 나은 주장을 폈겠지."
• "그들이 주장하는 방식을 보면 그것이 사실이 아니라는 게 증명돼."
• "출처를 생각해 봐. 그들은 편향되어 있으니 데이터도 틀렸을 거야."

그들이 하는 주장의 유형:

• 어떤 증거가 뒷받침하는지(what)보다 주장이 어떻게 방어되는지에 전적으로 초점을 맞춤
• 어떤 결론이든 받아들이기 전에 완벽한 논증을 요구함

그들이 묻기를 피하는 질문:

• "어떻게 주장했는지는 제쳐두고, 이 주장에 대한 다른 증거가 있나요?"
• "그것을 뒷받침하는 논증에 결함이 있더라도 이것이 사실일 수 있을까요?"

9.3. 상황적 촉발 요인

• 경쟁적 상황: "이기는 것"이 중요한 토론, 말다툼, 소셜 미디어에서의 교전
• 자아 위협: 결론을 받아들이는 것이 상대방이 "맞았다"는 것을 의미할 때
• 정보 과부하: 주장을 필터링하기 위해 인지적 지름길이 필요해질 때
• 논리학 훈련: 역설적으로, 공식적인 논리학 교육은 오류 찾기를 부각시켜 민감성을 높일 수 있습니다.
• 신뢰가 낮은 환경: 사기꾼 탐지 휴리스틱이 이미 활성화되어 있을 때
• 시간 압박: 논증과 결론을 따로 평가할 기회가 없을 때

10. 인지적 편향 제거 전략

10.1. 즉각적인 기술

• "그렇더라도 사실인가?" 확인: 논리적 결함을 확인한 후, 명시적으로 물어보세요: "주장은 제쳐두고, 이 결론이 참일 수 있을까? 어떤 증거가 필요할까?"
• 분리 평가: 의식적으로 주장을 두 단계로 평가하세요. 먼저 논증의 타당성을 평가한 다음, 독립적인 증거를 통해 결론의 진실성을 평가합니다.
• 고장 난 시계 테스트: 스스로에게 물어보세요: "고장 난 시계가 이 시간을 가리킨다면, 다른 시계를 확인해 볼까, 아니면 그냥 틀렸다고 가정할까?"
• 출처 다양화: 나쁜 논증을 발견했을 때, 그것을 거부하기 전에 그 입장에 대한 가장 좋은 논증을 찾아보세요.
• 묵살하기 전 철인(Steelman) 논증: 해당 주장의 가장 강력한 버전을 구성해 보세요. 만약 그 버전도 실패한다면, 거부하는 것이 더 정당화됩니다.

10.2. 장기적 전략

• 영역별 조정: 논증의 질이 진실을 예측하는 영역(수학)과 그렇지 않은 영역(결함 있는 선구자가 있는 실증 과학)을 구분하는 연습을 하세요.
• 자신의 예측 추적: 논증의 질에 근거하여 거부했던 주장을 기록하세요. 당신이 옳았나요? 시계가 고장 난 것으로 밝혀졌나요, 아니면 단순히 잘못된 시간을 가리키고 있었던 건가요?
• 증거 직관력 개발: 논증 평가에 의존하기보다 즉시 독립적인 증거를 찾는 습관을 기르세요.
• 인식론적 겸손 수용: 많은 진실이 서투르게 주장되고, 많은 거짓이 훌륭하게 주장된다는 사실을 받아들이세요.
• 역사적 반전 사례 연구: 베게너와 젬멜바이스 같은 사례를 연구하여 이 오류의 대가를 본능적으로 이해하세요.

10.3. 환경 설계

• 구조화된 의사 결정 프로세스: "논증의 질"과 "결론의 가능성"을 분리하여 평가하도록 요구하는 조직 시스템을 구축하세요.
• 악마의 대변인 역할: 팀원들에게 거부된 입장을 가장 강력한 형태(steelman)로 옹호하는 역할을 맡기세요.
• 증거 라이브러리: 나쁜 주장이 좋은 증거를 오염시키지 않도록 주장과 독립적인 결론에 대한 증거 저장소를 만드세요.
• 사후 분석 요구: 주요 결정 이후에는, 거부된 대안과 거부 사유에 대한 문서화를 요구하세요.

10.4. 외부 의견을 구해야 할 때

• 논리적 결함을 발견했다는 이유를 주되게 들어 결론을 거부했을 때
• 결론이 만약 사실이라면 매우 큰 대가를 치러야 함에도, 주장만 평가했을 때
• 오류를 식별하는 것에서 정서적 만족감을 느낀다고 알아차렸을 때
• 당신이 평소 신뢰하는 누군가가 당신의 거절에 동의하지 않을 때
• 이해관계가 걸린 것이 많고, 증거를 독립적으로 평가할 시간이 제한적이었을 때

11. 실천 연습

연습 1: 오류 고고학

• 목표: 주장 평가와 결론 평가를 분리하는 습관 기르기
• 소요 시간: 20분
• 준비물: 종이, 펜, 뉴스 기사 접근
• 난이도: 중급
• 지침:
  1. 당신이 동의하지 않는 입장을 옹호하는 뉴스 기사나 오피니언 칼럼을 찾으세요.
  2. 주장에서 2-3개의 논리적 결함을 식별하세요.
  3. 다음을 적어보세요: "만약 이 주장이 타당하다면 결론이 참일까?"
  4. 이제 조사해 보세요: "이 기사와 무관하게, 이 결론에 대한 가장 좋은 증거는 무엇인가?"
  5. 평가해 보세요: "이 결론이 처음에 생각했던 것보다 실제로 진실일 가능성이 더 높은가?"
• 성찰 질문:
  • 논리적 결함을 찾은 것이 결론이 틀렸다는 확신을 더 강하게 만들었나요?
  • 내가 고려하지 않은 증거가 있었나요?
  • 만약 원래의 주장이 완벽했다면 내 평가는 어떻게 달라졌을까요?
• 주기: 매주

연습 2: 역사적 반전 분석

• 목표: 이 편향으로 인한 대가에 대한 감정적 직관 기르기
• 소요 시간: 45분
• 준비물: 인터넷 접속, 노트
• 난이도: 중급
• 지침:
  1. 결함 있는 주장 때문에 참인 이론이 거부되었던 역사적 사례(예: 베게너, 젬멜바이스, 헬리코박터 파일로리균 등)를 하나 조사하세요.
  2. 기록: 결함 있는 주장은 무엇이었나요? 참인 결론은 무엇이었나요?
  3. 비평가들이 지적한 구체적인 논리적 오류를 나열하세요.
  4. 결함 있는 주장과 별개로 존재했던 증거를 설명하세요.
  5. 지연에 따른 대가(소요된 세월, 사망자 수, 낭비된 자원 등)를 계산해 보세요.
• 성찰 질문:
  • 내가 그 시대에 살았다면 어떻게 반응했을까요?
  • 나쁜 주장과 좋은 증거를 분리하려면 무엇이 필요했을까요?
  • 현대의 어떤 논쟁이 이 패턴과 비슷할 수 있을까요?
• 주기: 매월

연습 3: 철인(Steelman) 논증 연습

• 목표: 거부하기 전에 무의식적으로 주장을 강화(steelmanning)해 보는 습관 기르기
• 소요 시간: 30분
• 준비물: 설득력이 없다고 생각되는 토론이나 논쟁 녹음 파일
• 난이도: 고급
• 지침:
  1. 결함이 있고 설득력이 없다고 생각되는 주장을 들으세요.
  2. 당신이 찾아낸 모든 논리적 오류를 나열하세요.
  3. 이제 그 주장의 가장 강력한 형태를 구성해 보세요. 노련한 옹호자라면 뭐라고 말할까요?
  4. 그 형태의 주장을 평가해 보세요. 원본이 실패한 지점에서 성공했나요?
  5. 독립적으로 조사하세요: 이 결론에 대한 실증적 증거는 무엇인가요?
• 성찰 질문:
  • 가장 강력한 형태의 주장이 훨씬 더 설득력이 있었나요?
  • 원래의 주장자가 인용하지 않은 증거가 있었나요?
  • 나의 초기 거절이 섣부른 것이었나요?
• 주기: 격주

매일의 연습

"두 개의 시계 규칙(Two-Clock Rule)": 매일 빈약한 주장을 만날 때, 잠시 멈추고 질문해 보세요. "만약 고장 난 시계가 이 시간을 가리킨다면, 나는 그냥 틀렸다고 믿어버릴 것인가, 아니면 다른 시계를 확인해 볼 것인가?"

• 권장 소요 시간: 상황당 2분
• 하루 중 가장 좋은 시간: 오류를 발견한 것을 인지할 때마다
• 진행 상황 추적 방법: 독립적으로 확인한 횟수와 주장에만 근거하여 거절한 횟수를 기록하세요.

주간 챌린지

빈약하게 논증된 진실 사냥(The Poorly-Argued Truth Hunt): 일주일에 한 번, 대개 잘못된 주장에 의해 방어되고 있지만 사실인 무언가를 적극적으로 찾아보세요.

• 4주 후 예상 결과: 논증의 질 ≠ 진리값 이라는 것을 직관적으로 인식하게 됨
• 성찰을 위한 일기 쓰기 주제:
  • 내 전문 분야에서 엉망으로 논증되고 있는 진실한 주장은 무엇인가?
  • 훌륭한 입장에 종종 서투른 옹호자가 있는 이유는 무엇일까?
  • "서투른 주장"과 "거짓"을 실시간으로 어떻게 구분할 수 있을까?

12. 특정 독자 대상

리더 및 관리자를 위한 조언

오류에 기대는 논증은 리더십 환경에서 특히 위험을 초래합니다:

• 혁신 억제: 팀은 초기 프레젠테이션에 결함이 있다는 이유로 진정으로 훌륭한 아이디어를 필터링할 수 있습니다. 발표의 질뿐만 아니라 아이디어의 가치에 따라 평가되는 프로세스를 만드세요.
• 피드백에 대한 맹점: 감정적이거나 비논리적으로 표현된 직원의 우려사항도 여전히 타당할 수 있습니다. 노이즈 속에서 신호를 듣는 훈련을 하세요.
• 회의 역학: 누군가 논리적 오류를 범할 때, 그가 말하는 모든 것을 묵살하려는 충동을 억제하세요. "여기서 근본적인 우려는 무엇인가요?"라고 질문하세요.
• 채용 편향: 면접을 잘못 보는 후보자도 업무 수행은 훌륭할 수 있습니다. 언어적 추론 능력과 함께 작업 샘플 및 추천서를 고려하세요.
• 의사 결정 사후 분석: 과거의 결정을 검토할 때, "주장이 형편없어서 이것을 거부했는가?"와 "이것이 틀렸기 때문에 거부했는가?"를 분리하세요.

부모 및 교육자를 위한 조언

아이들에게 이 편향에 대해 가르치면 냉소주의 없이 비판적 사고를 기를 수 있습니다:

• 연령에 맞는 설명: "때때로 사람들은 실제로 진실인 것에 대해 엉뚱한 이유를 대기도 해. 만약 누군가 '유니콘이 좋아하니까 채소를 먹어'라고 말한다면, 이유가 엉뚱하더라도 채소는 여전히 건강에 좋은 거란다."
• 모범 보이기: 아이들이 올바른 결론에 대해 빈약한 주장을 펼칠 때, 아이들이 맞다는 것을 인정해 주면서 더 나은 이유를 찾도록 도와주세요.
• "설령 그렇더라도(Even If)" 게임: "설령 그 이유가 맞지 않더라도, 이것이 여전히 사실일 수 있을까?"와 같은 문장을 연습하세요.
• 역사적 사례: 연령에 맞는 베게너 같은 과학자들의 이야기는 옳다는 것이 완벽한 추론을 요구하지 않는다는 것을 아이들이 이해하도록 돕습니다.

의료 전문가를 위한 조언

의료 분야에서는 이 편향이 특히 위험합니다:

• 젬멜바이스의 교훈 인식: 환자가 실제 증상을 잘못된 이론으로 설명할 수 있다는 점을 기억하세요. 이론이 틀렸다고 해서 증상이 무효가 되는 것은 아닙니다.
• 보완 의학: 대체 요법을 원하는 이유로 논리적 오류를 드는 환자에게도 해결할 가치가 있는 합당한 근본적 우려(부작용에 대한 두려움, 통제에 대한 욕구)가 있을 수 있습니다.
• 환자 교육: 환자의 추론을 바로잡을 때 근본적인 우려를 묵살하지 않도록 주의하세요. "정확히 그렇게 작용하는 것은 아니지만, X에 대한 당신의 우려는 타당합니다. 제가 설명해 드리겠습니다."
• 동료 간의 의견 불일치: 동료가 임상적 결정에 대해 빈약하게 주장할 때, 그들의 추론에 근거하여 묵살하기보다는 결정 자체의 장점을 평가하세요.

금융 전문가를 위한 조언

재무적 결정에서는 주장 수준과 투자의 질을 분리해야 합니다:

• 애널리스트 평가: 자신의 근거를 조리 있게 표현하지 못하는 펀드 매니저도 타당한 투자 직관을 가지고 있을 수 있습니다. 설명보다 실적이 더 중요합니다.
• 고객 커뮤니케이션: 고객이 재무 목표에 대해 빈약한 이유를 들 때, 더 나은 추론에 대해 교육하는 동시에 그 목표를 진지하게 다루세요.
• 시장 분석: 방향성 결론이 맞더라도 약세장 혹은 강세장 주장에 결함이 있을 수 있습니다. 증거를 독립적으로 평가하세요.
• 위험 관리: 약한 논거와 함께 제시된 경고 신호도 여전히 경고 신호입니다. 메신저의 논리 수준이 근본적인 위험을 바꾸지는 않습니다.

13. 다른 편향과의 상호 작용

이 편향을 증폭시키는 편향

이 편향을 상쇄하는 편향

흔한 편향 연쇄

오류에 기대는 논증 → 역화 효과(Backfire Effect) → 에코 체임버(Echo Chamber) 형성

빈약한 주장을 근거로 결론을 거부할 때, 우리는 종종 전체적인 관점을 묵살합니다. 이는 우리의 원래 견해가 강해지는 역화 효과를 유발하며, 우리의 견해에 아무도 이의를 제기하지 않는 에코 체임버로 우리를 이끕니다. 이 연쇄 과정은 양극화를 증폭시킵니다.

확증 편향 → 오류에 기대는 논증 → 동기화된 추론(Motivated Reasoning)

우리는 우리가 싫어하는 입장을 옹호하는 주장에서는 오류를 더 쉽게 발견하고, 그 오류를 이용하여 결론을 거부한 다음, 왜 우리가 내내 옳았는지에 대한 사후 정당화를 구성합니다.

연쇄 끊기: 핵심 개입 지점은 오류를 파악한 직후입니다. 거부가 공고해지기 전에 "그렇더라도 사실인가?" 확인을 끼워 넣는 것입니다.

14. 문화적 관점

오류에 기대는 논증은 문화마다 다르게 나타나며, 논증, 권위, 불확실성에 대한 태도에 의해 형성됩니다:

서구의 학술 문화는 공식적인 논리학 훈련, 토론 전통, 다른 사람의 오류를 확인하는 위신에 대한 강조로 인해 특히 감수성이 높습니다. 인터넷은 "오류 들먹이기"를 담론의 규범으로 세계화하여 편향을 문화적 경계 너머로 퍼뜨렸습니다.

연구에 따르면 구전 전통이 강한 문화는 이 편향에 더 강한 저항력이 있을 수 있습니다. 형식을 갖춘 논리적 구조보다는 이야기, 증거, 권위를 통해 결론을 평가하는 곳에서는 논증의 결함이 갖는 비중이 적습니다.

15. 통념 및 오해

16. 전문가 의견

"거짓인 전건과 마찬가지로, 오류가 있는 주장도 우연히 참인 후건을 가질 수 있다." — 공식적인 논증 이론에 명시된 논리 원칙

"오류는 비판적 토론의 규칙을 위반하는 것이지 결론이 거짓이라는 증명이 아니다." — 프란스 판 에메런, 화용-변증법 프레임워크

"교과서에서의 오류에 대한 표준적 취급은 학생들로 하여금 오류를 식별하는 것을 논쟁의 최종 목표로 삼도록 길들인다." — 찰스 햄블린, 《오류》 (1970)

"인간의 이성은 외로운 진실 찾기를 위해서가 아니라, 다른 사람을 설득하고 오도되는 것을 피하기 위한 사회적 논증을 위해 진화했다." — 휴고 메르시에 & 댄 스퍼버, 추론의 논증 이론 (2011)

"비평가가 파기 가능한(defeasible) 논증을 연역적 논증으로 취급할 때, 그들은 오류의 오류를 범한다. 편향은 주장을 약화시키지만, 결론을 위조하지는 않는다." — 더글라스 월튼, 파기 가능 추론에 관하여

17. 핵심 요약

1. 타당성 ≠ 진실: 결론은 사실적으로 진실이면서도 논증에는 논리적 결함이 있을 수 있습니다. 논리는 진리를 보존하는 것이지 창조하는 것이 아닙니다.

2. 역사적 대가는 막대합니다: 대륙 이동설, 세균설, 그리고 셀 수 없이 많은 진보들이 수십 년 지연되었습니다. 과학계가 약한 논증과 거짓된 결론을 융합했기 때문입니다.

3. 이 편향에는 진화적 뿌리가 있습니다: 주장의 질을 진실의 대리인으로 취급하는 것은 두 요소가 강한 상관관계를 보였을 때 적응적이었습니다. 현대의 환경은 이들을 분리시켰습니다.

4. 시스템 2가 오작동할 수 있습니다: 오류를 감지하는 분석적 추론은 결론에 독립적인 뒷받침이 있는지 재평가하기 전에 "단락(short-circuit, 합선)"될 수 있습니다.

5. "오류 들먹이기"는 유행병과 같습니다: 소셜 미디어와 AI 시스템은 오류를 식별하는 것을 진실 규명을 향한 단계가 아니라 대화의 종료 메커니즘으로 점차 더 많이 사용하고 있습니다.

6. 법 체계는 이를 제도화합니다: 위법 수집 증거 배제 법칙과 "절차적 기술성"에 의한 무죄 판결은 구조적으로 이 오류를 구체화합니다. 결함 있는 증거를 거짓인 결론과 동일하게 취급하는 것입니다.

7. 해결책은 분리입니다: 주장과 결론을 두 개의 뚜렷한 단계로 의식적으로 평가하세요. 항상 "그렇더라도 어쨌든 사실인가?"라고 질문하세요.

18. 추가 자료

학술 논문

• Stupple, E.J.N., Ball, L.J., Evans, J.St.B.T., & Kamal-Smith, E. (2011). When logic and belief collide: Individual differences in reasoning times support a selective processing model. Journal of Cognitive Psychology, 23(8), 931-941.
• Mercier, H., & Sperber, D. (2011). Why do humans reason? Arguments for an argumentative theory. Behavioral and Brain Sciences, 34(2), 57-74.
• van Eemeren, F.H., & Grootendorst, R. (2004). A systematic theory of argumentation: The pragma-dialectical approach. Cambridge University Press.

도서

• Hamblin, C. (1970). Fallacies. Methuen & Co.
• Walton, D. (1995). A Pragmatic Theory of Fallacy. University of Alabama Press.
• van Eemeren, F.H. (2010). Strategic Maneuvering in Argumentative Discourse. John Benjamins Publishing.

도서 챕터

• Walton, D. (2010). Why fallacies appear to be better arguments than they are. Informal Logic, 30(2), 159-184.
• Evans, J.St.B.T. (2008). Dual-processing accounts of reasoning, judgment, and social cognition. In Annual Review of Psychology, 59, 255-278.

19. 요약 카드

20. 용어 사전

21. 토론 질문

독서 모임, 교실 또는 자기 성찰을 위해:

1. 빈약하게 논증되었다는 이유로 참인 것을 거부했던 때가 생각나시나요? 결국 그 진실을 인식하는 데 무엇이 도움이 되었나요?

2. 형식 논리학 교육을 가르치는 교육 시스템은 비판적 사고의 이점과 이 편향에 대한 민감성을 유발할 위험 사이에서 어떻게 균형을 맞추어야 할까요?

3. 사법 시스템이 "절차적 기술성"에 의한 무죄 판결을 수용하는 것은 합리적인 절충안일까요, 아니면 오류의 오류가 제도화된 것일까요?

4. 오류에 기대는 논증을 자동적으로 범하는 것을 피하기 위해 AI 팩트체크 시스템은 어떻게 설계되어야 할까요?

5. 어떤 분야에서 논증의 질이 결론의 진실성을 대변하는 강력한 대리인으로 남아 있어야 하며, 어떤 분야에서 이 둘을 가장 주의 깊게 분리해야 할까요?