継続的影響効果

一目でわかる概要

1. 簡単な要約

ある情報を一度真実として受け入れると、それが自分にとって重要な何かを説明している場合、後でそれが間違いだと知っても、私たちの脳はそれに依存し続けます。これは、私たちの脳が、断片化された正確な話よりも、一貫しているが間違っている話を好むために起こります。何かが間違っていると知っていても、幽霊のように離れない信念のように、意思決定において無意識にそれを使ってしまうのです。

2. 背後にある科学

2.1. 発見と歴史

継続的影響効果（Continued Influence Effect: CIE）は、1994年にミシガン大学の認知心理学者ホリン・M・ジョンソンとコリーン・M・サイフェルトによって公式に特定され、命名されました。彼らの画期的な研究は、訂正がコンピュータのファイルを更新するように単に間違った情報を上書きすると仮定していた、記憶の一般的な「消去」モデルに異議を唱えました。

ジョンソンとサイフェルトの研究は、はるかに厄介なことを明らかにしました。誤情報とその訂正は記憶の中で共存し、検索時の活性化をめぐって競合するのです。この発見により、科学的な焦点は単純な情報源モニタリングのエラーから、物語の理解とメンタルモデルの更新という複雑な力学へと移りました。

その後の30年間で、CIEの理解は大きく進化しました。初期の「バックファイア効果」（訂正が逆に誤った信念を強めてしまう現象）への懸念は、再現研究を通じて緩和されてきました。研究分野は実験室から、公衆衛生、政治、メディアリテラシーといった現実世界での応用へと拡大し、研究者たちはプレバンキング（事前論破）やゲーム化された予防接種（イノキュレーション）のような実践的な緩和戦略を開発しています。

2.2. 主要な研究者

2.3. 画期的な研究

倉庫火災の実験 (Johnson & Seifert, 1994)

この分野を定義した基礎的な実験で、参加者は発生中の緊急事態（倉庫の火災）を説明するテレタイプ風のメッセージの一連を読みました。この物語の構造により、誤情報とその後の撤回のタイミングと内容を正確に制御することができました。

方法論: 実験条件において、初期のメッセージは、火災の原因がクローゼット内に保管されていた揮発性物質（油絵の具と加圧ガスボンベ）の過失による保管であることを示唆していました。その後、参加者は明確な訂正を受け取ります：実際にはクローゼットは空であり、揮発性物質は見つからなかった。シナリオを読んだ後、参加者は「なぜ火災はあれほど急速に広がったのか？」といった推論の質問に答えました。

主な結果: 直接尋ねられたときには訂正を認めた（つまり撤回を読み、理解し、記憶していたことを証明した）にもかかわらず、参加者は推論の質問に答える際、引き続き「過失による保管」という説明に依存しました。彼らは、クローゼットが空であったことを認めながらも、同時に火災の振る舞いを説明するために油絵の具とガスボンベに言及したのです。

意義: この研究は、事実を単に否定するだけでは、メンタルモデル（心内表現）の因果関係を消去するには不十分であることを実証しました。人々は、断片化された事実として正確なモデルよりも、一貫しているが間違ったモデルを好むのです。

イラクの大量破壊兵器に関する信念の持続の研究 (Lewandowsky et al., 2005)

2003年のイラク侵攻後、研究者たちは、公式の報告書で大量破壊兵器（WMD）の不在が確認された後も、イラクのWMDに関する一般の信念が持続しているかどうかを調査しました。

結果: アメリカやオーストラリアの人口のかなりの割合が、情報が撤回された後も長くWMDの存在を信じ続けていました。WMDの主張は戦争を正当化する中心的な「因果関係のリンク」として機能しており、それを撤回することは、侵攻支持者にとって心理的な不一致を生み出しました。彼らの「正戦（正しい戦争）」というメンタルモデルを維持するために、彼らは誤情報を保持しました。これは、CIEが政策の事後的な正当化をいかに促進するかの典型的な例です。

代替説明の有効性研究 (Ecker et al., 2010–2020)

ジョンソンとサイフェルトの研究に基づき、エッカーは代替の因果関係の説明を提供することがCIEを劇的に減少させることを実証しました。

主な結果: 効果のない撤回（「倉庫の火災は過失によるものではありませんでした」）は因果関係の空白を残します。効果的な反論（「倉庫の火災は過失によるものではありませんでした。警察の捜査官は放火の証拠を発見しました」）は、空白を埋め、一貫性を失うことなくメンタルモデルの更新を可能にします。

2.4. 神経学的な基盤

継続的影響効果は、記憶形成、物語の処理、信念の更新に関与する複数の認知システムと脳領域に関与しています。

メンタルモデルの構築: 前頭前野、特にワーキングメモリと実行機能に関与する領域は、状況モデルの構築と維持において中心的な役割を果たします。物語を処理する際、脳は原因と結果、行為者と行動、目標と結果を結びつける動的な心内表現を作成します。

記憶の競合: 海馬は、元の誤情報と訂正情報の両方を別々の記憶の痕跡としてエンコードします。検索中、これらの痕跡は活性化をめぐって競合します。これは、認知的葛藤を監視する前帯状皮質によって媒介されるプロセスです。

流暢性の処理: 情報を処理する際の容易さ（流暢性）は、外側前頭前皮質などによって処理されます。反復的な露出は親近感と流暢性を高め、脳はこれを真実のヒューリスティックとして利用します。これは、繰り返された神話が新しい訂正よりも「頭に残りやすい」理由を説明しています。

葛藤の解決: 訂正を成功させるには、誤った情報と正しい情報の両方が同時に活性化し、葛藤が検出され、元の痕跡に訂正を結びつけるか上書きすることによる解決が必要です。この統合プロセスには大きな認知リソースが求められ、注意が分散されていると失敗しやすくなります。

3. 進化の起源

継続的影響効果はバグではなく、人間の認知をこれほど強力にしている物語主導のアーキテクチャの特徴です。私たちの祖先は孤立した事実を処理することによってではなく、世界がどのように機能するかについての因果関係のある物語を構築することによって生き延びてきました。

一貫性のあるモデルの生存上の利点: 祖先の環境において、一貫した説明モデル（たとえ不完全であっても）は、断片化され結びつきのない事実よりも有用でした。「稲妻の後に雷鳴が鳴る」とか「あの実を食べると病気になる」ということを理解するには、原因と結果を結びつける必要がありました。物語の一貫性を優先する脳は、完璧な情報を待つ脳よりも、脅威に対して迅速に予測し対応することができたのです。

空っぽの説明のコスト: 進化論的に、脅威となる出来事に対して説明がないことは危険でした。部族のメンバーが見知らぬ植物を食べて死んだ場合、集団はそれらの植物を避けるための理由を必要としました。不完全なモデル（「何かが死を引き起こしたが、それが何であるかは分からない」）は実用的なガイダンスを提供しません。したがって脳は、代わりとなるものがないまま因果関係の説明を放棄することに抵抗するのです。

エネルギーの節約: メンタルモデルの更新には、多大な認知的努力が必要です。脳は体重のわずか2％を占めるに過ぎないにもかかわらず、体のエネルギーの約20％を消費するため、資源を節約するための近道を進化させました。既存の因果構造を保持するほうが、ゼロから再構築するよりも効率的だからです。

社会的結束: 共有された物語は部族の集団を結びつけました。因果関係の物語がいったん集団の知識の一部となれば、それを放棄することは社会的結束を脅かす可能性がありました。そのため脳は、部族のコンセンサスと衝突する信念を更新することに抵抗するようになったのです。

4. このバイアスがどのように現れるか

4.1. 日常生活において

CIEは、何かに対する説明を受け入れた後、それが間違っていたと後で知ったときに現れます。一般的な現れ方には次のようなものがあります：

• 後で撤回されたゴシップに基づいて、人を不信に思い続ける（「サラが本当はお金を盗んでいなかったとは言ってたけど、彼女の周りではまだ違和感を感じる」）
• 食に関する信念を維持する（「卵が心臓病を引き起こすという話が間違いだと証明されたのは知っているが、それでも卵を食べる罪悪感を感じる」）
• 人間関係の物語（「セラピストは元恋人が実際に私をガスライティングしていたわけではないと説明してくれたが、それでも私はそう考えてしまう」）
• 製品に対する信念（「メーカーが警告を取り消したと聞いたが、それでもあのブランドは買わない」）

4.2. 職場において

• 採用の決定: 候補者に関する最初の否定的な情報が、訂正された後も意思決定に影響を与える（「人事部は苦情は事実無根だと言ったが...」）
• 人事評価: 従業員に対する初期の批判が、矛盾する証拠にもかかわらず評判の評価に残り続ける
• プロジェクトの失敗: 問題の根本原因が調査で別に判明したにもかかわらず、元の原因のせいだという考えが残り続ける
• 組織の伝説: ポリシーが存在する理由についての物語が、実際の理由が忘れられたり否定されたりした後も長く残り続ける

4.3. ビジネスやマーケティングにおいて

企業はCIEに苦しむ一方で、それを利用することもあります：

• ブランドダメージの持続: 製品のリコールや不祥事は、問題が解決された後も長くブランドの認識に影響を与え続ける
• 競合他社への攻撃: 競合他社に対する否定的な主張は、法的に撤回された後も消費者の心に残り続ける
• 「先行者（ファースト・トゥ・マーケット）」の優位性: 後の製品が客観的に優れていても、初期の製品の主張が消費者の期待を形成する
• 広告のエコー効果: 中止された広告キャンペーンの主張が、ブランドの連想に影響を与え続ける

4.4. 政治やメディアにおいて

CIEは政治の文脈で最も危険な形で現れます：

• 政治的誹謗中傷の持続: 候補者に対する非難は、撤回された後も有権者の心に残り続ける
• 「デス・パネル（死の委員会）」などの神話: 医療保険制度改革（オバマケア）の議論中、ナイハン（2010）は、「死の委員会」という主張の訂正は効果がなく、政治的に関与している反対派の間では逆効果になることを発見しました
• 選挙不正の物語: 2020年の「Stop the Steal（盗みを止めろ）」現象は、信頼されるエリートによる反復が特定の集団においてほぼ完全なCIEをいかにして生み出し、そこでは外部からの訂正が情報ではなく攻撃と見なされるかを示しました
• 歴史修正主義: （ワイマール時代のドイツにおける「背後からの匕首の一突き」伝説のような）誤った歴史的物語は、何世代にもわたって政策を形成する可能性があります

4.5. ヘルスケアにおいて

• ワクチン忌避: MMRワクチンと自閉症を結びつける撤回されたウェイクフィールドの論文が残り続けているのは、それが恐ろしい状態に対する明確な「原因」を提供している一方で、科学的な訂正（「自閉症の原因は不明だが、ワクチンではない」）は因果関係のギャップを埋めることができないためです
• 治療への期待: 初期の診断や予後が、訂正後も患者の期待を形作り続ける
• 医薬品の安全性に対する認識: 後に緩和された安全性の警告が、処方や患者の受け入れに影響を与え続ける
• 病気の原因に関する神話: 科学的理解が更新されているにもかかわらず、症状の原因についての信念が残り続ける

4.6. 金融と投資において

• 企業の評判: アナリストの否定的なレポートやニュース報道が、訂正された後も株式の認識に長く影響を与える
• 市場の物語: 市場の動きに対する因果関係の説明（「市場が下落したのはXのせいだ」）は、Xが反証された後も残り続け、将来の取引に影響を与える
• デューデリジェンスの汚染: 投資対象に関する初期の否定的な発見が、反論された後も意思決定に影響を与える
• 経済予測: 失敗した予測が、その後も一貫性なく信頼性の評価に影響を与え続ける

5. 現実世界のケーススタディ

ケーススタディ 1: イラク大量破壊兵器の持続

• 背景: 2003年のイラク侵攻は、主にイラクが大量破壊兵器（WMD）を保有しているという主張によって正当化されました
• 何が起こったか: 侵攻後の広範な捜索ではWMDは見つかりませんでした。公式調査（イラク調査グループを含む）は、兵器が存在しなかったことを確認しました。この情報は広く公表されました
• バイアスの働き: 撤回にもかかわらず、レワンドウスキーの研究によれば、アメリカとオーストラリアの国民のかなりの部分が、WMDが存在したか移動されたと信じ続けました。WMDの主張は軍事行動を正当化する中心的な因果関係のノードでした。それを取り除くことは、戦争支持者にとって耐え難い認知的矛盾を生み出したのです
• 結果: WMDの信念の持続により、侵攻の事後的な正当化が継続され、その後の政策論議に影響を与え、CIEが国家規模でどのように機能するかを示しました
• 学んだ教訓: すでに行われた重大な決定の正当化として誤情報が機能する場合、CIEは訂正に対して特に強い抵抗を示します

ケーススタディ 2: MMRワクチンと自閉症の関連

• 背景: 1998年、アンドリュー・ウェイクフィールドは医学誌『ランセット』に、MMRワクチンと自閉症の関連を示唆する研究を発表しました
• 何が起こったか: その研究は撤回され、その後の数多くの研究によって反証され、ウェイクフィールドは倫理違反のため医師免許を剥奪されました。撤回は広く公表されました
• バイアスの働き: この神話が持続するのは、それが強力な因果関係のギャップを埋めるからです。自閉症は恐ろしく、よく理解されていません。ワクチンは具体的で行動可能な悪役を提供します。科学的訂正は代わりの原因を提供せず、不安を抱える親たちに不完全なモデルを残します
• 結果: 複数の国でワクチン接種率が低下し、麻疹のアウトブレイクにつながりました。この神話は、公衆衛生の意思決定に影響を与え続ける反ワクチン運動を生み出しました
• 学んだ教訓: 誤情報が説明を求める感情的な欲求を満たしている場合、因果関係のギャップを空白のままにするような訂正は失敗します

歴史的例: 「背後からの匕首の一突き」伝説 (Dolchstoßlegende)

おそらく20世紀におけるCIEの最も重大な例であり、このケースは効果がいかに歴史を形作るかを示しています。

第一次世界大戦後、ドイツの軍事指導部は、ドイツ軍は戦場では無敗のままであったが、国内の裏切り者（社会主義者、ユダヤ人、共和主義者）によって「背後から刺された」という虚偽を広めました。これは間違いでした。ドイツ軍は崩壊しており、自ら休戦を要請していたのです。

それに反するあらゆる歴史的証拠にもかかわらず、この神話は、いかにして強大な国家がかくも突然に敗北したのかという「因果関係のギャップ」を埋めました。それはナチス・イデオロギーの基礎的な嘘となり、ワイマール共和国時代を通じて持続し、第三帝国を可能にする条件に直接貢献しました。この例は、CIEが武器化された場合、国家の軌跡を変える可能性があることを示しています。

6. このバイアスのコスト

6.1. 個人のコスト

• 人間関係の悪化: 撤回されたゴシップや非難に基づいて行動し続けることで、信頼や友情が破壊される
• 誤った健康上の決定: 信用できない健康の信念（ワクチンの恐怖、効果のない治療法、論破された食事のルール）に固執することで、防げるはずの被害を被る
• 機会の喪失: 撤回された情報に基づいて人や場所や機会を避けることで、人生の可能性が制限される
• 精神的負担: 矛盾する信念を抱く（何かが間違っていると知っていながら、依然として真実であると感じる）ことで、継続的な認知的不協和が生じる
• 更新する能力の欠如: 訂正をうまく取り入れられないことが続くと、自分自身の判断に対する自信が損なわれる

6.2. 職業上のコスト

• 持続する噂によるキャリアのダメージ: 告発が取り下げられた後も長く、職業上の評判が損なわれる
• 誤ったビジネス上の決定: 訂正された市場情報に基づく戦略的な選択が、訂正後も残り続ける
• 法的責任: 公式に撤回された情報に基づいて行動することで、潜在的な法的リスクが生じる
• イノベーションの喪失: 競合他社がアップデートしているにもかかわらず、信用を失った理論やアプローチに固執することで、競争上不利になる

6.3. 社会的コスト

• 公衆衛生の失敗: ワクチン忌避、公衆衛生ガイダンスの拒絶、医療神話の持続が、防げる病気や死を引き起こす
• 民主主義の機能不全: 訂正後も残る政治的な誤情報が、情報に基づいた投票や政策論議を損なう
• 司法制度の失敗: 明確な無罪判決の後でさえ告発の「汚名」が残るため、冤罪が持続する（アマンダ・ノックス事件のように）
• 歴史の歪曲: 歴史的出来事に関する誤った物語が（モニュメントの碑文を通じて164年間にわたりカトリック教徒のせいにされたロンドン大火のように）、何世代にもわたって政策や偏見を形作る
• 科学の進歩の阻害: 撤回された研究が引用され続け、研究の方向に影響を与える

6.4. 統計的影響

メタアナリシス（例：Walter & Murphy, 2018）は、CIEに対して中程度の効果量を見出し、これが異なる人口統計やトピックにわたって安定した現象であることを確認しています。

特定された主な調整要因（モデレーター）には次のようなものがあります：

• 反復: 誤情報が訂正の前に繰り返されるほど、CIEは強くなる（流暢性効果による）
• 情報源の信頼性: ユーザーが信頼する情報源、または世界観を共有する情報源からの訂正の方が効果的である
• 具体性: 具体的で詳細な撤回のほうが、一般的な警告よりも効果的である
• 代替案の提供: 因果関係の代替案を提供することは、単純な否定に比べてCIEを大幅に減少させる

7. 隠れた利点

CIEが存在するのは、物語の一貫性が純粋に価値があるからです。誤った信念を頭に残りやすくするのと同じ精神のアーキテクチャが、真実の信念を安定させてもいるのです。

効率的な認知: もし私たちが矛盾する情報に遭遇するたびに、あらゆる信念を第一原理から再評価しなければならないとしたら、私たちは麻痺してしまうでしょう。更新に対する抵抗は認知の安定性を提供し、不確実な環境で機能することを可能にします。

操作に対する保護: 誤解を解くことを困難にしているのと同じ抵抗が、真実の信念を不安定にしようとする悪意ある試みから私たちを守ってもいます。どんな訂正でもすぐに更新してしまう心は、いとも簡単に操作されてしまうでしょう。

社会的な調整: 共有された因果関係のモデルは、たとえ不完全であっても、集団行動を可能にします。メンバーが異なる情報を受け取るたびに即座に断片化するような集団は、調整を行うことができません。

物語の意味づけ: 人間は物語を通じて意味を見出します。一貫した説明を求める欲求は、複雑な出来事を理解し、経験の中に目的を見出すのに役立ちます。

適切な懐疑主義: すべての訂正が正確であるとは限りません。更新に対する抵抗は、偽の訂正や操作的な論破の試みに対する（不完全な）フィルターとして機能します。

したがって、目標はCIEを排除することではなく、変化に対する抵抗が必要な状況と、更新が必要な状況とを心が区別できるような条件を作り出すことです。

8. 自己評価：あなたにこのバイアスはありますか？

8.1. 警告サインのチェックリスト

• 出来事を説明する際、訂正されたと知っている情報を使っている自分に気づくことがある
• 自分が嘘だと学んだことについて、まだ「ある程度は真実だ」と感じる
• Xに基づく主張をする前に「Xが真実ではないことは知っているが...」と言っている自分に気づく
• 自分の信念に対する訂正は、元の情報ほど説得力がないと感じる
• ありふれた訂正よりもセンセーショナルな主張のほうをよく覚えている
• 反証された説明を手放す前に、代替の説明が必要である
• 後で取り下げられた告発に基づいて人を判断してしまう
• 説明がないよりは、欠陥のある説明のほうを好む
• 古い、あるいは間違っていると知っていた情報に基づいて決定を下したことがある
• 複雑で不確実な説明よりも、劇的な因果関係の説明のほうが満足できると感じる

スコアリング:

• チェック数が0-2個: 影響を受けにくい（低）
• チェック数が3-5個: 中程度に影響を受けやすい（中）
• チェック数が6-8個: 影響を受けやすい（高）
• チェック数が9-10個: 非常に影響を受けやすい（極めて高）

8.2. 自己反省のための質問

1. あなたが抱いていた重要な信念で、後で訂正されたものを思い浮かべてください。その訂正が元の信念と同じくらい「リアル」に感じられるようになるまで、どれくらいかかりましたか？

2. ニュース記事の訂正を聞いたとき、その出来事の心の中の物語を更新しますか？ それとも、訂正は変化していない物語の付録のように感じますか？

3. 後に嘘であったり誇張であったりしたと知った情報に基づいて、否定的に見ている人があなたの人生の中にいますか？ その人に対するあなたの感情的な反応は更新されましたか？

4. 何かについてのあなたの既存の説明と矛盾する新しい情報に遭遇したとき、代わりの説明を探しますか、それとも単にその新しい情報を拒絶しますか？

5. あなたが反証された主張や時代遅れの情報を引用し続けていると、他人に指摘されたことはありますか？ そのときどう反応しましたか？

8.3. 簡単な診断シナリオ

シナリオ: あなたは重要な役職のための採用を行っています。面接の過程で、同僚から、有力候補者が以前の職場で不正行為によって解雇されたと聞きました。1週間後、同僚は謝罪し、この候補者を別の人と混同していたと説明しました。実際には候補者は以前の職場を円満に退職していました。あなたは今、最終決定を下そうとしています。

あなたはどう反応しますか？

• A) 「同僚の言ったことは理解しましたが、やはりこの候補者には悪い予感がします。念には念を入れるべきです」 → 影響を受けやすい（高）
• B) 「不正行為の話が間違いだったことは分かっていますが、手続きを進める前に追加の推薦状（リファレンス）を求めたいと思います」 → 中程度に影響を受けやすい（中）
• C) 「訂正により私の評価は変わりました。正確な情報に基づいてこの候補者を評価します」 → 影響を受けにくい（低）

9. 他者にあるこのバイアスを特定する

9.1. 行動の指標

• 古い情報や訂正された情報を反映した決定を下す
• 撤回された告発に基づいて、人や機関に対する不信感を表明する
• 嘘であると分かっている詳細を含む出来事の物語を語る
• その後の訂正よりも、初期の主張に対して強い感情的反応を示す
• 訂正を受け入れる前に、代替の説明を要求する
• 訂正を元の主張よりも権威がないものとして扱う

9.2. 会話のレッドフラッグ（危険信号）

このバイアスの影響下にあるときに人が口にするフレーズ：

• 「あれは事実じゃないって言ってたのは知ってるけど、それでも...」
• 「論破されたのかもしれないけど、何か裏があるに違いない」
• 「火のない所に煙は立たない」
• 「訂正が何と言おうと気にしない。私は自分の目と耳で確かめた」
• 「それが『奴ら』の信じさせたいことなんだ」

彼らが行う議論のタイプ：

• 訂正元の信頼性を否定する一方で、元の情報源の信頼性に訴える
• 訂正は怪しい、あるいは隠蔽工作の一部であると主張する
• 元の主張が存在したこと自体を、根本的な真実の証拠として扱う

彼らが避ける質問：

• 「もし元の主張を一度も聞いていなかったら、私は何を信じただろうか？」
• 「訂正された事実に適合するより良い説明はあるだろうか？」

9.3. 状況的なトリガー

• 感情的な利害が大きい: 元の誤情報が、何か恐ろしいことや重要なこと（病気の原因、脅威、裏切り）を説明していた場合
• アイデンティティに関連するトピック: 誤情報が政治的、文化的、または集団のアイデンティティと一致している場合
• 因果関係の空白: 訂正が代替案を提供せずに説明を取り除く場合
• 信頼できる情報源: 誤情報が尊敬される情報源や権威ある情報源から来た場合
• 反復の露出: 訂正される前に何度も誤情報にさらされていた場合
• 時間の遅延: 誤情報が記憶されてから訂正されるまでにかなりの時間が経過していた場合
• 認知的負荷: 訂正を処理する際、気が散っていたり、疲れていたり、マルチタスクをしていたりする場合

10. 認知バイアスを取り除く（デバイアス）戦略

10.1. 即時のテクニック

• 代替案を要求する: 何かが間違っていると知ったときは、すぐに「では何が（本当の）説明なのか？」と尋ねる。因果関係のギャップを残す訂正は受け入れない
• 明示的なメンタル・タギング: 訂正を処理するときは、そのつながりを意識的に反復する。「主張はXだったが、YであるためXは偽である」
• 感情の更新: 訂正された情報について自分がどう「感じる」かに注意する。感情的な反応が更新されていない場合は、なぜ訂正があなたの感情を変えるべきなのかを明示的に考える
• 情報源の評価: 自分が元の主張よりも訂正に対して高い基準を設けていないか考える。両方に同じ信頼性の基準を適用する

10.2. 長期的な戦略

• 代替案を探す習慣を身につける: ある出来事について一つの説明に落ち着く前に、複数の可能な説明を生成する練習をする
• 訂正リテラシーを構築する: 質の高い訂正を認識し、評価することを学ぶ。それらを付け足しとしてではなく、価値ある情報として扱う
• 不確実性を受け入れる: 信用されていない説明にデフォルトで戻るよりも、「何がこれを引き起こしたのか分からない」と言うことに慣れる
• メンタルモデルの監査を実践する: 自分の説明の信念を定期的に調べ、それが最新の情報に基づいているか、古い情報に基づいているかを確認する

10.3. 環境の設計

• 多様な情報源をフォローする: 複数の情報源からの訂正に触れることで、更新が成功する可能性が高まる
• 訂正のアーカイブを作成する: 重要なことが間違っていたと知ったときは、元の主張と訂正を一緒に書き留める
• 待機期間を設ける: 重要な決定については、初期情報が更新されていないか確認するための時間を設ける
• 決定のチェックリストを設計する: 決定に関連する情報が訂正されていないことを確認する明示的なプロンプト（確認項目）を含める

10.4. 外部からの入力を求めるべき時

• 訂正されたと記憶している情報に基づいて、重大な決定を下すとき
• 他の人から、あなたが古い情報で動いていると指摘されたとき
• 議論のあるトピックに関するあなたの信念が、専門家のコンセンサスと大きく異なるとき
• 「Xが論破されたことは知っているが...」と自分が言っているのに気づいたとき
• 確認された事実ではなく告発に基づいて人を評価しているとき

11. 実践的な演習

演習1: 訂正の監査

• 目的: あなたがまだ抱いているかもしれない古い信念への認識を深める
• 所要時間: 30分
• 必要なもの: ジャーナル（日記/ノート）、インターネットへのアクセス
• 難易度: 中級
• 手順:
  1. 過去5年間に健康、政治、または時事問題について「学んだ」ことを10個リストアップする
  2. 各項目について、現在の科学的またはジャーナリズムのコンセンサスを検索する
  3. 学んでから訂正された、更新された、またはニュアンスが追加された項目をメモする
  4. 各訂正について、「私はかつてXだと信じていた。しかし、Zなので今はYだと知っている」と書き出す
  5. どの訂正が完全に統合されたと感じるか、どの訂正がまだ元の信念の「脚注」のように感じるかを特定する
• 振り返りの質問:
  • どの訂正が最も受け入れやすかったか？ 何がそれを容易にしたか？
  • 訂正後も残っている信念はどれか？ それはどんな因果関係のギャップを埋めている可能性があるか？
  • 完全に更新していれば、あなたの決定はどう違っていたかもしれないか？
• 頻度: 月に一度

演習2: 代替案の生成練習

• 目的: 代替の説明を探す習慣を構築する
• 所要時間: 15分
• 必要なもの: ニュースの情報源
• 難易度: 初級
• 手順:
  1. 出来事に対する因果関係の説明を提供しているニュース記事を読む
  2. それを受け入れる前に、事実を説明できる可能性のある3つの代替の説明を生成する
  3. これらの説明を区別できる証拠は何かを考える
  4. 代替案を生成することが、元の説明に対する自信にどう影響するかに注意する
  5. その後の報道が元の説明と代替の説明のどちらを支持しているかを追跡する
• 振り返りの質問:
  • 代替案を生成するのはどれくらい難しかったか？
  • この演習は記事に対する最初の反応を変えたか？
  • ニュースにおける初期の因果関係の説明が、間違っているか不完全であることが判明する頻度はどれくらいか？
• 頻度: 週に一度

演習3: トゥルース・サンドイッチの練習

• 目的: 効果的な論破の構造を学ぶ
• 所要時間: 20分
• 必要なもの: ジャーナル
• 難易度: 上級
• 手順:
  1. 遭遇した誤情報の一部を特定する
  2. 「トゥルース・サンドイッチ」の形式に従って訂正を書く：
     • 事実から始める（実際に真実であること）
     • 誤情報が続くことを警告する
     • 神話を簡潔に述べる（1回だけ）
     • なぜその神話が間違っているのかを説明する（誤謬や操作）
     • 代替の説明を提供する
  3. 自分のサンドイッチを、元々どのように訂正が提示されていたかと比較する
  4. サンドイッチを口頭で伝える練習をする
  5. この構造が単に「それは間違っている」と言うこととどう違うかに注意する
• 振り返りの質問:
  • 真実から始めることでコミュニケーションはどう変わるか？
  • 何が代替の説明を説得力のあるものにしているか？
  • 会話の中でこの構造をどのように使えるか？
• 頻度: 重大な誤情報に遭遇したとき

毎日の習慣

毎日、自分が持っている信念を一つ選び、「これをいつ学んだのか？ それは更新されたか？」と尋ねます。これには2〜3分かかり、信念を恒久的なものではなく暫定的なものとして扱う習慣を築きます。

• 推奨時間: 2〜3分
• 最適な時間帯: 朝（振り返りのルーティンの一部として）
• 進捗の追跡方法: 監査した信念と見つかった更新のリストを作り続ける

週間チャレンジ

あなたが関心を持っているトピックを一つ選び、あなたの現在の見解に対する最も強力な訂正や批判を意図的に探し出します。20〜30分かけて、これらの視点を寛容な心で読んでください。あなたの見解が更新されたかに注意し、もし更新されなければ、その訂正がどんな因果関係のギャップを未解決のままにしているかを特定してください。

• 4週間後の期待される結果: 信念を修正することへの抵抗が減る。有効な訂正に抵抗しているとき、それを認識する能力の向上
• 振り返りのためのジャーナルのプロンプト:
  • 今週の訂正は何によって説得力がある（あるいは説得力がない）ものになったか？
  • 私は反論を考えていたか、それともオープンに向き合っていたか？
  • 自分の見解を更新するには何を見る必要があるか？

12. 特定の対象者向け

リーダーやマネージャー向け

CIEは組織に大きな課題をもたらします。従業員に対する第一印象はパフォーマンスが変化しても持続し、古い市場情報に基づいた戦略的決定が考えに影響を与え続け、「なぜ私たちがこのやり方をしているのか」という組織の物語は、本来の理由が時代遅れになった後も長く残り続けます。

戦略:

• 組織文化に「訂正」を組み込む：考えを更新することを弱さとみなすのではなく、称賛する
• 基礎となる前提が依然として有効であるかを明示的に確認する体系的な意思決定レビューを実施する
• チーム内で誤情報を訂正する際は、単純な否定ではなく、常に代替の説明を提供する
• 以前の信念が間違っていたと認めるための心理的安全性を生み出す
• 基礎となる事実が変わったときに監査できるように、決定の根拠を文書化する

親や教育者向け

子どもたちはCIEを早くから学びます。訂正された後も長く説明にしがみつくことがよくあります。これは発達上正常なことですが、より柔軟な思考へと導くことができます。

年齢に応じたアプローチ:

• 幼い子ども向け: 自分の考えを優雅に変えるモデルを示す。「Xだと思ってたけど、Yだって分かったから、今はZだと思う」と声に出して言う
• 年長の子ども向け: 「因果関係のギャップ」の概念と、なぜ私たちの脳が空っぽの説明を嫌うのかを教える
• 10代の若者向け: 誤情報がどのように広まるのか、なぜ訂正が難しいのかを話し合う。プレバンキングのゲーム（Cranky Uncle、Bad News）を紹介する
• すべての年齢向け: 誤った信念を訂正するときは、ただ「それは違う」と言うのではなく、代替の説明を提供する

医療従事者向け

医学的な誤情報は、科学的な不確実性が残す因果関係のギャップを埋めるため、しばしば持続します。

臨床上の戦略:

• 患者の信念を訂正する際は、その症状や懸念に対する代替の説明を提供する
• 「Xの原因は分からない」と言うのは、具体的（たとえ間違っていても）原因を受け入れるよりも心理的に受け入れ難いことを認識する
• トゥルース・サンドイッチの構造を使う：分かっていることから始め、次に神話に対処し、その後事実に戻る
• 病因が不明な状態について話し合う際は、説明を求める感情的な欲求を認める
• 自分の初期の診断の印象が、矛盾する検査結果にもかかわらず、自身の思考の中に持続する可能性があることを自覚する

金融専門家向け

価格変動の因果関係の説明は事後的に構築されることが多く、公式に撤回されることはめったにないため、市場の物語は特にCIEの影響を受けやすいです。

専門的な戦略:

• 市場の説明は最初から懐疑的に扱う。ほとんどの「これが原因であれが起こった」という物語は根拠が乏しいことを認識する
• 決定に関連する情報が更新されているかどうかを確認する体系的なチェックを構築する
• クライアントに訂正を伝えるときは、単に以前のガイダンスを取り下げるのではなく、代替のフレームワークを提供する
• 後に訂正された企業や個人の評判に関する情報には特に注意する
• 自分自身の投資テーゼが、無効にする証拠があるにもかかわらず持続する可能性があることを認識する

13. 他のバイアスとの相互作用

CIEを増幅させるバイアス

CIEを打ち消すことができるバイアス

一般的なバイアスの連鎖

連鎖 1: 初期の誤情報 → 真実性の錯覚効果 (反復) → 継続的影響効果 (訂正への抵抗) → 確証バイアス (支持する情報を探す) → 定着した誤った信念

連鎖 2: 感情的な脅威となる出来事 → 比例バイアス (大きな原因の必要性) → 劇的な誤情報の受け入れ → 継続的影響効果 (ありふれた訂正への抵抗) → 陰謀思考

介入戦略: 最適な介入ポイントは、最初にさらされたとき（プレバンキング）か、訂正の直後（代替の説明を提供すること）です。連鎖が確立されると、介入は次第に困難になります。

14. 文化的視点

研究によれば、CIEは文化を超えて機能しますが、その現れ方は確実性、権威、物語に関する文化的価値観に基づいて異なる可能性があります。

普遍的な要素: 因果関係の一貫性に対する欲求は、人間の普遍的なもののようです。すべての文化が説明的な物語を構築し、代わりの説明なしにその物語が断片化されることに抵抗します。

文化的修飾要因: どのような因果モデルが満足感を与えるか、どのような情報源が訂正において権威があると考えられるか、そして信念の更新の社会的力学はすべて文化によって異なります。

異文化間の影響: 文化の境界を越えて誤情報の誤解を解く場合、訂正は現地の物語のフレームワークと信頼される権威構造に配慮しなければなりません。ある文化で効果的な訂正フォーマットが、別の文化では失敗したり逆効果になったりする可能性があります。

15. 神話と誤解

16. 専門家の洞察

「人は、出来事を説明されないままにしておく不完全なモデルよりも、理にかなった間違ったモデルを好む」 — Johnson & Seifert, 1994

「私たちは単純に誤情報を削除することはできない。私たちはそれを置き換えなければならない」 — Stephan Lewandowsky, 『The Debunking Handbook（デバンキング・ハンドブック）』

「CIEとの戦いは事実のための戦いであるだけでなく、より良い物語のための戦いである」 — CIEの研究文献からの統合

「人々が誤情報を共有し信じるのは、彼らがアイデンティティを猛烈に守ろうとしているからではなく、彼らが気を散らされており、正確さよりも社会的なシグナル伝達を優先する直感的な思考者だからである」 — Gordon Pennycook & David Rand （「怠惰な思考者」仮説について）

17. 重要なポイント（テイクアウェイ）

1. 訂正は消去しない: 誤情報と訂正は記憶の中で共存します。単に何かが間違っていると人々に伝えるだけでは、ほとんど効果がありません。

2. 因果関係のギャップが敵である: 心は代わりとなるものなしに説明を放棄することに抵抗します。効果的な訂正は、代替の因果関係の説明を提供しなければなりません。

3. バックファイア効果は誇張されている: 訂正は完璧ではありませんが、事態を悪化させることはまれです。論破には依然として価値があります。

4. 知性は保護しない: 賢い人は、誤った信念を訂正するよりも、正当化する能力に長けている可能性があります。

5. 予防は治療に勝る: プレバンキング（事前論破/予防接種）は論破よりも効果的です。特定の神話を訂正するよりも、操作の手口を認識するように人々を教育するほうがうまくいきます。

6. 構造が重要である: 「トゥルース・サンドイッチ」（事実・神話・事実）の形式は、神話から始めるよりも優れています。

7. これは人間的であり、病理的ではない: CIEは適応的な認知アーキテクチャから生じます。目標は排除することではなく、管理することです。

18. 追加のリソース

学術論文

• Johnson, H. M., & Seifert, C. M. (1994). Sources of the continued influence effect: When misinformation in memory affects later inferences. Journal of Experimental Psychology: Learning, Memory, and Cognition, 20(6), 1420–1436.

• Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest, 13(3), 106–131.

• Walter, N., & Murphy, S. T. (2018). How to unring the bell: A meta-analytic approach to correction of misinformation. Communication Monographs, 85(3), 423–441.

• Ecker, U. K. H., Lewandowsky, S., & Tang, D. T. W. (2010). Explicit warnings reduce but do not eliminate the continued influence of misinformation. Memory & Cognition, 38(8), 1087–1100.

書籍

• Lewandowsky, S., & Cook, J. (2020). The Debunking Handbook 2020. 入手先: https://sks.to/db2020

• O'Connor, C., & Weatherall, J. O. (2019). The Misinformation Age: How False Beliefs Spread. Yale University Press.

• Kahneman, D. (2011). Thinking, Fast and Slow（邦題：『ファスト＆スロー』）. Farrar, Straus and Giroux.

オンラインリソース

• Cranky Uncle game: https://crankyuncle.com （誤情報に対するゲーム化された予防接種）
• Bad News game: https://www.getbadnews.com （ケンブリッジのプレバンキング・ゲーム）
• Go Viral! game: https://www.goviralgame.com （COVID-19の誤情報予防接種）

19. サマリーカード

20. 用語集

21. ディスカッションのための質問

読書会、教室、または自己反省のために：

1. 広く信じられている嘘（歴史的または現代のもの）を考えてみてください。なぜ訂正がそれを排除できなかったと思いますか？ それはどんな因果関係のギャップを埋めている可能性がありますか？

2. CIEは、私たちの心が正確な事実よりも一貫した物語を優先することを示唆しています。これは常に欠陥なのでしょうか、それともこの傾向が役に立つ状況はあるのでしょうか？

3. 知性がCIEから保護してくれないとすれば、何が保護してくれるのでしょうか？ 誤情報の持続に対してより強い抵抗力を持たせるのは、どのような性質でしょうか？

4. CIEを考慮した場合、ジャーナリストやファクトチェッカーはどのように行動すべきでしょうか？ 彼らはやり方を変えるべきでしょうか？

5. 研究によれば、誤情報を単に削除することはできず、置き換えなければならないとされています。「物語に物語で対抗する」ことの倫理的な意味は何でしょうか？