ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ (Automation Bias)

ਇੱਕ ਝਲਕ ਵਿੱਚ

1. ਤੇਜ਼ ਸਾਰਾਂਸ਼

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਸਾਡੀ ਕੰਪਿਊਟਰ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ 'ਤੇ ਸਾਡੇ ਆਪਣੇ ਫੈਸਲੇ ਜਾਂ ਹੋਰ ਜਾਣਕਾਰੀ ਸਰੋਤਾਂ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਭਰੋਸਾ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਹੈ — ਉਦੋਂ ਵੀ ਜਦੋਂ ਕੰਪਿਊਟਰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਗਲਤ ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਕੋਈ ਮਸ਼ੀਨ ਸਾਨੂੰ ਕੁਝ ਦੱਸਦੀ ਹੈ, ਤਾਂ ਅਸੀਂ ਅਕਸਰ ਬਿਨਾਂ ਪੁਸ਼ਟੀ ਕੀਤੇ ਇਸ ਨੂੰ ਸੱਚ ਮੰਨ ਲੈਂਦੇ ਹਾਂ, ਅਸਲ ਵਿੱਚ ਸਾਡੀ ਆਲੋਚਨਾਤਮਕ ਸੋਚ ਨੂੰ ਐਲਗੋਰਿਦਮ ਦੇ ਹਵਾਲੇ ਕਰ ਦਿੰਦੇ ਹਾਂ। ਇਹ ਮਾਨਸਿਕ ਸ਼ਾਰਟਕੱਟ ਬੋਧਾਤਮਕ (cognitive) ਊਰਜਾ ਨੂੰ ਬਚਾਉਣ ਲਈ ਵਿਕਸਤ ਹੋਇਆ ਹੈ ਪਰ ਜਦੋਂ ਅਪੂਰਣ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਲਾਗੂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਇਹ ਖਤਰਨਾਕ ਹੋ ਜਾਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਹਵਾਬਾਜ਼ੀ, ਸਿਹਤ ਸੰਭਾਲ, ਕਾਨੂੰਨੀ ਕਾਰਵਾਈਆਂ ਅਤੇ ਰੋਜ਼ਾਨਾ ਦੇ ਫੈਸਲਿਆਂ ਵਿੱਚ ਗਲਤੀਆਂ ਹੁੰਦੀਆਂ ਹਨ।

2. ਇਸਦੇ ਪਿੱਛੇ ਦਾ ਵਿਗਿਆਨ

2.1. ਖੋਜ ਅਤੇ ਇਤਿਹਾਸ

ਜਦੋਂ ਕਿ ਹਵਾਬਾਜ਼ੀ ਹਲਕਿਆਂ ਵਿੱਚ ਦਹਾਕਿਆਂ ਤੋਂ "ਆਟੋਮੇਸ਼ਨ ਸੰਤੁਸ਼ਟੀ" ਦੇ ਕਿੱਸੇ ਮੌਜੂਦ মিলিটারি ਸਨ, ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਰਸਮੀ ਵਿਗਿਆਨਕ ਅਧਿਐਨ 1990 ਦੇ ਦਹਾਕੇ ਦੇ ਅਖੀਰ ਵਿੱਚ ਸ਼ੁਰੂ ਹੋਇਆ ਸੀ। ਲਿੰਡਾ ਸਕਿਟਕਾ (Linda Skitka), ਕੈਥਲੀਨ ਮੋਜ਼ੀਅਰ (Kathleen Mosier), ਅਤੇ ਮਾਰਕ ਬਰਡਿਕ (Mark Burdick) ਦੁਆਰਾ 1999 ਦਾ ਮੀਲ ਪੱਥਰ ਅਧਿਐਨ "ਕੀ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤੀ ਫੈਸਲੇ ਲੈਣ ਦਾ ਕਾਰਨ ਬਣਦਾ ਹੈ?" ("Does automation bias decision-making?") ਨੇ ਇਸ ਵਰਤਾਰੇ ਨੂੰ ਸਿਰਫ਼ ਥਕਾਵਟ ਜਾਂ ਅਯੋਗਤਾ ਤੋਂ ਸੁਤੰਤਰ ਇੱਕ ਵੱਖਰੇ ਬੋਧਾਤਮਕ ਪੱਖਪਾਤ ਵਜੋਂ ਅਲੱਗ ਕਰ ਦਿੱਤਾ। ਇੰਟਰਨੈਸ਼ਨਲ ਜਰਨਲ ਆਫ਼ ਹਿਊਮਨ-ਕੰਪਿਊਟਰ ਸਟੱਡੀਜ਼ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ, ਇਸ ਪੇਪਰ ਨੇ ਮੂਲ ਰੂਪ ਵਿੱਚ ਮਨੁੱਖੀ-ਕੰਪਿਊਟਰ ਆਪਸੀ ਤਾਲਮੇਲ (human-computer interaction) ਖੋਜ ਦੀ ਦਿਸ਼ਾ ਨੂੰ ਬਦਲ ਦਿੱਤਾ।

ਇਹ ਸੰਕਲਪ ਵਧਦੀ ਜਾਗਰੂਕਤਾ ਤੋਂ ਉਭਰਿਆ ਹੈ ਕਿ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ, ਆਪਣੀ ਭਰੋਸੇਯੋਗਤਾ ਦੇ ਬਾਵਜੂਦ, ਨਵੀਆਂ ਕਿਸਮਾਂ ਦੀਆਂ ਮਨੁੱਖੀ ਗਲਤੀਆਂ ਪੇਸ਼ ਕਰਦੀਆਂ ਹਨ। ਸ਼ੁਰੂਆਤੀ ਹਵਾਬਾਜ਼ੀ ਘਟਨਾਵਾਂ ਨੇ ਸੁਝਾਅ ਦਿੱਤਾ ਕਿ ਪਾਇਲਟ ਆਟੋਪਾਇਲਟ ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਖਤਰਨਾਕ ਤੌਰ 'ਤੇ ਨਿਰਭਰ ਹੋ ਰਹੇ ਸਨ, ਪਰ ਇਹ ਸਖ਼ਤ ਪ੍ਰਯੋਗਾਤਮਕ ਖੋਜ ਤੱਕ ਨਹੀਂ ਸੀ ਕਿ ਵਿਗਿਆਨੀ ਇਸ ਨਿਰਭਰਤਾ ਨੂੰ ਮਾਤਰਾਤਮਕ ਰੂਪ ਦੇ ਸਕਣ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ ਦੇ ਸਕਣ।

1999 ਤੋਂ, ਸਾਡੀ ਸਮਝ ਕਾਫ਼ੀ ਵਿਕਸਤ ਹੋਈ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਆਟੋਮੇਸ਼ਨ ਸੰਤੁਸ਼ਟੀ (automation complacency) ਦੇ ਸਬੰਧਤ ਪਰ ਵੱਖਰੇ ਸੰਕਲਪ ਤੋਂ ਵੱਖਰਾ ਕੀਤਾ ਹੈ। ਇਹ ਖੇਤਰ ਹਵਾਬਾਜ਼ੀ ਤੋਂ ਸਿਹਤ ਸੰਭਾਲ, ਆਟੋਨੋਮਸ ਵਾਹਨਾਂ, ਕਾਨੂੰਨੀ ਪ੍ਰਣਾਲੀਆਂ, ਅਤੇ ਸਭ ਤੋਂ ਤਾਜ਼ਾ, ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਅਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਤੱਕ ਫੈਲ ਗਿਆ ਹੈ। ਜਨਰੇਟਿਵ AI ਦੇ ਉਭਾਰ ਨੇ ਪੱਖਪਾਤ ਦੇ ਨਵੇਂ ਪ੍ਰਗਟਾਵੇ ਪੇਸ਼ ਕੀਤੇ ਹਨ, ਜਿਸ ਵਿੱਚ "ਭਰਮ ਸਵੀਕ੍ਰਿਤੀ" (hallucination acceptance) ਸ਼ਾਮਲ ਹੈ—ਭਰੋਸੇਯੋਗ ਲੱਗਣ ਵਾਲੇ ਪਰ ਮਨਘੜਤ AI ਆਊਟਪੁੱਟਾਂ 'ਤੇ ਵਿਸ਼ਵਾਸ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ।

ਖੋਜ ਵਿੱਚ ਮੁੱਖ ਮੀਲ ਪੱਥਰ ਸ਼ਾਮਲ ਹਨ:

• 1999: ਸਕਿਟਕਾ, ਮੋਜ਼ੀਅਰ, ਅਤੇ ਬਰਡਿਕ ਦਾ ਬੁਨਿਆਦੀ ਪ੍ਰਯੋਗਾਤਮਕ ਅਧਿਐਨ
• 2004: ਲੀ ਅਤੇ ਸੀ (Lee and See) ਦਾ ਟਰੱਸਟ ਕੈਲੀਬ੍ਰੇਸ਼ਨ ਫਰੇਮਵਰਕ
• 2010: ਪਰਸੁਰਮਨ ਅਤੇ ਮਾਨਜ਼ੇ (Parasuraman and Manzey) ਦੀ "ਅਟੈਂਸ਼ਨਲ ਇੰਟੀਗ੍ਰੇਸ਼ਨ" (Attentional Integration) ਸਮੀਖਿਆ ਜੋ ਪੱਖਪਾਤ ਨੂੰ ਸੰਤੁਸ਼ਟੀ ਤੋਂ ਵੱਖ ਕਰਦੀ ਹੈ
• 2017: ਲਾਇਲ ਅਤੇ ਕੋਏਰਾ (Lyell and Coiera) ਦਾ "ਵੇਰੀਫਿਕੇਸ਼ਨ ਕੰਪਲੈਕਸਿਟੀ" (Verification Complexity) ਮਾਡਲ
• 2023–2025: LLM-ਪ੍ਰੇਰਿਤ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਅਤੇ ਭਰਮ ਸਵੀਕ੍ਰਿਤੀ 'ਤੇ ਖੋਜ ਦਾ ਵਿਸਫੋਟ

2.2. ਪ੍ਰਮੁੱਖ ਖੋਜਕਰਤਾ

2.3. ਮੀਲ ਪੱਥਰ ਅਧਿਐਨ

"ਕੀ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤੀ ਫੈਸਲੇ ਲੈਣ ਦਾ ਕਾਰਨ ਬਣਦਾ ਹੈ?" (Skitka, Mosier & Burdick, 1999)

ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਘੱਟ-ਵਫ਼ਾਦਾਰੀ ਫਲਾਈਟ ਸਿਮੂਲੇਸ਼ਨ ਟਾਸਕ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਤਾਂ ਜੋ ਪ੍ਰਯੋਗਿਕ ਤੌਰ 'ਤੇ ਇਹ ਪਰਖਿਆ ਜਾ ਸਕੇ ਕਿ ਸਵੈਚਲਿਤ ਫੈਸਲਾ ਸਮਰਥਨ ਪ੍ਰਣਾਲੀ (automated decision support system) ਦੁਆਰਾ ਸਹਾਇਤਾ ਕੀਤੇ ਜਾਣ 'ਤੇ ਮਨੁੱਖੀ ਆਪਰੇਟਰ ਸਿਸਟਮ ਸਟੇਟਸ ਦੀ ਨਿਗਰਾਨੀ ਕਿਵੇਂ ਕਰਦੇ ਹਨ। ਭਾਗੀਦਾਰਾਂ ਨੂੰ ਗੇਜਾਂ (gauges) ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਅਤੇ ਸਿਮੂਲੇਸ਼ਨ ਨੂੰ "ਉਡਾਉਣ" ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਸੀ। ਪ੍ਰਯੋਗਾਤਮਕ ਡਿਜ਼ਾਈਨ ਨੇ ਇੱਕ ਭਰੋਸੇਮੰਦ ਪਰ ਅਪੂਰਣ ਸਵੈਚਲਿਤ ਨਿਗਰਾਨੀ ਸਹਾਇਤਾ ਪੇਸ਼ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵਿਸ਼ਵਾਸ ਅਤੇ ਗਲਤੀ ਦੇ ਚੁਰਾਹੇ 'ਤੇ ਮਨੁੱਖੀ ਵਿਵਹਾਰ ਦਾ ਨਿਰੀਖਣ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲੀ।

ਮੁੱਖ ਖੋਜਾਂ:

• ਮੈਨੂਅਲ ਆਪਰੇਟਰਾਂ ਦੇ ਮੁਕਾਬਲੇ, ਸਵੈਚਲਿਤ ਸਹਾਇਤਾ ਵਾਲੇ ਭਾਗੀਦਾਰਾਂ ਦੁਆਰਾ ਚੌਕਸੀ ਨਾਲ ਜਾਣਕਾਰੀ ਲੱਭਣ ਦੀ ਸੰਭਾਵਨਾ ਕਾਫ਼ੀ ਘੱਟ ਸੀ।
• ਆਟੋਮੇਸ਼ਨ ਨੇ ਸਿਰਫ਼ ਮਨੁੱਖੀ ਧਿਆਨ ਨੂੰ ਪੂਰਕ ਨਹੀਂ ਕੀਤਾ—ਇਸਨੇ ਅਸਰਦਾਰ ਤਰੀਕੇ ਨਾਲ ਇਸਦੀ ਥਾਂ ਲੈ ਲਈ।
• ਜਦੋਂ ਸਵੈਚਲਿਤ ਸਹਾਇਤਾ ਨੇ ਗਲਤ ਕਾਰਵਾਈ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ, ਤਾਂ ਆਪਰੇਟਰਾਂ ਦੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਤੀਸ਼ਤ ਨੇ ਉਸ ਸਿਫ਼ਾਰਸ਼ ਦੀ ਪਾਲਣਾ ਕੀਤੀ, ਭਾਵੇਂ ਕੱਚੇ ਡੇਟਾ (raw data) ਨੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਦਿਖਾਇਆ ਹੋਵੇ ਕਿ ਇਹ ਗਲਤ ਸੀ।
• ਅਧਿਐਨ ਨੇ ਦੋ ਕਿਸਮਾਂ ਦੀਆਂ ਗਲਤੀਆਂ ਦੀ ਪਛਾਣ ਕੀਤੀ: ਛੱਡਣ ਦੀਆਂ ਗਲਤੀਆਂ (ਘਟਨਾਵਾਂ ਨੂੰ ਛੱਡਣਾ ਕਿਉਂਕਿ ਆਟੋਮੇਸ਼ਨ ਨੇ ਸੁਚੇਤ ਨਹੀਂ ਕੀਤਾ) ਅਤੇ ਕਮਿਸ਼ਨ ਦੀਆਂ ਗਲਤੀਆਂ (ਗਲਤ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨਾ)।

ਲੇਖਕਾਂ ਨੇ ਸਿੱਟਾ ਕੱਢਿਆ ਕਿ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ "ਚੌਕਸੀ ਨਾਲ ਜਾਣਕਾਰੀ ਲੱਭਣ ਅਤੇ ਪ੍ਰੋਸੈਸਿੰਗ ਲਈ ਇੱਕ ਹਿਊਰੀਸਟਿਕ ਰਿਪਲੇਸਮੈਂਟ (heuristic replacement)" ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਇੱਕ ਬੋਧਾਤਮਕ "ਸ਼ਾਰਟ ਕੱਟ ਜੋ ਸਮੇਂ ਤੋਂ ਪਹਿਲਾਂ ਸਥਿਤੀ ਦੇ ਮੁਲਾਂਕਣ ਨੂੰ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ।"

ਮੈਮੋਰੀ ਡਿਸਟੌਰਸ਼ਨ ਸਟੱਡੀ (ਮੋਜ਼ੀਅਰ, ਫਾਲੋ-ਅਪ ਰਿਸਰਚ)

ਪਾਇਲਟਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਵਾਲੀ ਅਗਲੀ ਖੋਜ ਵਿੱਚ, ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਸ਼ਿਕਾਰ ਹੋਣ ਵਾਲੇ 67% ਲੋਕਾਂ ਨੇ ਬਾਅਦ ਵਿੱਚ ਘਟਨਾ ਦੀ "ਝੂਠੀ ਯਾਦ" (false memory) ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ। ਉਹਨਾਂ ਨੇ ਕੱਚੇ ਡੇਟਾ ਵਿੱਚ ਉਹ ਸੰਕੇਤ ਦੇਖਣ ਨੂੰ ਯਾਦ ਕੀਤਾ ਜੋ ਆਟੋਮੇਸ਼ਨ ਦੇ ਗਲਤ ਫੈਸਲੇ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਸਨ—ਉਹ ਸੰਕੇਤ ਜੋ ਅਸਲ ਵਿੱਚ ਕਦੇ ਮੌਜੂਦ ਨਹੀਂ ਸਨ। ਇਸ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਧਾਰਨਾ ਨੂੰ ਪਿਛਲੇ ਸਮੇਂ ਤੋਂ ਬਦਲ ਸਕਦਾ ਹੈ; ਦਿਮਾਗ, ਆਟੋਮੇਸ਼ਨ ਦੇ ਸਿੱਟੇ ਨੂੰ ਸਵੀਕਾਰ ਕਰ ਲੈਣ ਤੋਂ ਬਾਅਦ, ਇਸਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਸਬੂਤ ਘੜਦਾ ਹੈ।

ਟਰੱਸਟ ਕੈਲੀਬ੍ਰੇਸ਼ਨ ਸਟੱਡੀ (Lee & See, 2004)

ਆਟੋਮੇਸ਼ਨ ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਨੂੰ "ਉਹ ਰਵੱਈਆ ਜੋ ਇੱਕ ਏਜੰਟ ਅਨਿਸ਼ਚਿਤਤਾ ਅਤੇ ਕਮਜ਼ੋਰੀ ਦੁਆਰਾ ਦਰਸਾਈ ਗਈ ਸਥਿਤੀ ਵਿੱਚ ਵਿਅਕਤੀ ਦੇ ਟੀਚਿਆਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰੇਗਾ" ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ। ਵਿਸ਼ਵਾਸ ਦੇ ਤਿੰਨ ਆਧਾਰਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ ਗਈ: ਪ੍ਰਦਰਸ਼ਨ (ਇਤਿਹਾਸਕ ਭਰੋਸੇਯੋਗਤਾ), ਪ੍ਰਕਿਰਿਆ (ਐਲਗੋਰਿਦਮ ਨੂੰ ਸਮਝਣਾ), ਅਤੇ ਉਦੇਸ਼ (ਡਿਜ਼ਾਈਨਰ ਦਾ ਇਰਾਦਾ)। ਇਹ ਦਰਸਾਇਆ ਗਿਆ ਹੈ ਕਿ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਸਮਝੇ ਬਿਨਾਂ ਸਿਰਫ਼ ਪ੍ਰਦਰਸ਼ਨ 'ਤੇ ਨਿਰਭਰਤਾ ਐਜ ਕੇਸਾਂ (edge cases) ਦੌਰਾਨ ਵਿਨਾਸ਼ਕਾਰੀ ਪੱਖਪਾਤ ਵੱਲ ਖੜਦੀ ਹੈ।

ਵੇਰੀਫਿਕੇਸ਼ਨ ਕੰਪਲੈਕਸਿਟੀ ਸਿਸਟਮੈਟਿਕ ਰਿਵਿਊ (Lyell & Coiera, 2017)

ਇਹ ਦਰਸਾਇਆ ਗਿਆ ਹੈ ਕਿ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਸਿੰਗਲ-ਟਾਸਕ ਵਾਤਾਵਰਣ ਵਿੱਚ ਵੀ ਪ੍ਰਚਲਿਤ ਹੈ, ਬਸ਼ਰਤੇ ਕੰਮ ਕਾਫ਼ੀ ਗੁੰਝਲਦਾਰ ਹੋਵੇ। ਵੇਰੀਫਿਕੇਸ਼ਨ ਕੰਪਲੈਕਸਿਟੀ (Verification Complexity) ਸੰਕਲਪ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੀ ਸੰਭਾਵਨਾ ਆਟੋਮੇਸ਼ਨ ਦੇ ਆਊਟਪੁੱਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਲੋੜੀਂਦੇ ਬੋਧਾਤਮਕ ਯਤਨ ਦੇ ਸਿੱਧੇ ਅਨੁਪਾਤਕ ਹੈ। ਇਹ ਮਾਡਲ ਆਧੁਨਿਕ "ਬਲੈਕ ਬਾਕਸ" AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸਮਝਣ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ।

2.4. ਨਿਊਰੋਲੋਜੀਕਲ ਆਧਾਰ

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਨਿਊਰੋਲੋਜੀਕਲ ਆਧਾਰ ਦਿਮਾਗ ਦੇ ਬੁਨਿਆਦੀ ਊਰਜਾ-ਸੁਰੱਖਿਅਣ (energy-conservation) ਤੰਤਰ ਨਾਲ ਸਬੰਧਤ ਹਨ:

ਕੋਗਨਿਟਿਵ ਲੋਡ ਅਤੇ ਪ੍ਰੀਫਰੰਟਲ ਕੋਰਟੈਕਸ (Cognitive Load and the Prefrontal Cortex): ਦਿਮਾਗ ਇੱਕ ਊਰਜਾ-ਬਚਾਉਣ ਵਾਲਾ ਅੰਗ ਹੈ। ਪ੍ਰੀਫਰੰਟਲ ਕੋਰਟੈਕਸ, ਫੈਸਲੇ ਲੈਣ ਅਤੇ ਤਸਦੀਕ ਵਰਗੇ ਕਾਰਜਕਾਰੀ ਕਾਰਜਾਂ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੈ, ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਪਾਚਕ ਸਰੋਤਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਇੱਕ ਵਾਜਬ ਜਵਾਬ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਤਾਂ ਦਿਮਾਗ ਦਾ ਡਿਫਾਲਟ ਮੋਡ ਉੱਚ-ਊਰਜਾ ਤਸਦੀਕ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕੀਤੇ ਬਿਨਾਂ ਇਸਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ ਹੈ।

"ਕੋਗਨਿਟਿਵ ਮਾਈਜ਼ਰ" (Cognitive Miser) ਮਕੈਨਿਜ਼ਮ: ਮੂਲ ਰੂਪ ਵਿੱਚ ਫਿਸਕੇ ਅਤੇ ਟੇਲਰ (Fiske and Taylor, 1984) ਦੁਆਰਾ ਪ੍ਰਸਤਾਵਿਤ, ਇਹ ਸਿਧਾਂਤ ਮੰਨਦਾ ਹੈ ਕਿ ਮਨੁੱਖ ਬੋਧਾਤਮਕ ਯਤਨਾਂ ਨੂੰ ਘੱਟ ਕਰਨ ਲਈ ਵਿਕਾਸਵਾਦੀ ਤੌਰ 'ਤੇ ਪ੍ਰੇਰਿਤ ਹਨ। ਦਿਮਾਗ ਡਿਫਾਲਟ ਤੌਰ 'ਤੇ ਹਿਊਰੀਸਟਿਕ ਪ੍ਰੋਸੈਸਿੰਗ (ਮਾਨਸਿਕ ਸ਼ਾਰਟਕੱਟ) ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਜਦੋਂ ਵੀ ਵਾਤਾਵਰਣ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਆਟੋਮੇਸ਼ਨ ਇੱਕ "ਸੁਪਰ-ਹਿਊਰੀਸਟਿਕ" ਵਜੋਂ ਕੰਮ ਕਰਕੇ ਇਸਦਾ ਸ਼ੋਸ਼ਣ ਕਰਦਾ ਹੈ।

ਅਟੈਂਸ਼ਨ ਨੈੱਟਵਰਕ ਅਤੇ ਵਿਜੀਲੈਂਸ ਡਿਕਰੀਮੈਂਟ (Vigilance Decrement): ਬ੍ਰੇਨ ਇਮੇਜਿੰਗ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਪਰਸੁਰਮਨ ਦੀ ਨਿਊਰੋਏਰਗੋਨੋਮਿਕਸ ਖੋਜ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਦਿਮਾਗ ਕਦੋਂ ਨਿਗਰਾਨੀ ਕਾਰਜਾਂ ਤੋਂ ਵੱਖ ਹੁੰਦਾ ਹੈ। ਭਰੋਸੇਮੰਦ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਪੈਸਿਵ ਨਿਗਰਾਨੀ ਦੇ ਦੌਰਾਨ, ਧਿਆਨ ਦੇ ਨੈੱਟਵਰਕ (ਖਾਸ ਕਰਕੇ ਡੋਰਸਲ ਅਟੈਂਸ਼ਨ ਨੈੱਟਵਰਕ) ਸਮੇਂ ਦੇ ਨਾਲ ਘਟੀ ਹੋਈ ਸਰਗਰਮੀ ਦਿਖਾਉਂਦੇ ਹਨ—"ਚੌਕਸੀ ਵਿੱਚ ਕਮੀ" (vigilance decrement)।

ਮੈਮੋਰੀ ਕਨਫੈਬੂਲੇਸ਼ਨ (Memory Confabulation): ਇਹ ਖੋਜ ਕਿ ਆਟੋਮੇਸ਼ਨ-ਪ੍ਰੇਰਿਤ ਗਲਤੀਆਂ ਤੋਂ ਬਾਅਦ 67% ਪਾਇਲਟਾਂ ਨੇ ਝੂਠੀਆਂ ਯਾਦਾਂ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ, ਮੈਮੋਰੀ ਇਕਸੁਰਤਾ (consolidation) ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੀ ਸ਼ਮੂਲੀਅਤ ਦਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ। ਜਦੋਂ ਦਿਮਾਗ ਇੱਕ ਸਵੈਚਲਿਤ ਸਿੱਟੇ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ, ਤਾਂ ਹਿਪੋਕੈਂਪਲ ਮੈਮੋਰੀ ਸਿਸਟਮ ਇਕਸੁਰਤਾ ਦੇ ਦੌਰਾਨ ਸਮਰਥਨ ਕਰਨ ਵਾਲੇ "ਸਬੂਤ" ਦਾ ਨਿਰਮਾਣ ਕਰ ਸਕਦੇ ਹਨ, ਗਲਤ ਫੈਸਲੇ ਨੂੰ ਇੱਕ ਤਾਲਮੇਲ ਵਾਲੀ ਕਹਾਣੀ ਵਿੱਚ ਜੋੜ ਸਕਦੇ ਹਨ।

ਡੋਪਾਮਿਨਰਜਿਕ ਇਨਾਮ ਮਾਰਗ (Dopaminergic Reward Pathways): ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਅਤੇ ਸਹੀ ਹੋਣਾ ਇਨਾਮ ਮਾਰਗਾਂ ਨੂੰ ਚਾਲੂ ਕਰਦਾ ਹੈ। ਇਹ ਸਕਾਰਾਤਮਕ ਮਜ਼ਬੂਤੀ ਸਮੇਂ ਦੇ ਨਾਲ ਆਟੋਮੇਸ਼ਨ-ਸਵੀਕ੍ਰਿਤੀ ਹਿਊਰੀਸਟਿਕ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਇਸਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨਾ ਲਗਾਤਾਰ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦਾ ਹੈ।

3. ਵਿਕਾਸਵਾਦੀ ਉਤਪੱਤੀ (Evolutionary Origins)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਬੋਧਾਤਮਕ ਵਿਧੀ ਦੇ ਇੱਕ ਗਲਤ ਕਾਰਜ (maladaptive application) ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜੋ ਪੂਰਵ-ਤਕਨੀਕੀ ਵਾਤਾਵਰਣ ਵਿੱਚ ਬਚਾਅ ਨੂੰ ਵਧਾਉਣ ਲਈ ਵਿਕਸਤ ਹੋਇਆ ਸੀ।

ਘੱਟ ਸਾਧਨਾਂ ਵਾਲੀ ਦੁਨੀਆ ਵਿੱਚ ਊਰਜਾ ਦੀ ਬੱਚਤ: ਸਾਡੇ ਪੁਰਖੇ ਅਜਿਹੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਰਹਿੰਦੇ ਸਨ ਜਿੱਥੇ ਕੈਲੋਰੀਆਂ ਕੀਮਤੀ ਸਨ। ਦਿਮਾਗ ਸਰੀਰ ਦੀ ਲਗਭਗ 20% ਊਰਜਾ ਦੀ ਖਪਤ ਕਰਦਾ ਹੈ। ਵਿਕਾਸ (Evolution) ਨੇ ਬੋਧਾਤਮਕ ਸ਼ਾਰਟਕੱਟਾਂ ਦਾ ਪੱਖ ਪੂਰਿਆ ਜਿਸ ਨੇ ਸਰੀਰਕ ਬਚਾਅ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ ਲਈ ਊਰਜਾ ਦੀ ਬੱਚਤ ਕਰਦੇ ਹੋਏ "ਕਾਫ਼ੀ ਚੰਗੇ" (good enough) ਫੈਸਲੇ ਲਏ। ਭਰੋਸੇਮੰਦ ਸਰੋਤਾਂ ਨੂੰ ਬੋਧਾਤਮਕ ਕੰਮ ਸੌਂਪਣਾ ਅਨੁਕੂਲ ਸੀ।

ਸਮਾਜਿਕ ਸਨਮਾਨ ਅਤੇ ਮੁਹਾਰਤ: ਮਨੁੱਖਾਂ ਦਾ ਵਿਕਾਸ ਸਮਾਜਿਕ ਸਮੂਹਾਂ ਵਿੱਚ ਹੋਇਆ ਜਿੱਥੇ ਮਾਹਰਾਂ (ਬਜ਼ੁਰਗਾਂ, ਕੁਸ਼ਲ ਸ਼ਿਕਾਰੀਆਂ, ਤੰਦਰੁਸਤੀ ਕਰਨ ਵਾਲਿਆਂ) ਦਾ ਸਨਮਾਨ ਕਰਨਾ ਬਚਾਅ ਦੇ ਫਾਇਦੇ ਦਿੰਦਾ ਸੀ। ਅਸੀਂ ਜਾਣਕਾਰੀ ਦੇ ਭਰੋਸੇਮੰਦ ਸਰੋਤਾਂ ਦੀ ਪਛ জৈন ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਦਾ ਸਨਮਾਨ ਕਰਨ ਲਈ ਹਿਊਰੀਸਟਿਕਸ ਵਿਕਸਿਤ ਕੀਤੇ। ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ, ਖਾਸ ਕਰਕੇ ਉਹ ਜੋ 99% ਸਮੇਂ ਭਰੋਸੇਮੰਦ ਹੁੰਦੀਆਂ ਹਨ, ਇਹਨਾਂ ਹੀ ਸਨਮਾਨ ਵਿਧੀਆਂ ਨੂੰ ਚਾਲੂ ਕਰਦੀਆਂ ਹਨ।

ਬਚਾਅ ਵਜੋਂ ਟੂਲ ਟਰੱਸਟ (Tool Trust): ਆਪਣੇ ਔਜ਼ਾਰਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਵਿਕਾਸਵਾਦੀ ਤੌਰ 'ਤੇ ਜ਼ਰੂਰੀ ਸੀ। ਇੱਕ ਸ਼ਿਕਾਰੀ ਜੋ ਲਗਾਤਾਰ ਦੂਜਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦਾ ਹੈ ਕਿ ਕੀ ਉਸਦਾ ਬਰਛਾ ਸਹੀ ਉੱਡੇਗਾ, ਉਹ ਅਧਰੰਗ ਦਾ ਸ਼ਿਕਾਰ ਹੋ ਜਾਵੇਗਾ। ਵਿਕਾਸ ਨੇ ਭਰੋਸੇਯੋਗ ਔਜ਼ਾਰਾਂ ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਨੂੰ ਚੁਣਿਆ। ਆਧੁਨਿਕ ਆਟੋਮੇਸ਼ਨ ਇਸ ਡੂੰਘੇ ਬੈਠੇ ਟੂਲ-ਟਰੱਸਟ ਮਕੈਨਿਜ਼ਮ ਨੂੰ ਹਾਈਜੈਕ ਕਰਦੀ ਹੈ।

ਬੱਗ ਜਾਂ ਵਿਸ਼ੇਸ਼ਤਾ? ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਮੂਲ ਰੂਪ ਵਿੱਚ ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ ਜਿਸਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਲਾਗੂ ਕੀਤਾ ਗਿਆ ਹੈ। ਬੋਧਾਤਮਕ ਕੁਸ਼ਲਤਾ ਰਣਨੀਤੀ ਕੁਦਰਤੀ ਵਾਤਾਵਰਣ ਵਿੱਚ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਦੀ ਹੈ ਜਿੱਥੇ ਫੀਡਬੈਕ ਤੁਰੰਤ ਹੁੰਦਾ ਹੈ ਅਤੇ ਨਤੀਜੇ ਅਨੁਪਾਤਕ ਹੁੰਦੇ ਹਨ। ਇਹ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਤਕਨੀਕੀ ਵਾਤਾਵਰਣ ਵਿੱਚ ਵਿਨਾਸ਼ਕਾਰੀ ਤੌਰ 'ਤੇ ਅਸਫਲ ਹੋ ਜਾਂਦੀ ਹੈ ਜਿੱਥੇ ਗਲਤੀਆਂ ਬਹੁਤ ਘੱਟ ਪਰ ਵਿਨਾਸ਼ਕਾਰੀ ਹੁੰਦੀਆਂ ਹਨ, ਫੀਡਬੈਕ ਵਿੱਚ ਦੇਰੀ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਨਤੀਜੇ ਅਸਮਿਤ (asymmetric) ਹੁੰਦੇ ਹਨ।

ਵਾਤਾਵਰਣ ਦਾ ਬੇਮੇਲ (Environmental Mismatch): ਜਿਨ੍ਹਾਂ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਇਹ ਪੱਖਪਾਤ ਅਨੁਕੂਲ ਸੀ, ਉਹ ਆਧੁਨਿਕ ਤਕਨੀਕੀ ਸੰਦਰਭਾਂ ਤੋਂ ਬਹੁਤ ਵੱਖਰੇ ਹਨ। ਪੱਥਰ ਦੇ ਔਜ਼ਾਰਾਂ ਨਾਲ ਨਜਿੱਠਣ ਵੇਲੇ ਲਾਹੇਵੰਦ ਹੋਣ ਵਾਲਾ ਹਿਊਰੀਸਟਿਕ ਉਦੋਂ ਖਤਰਨਾਕ ਹੋ ਜਾਂਦਾ ਹੈ ਜਦੋਂ ਇਹ ਪ੍ਰਮਾਣੂ ਰਿਐਕਟਰਾਂ, ਹਵਾਈ ਜਹਾਜ਼ਾਂ, ਜਾਂ ਡਾਕਟਰੀ ਨਿਦਾਨਾਂ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਵਾਲੀਆਂ ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਲਾਗੂ ਹੁੰਦਾ ਹੈ। ਸਾਡਾ ਬੋਧਾਤਮਕ ਢਾਂਚਾ ਭਰੋਸੇਯੋਗਤਾ-ਖਤਰੇ ਦੇ ਵਿਰੋਧਾਭਾਸ (reliability-danger paradox) ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਵਿਕਸਤ ਨਹੀਂ ਹੋਇਆ ਹੈ: ਮਸ਼ੀਨ ਜਿੰਨੀ ਜ਼ਿਆਦਾ ਭਰੋਸੇਮੰਦ ਹੁੰਦੀ ਹੈ, ਮਨੁੱਖੀ ਗਲਤੀ ਓਨੀ ਹੀ ਖਤਰਨਾਕ ਬਣ ਜਾਂਦੀ ਹੈ।

4. ਇਹ ਪੱਖਪਾਤ ਕਿਵੇਂ ਪ੍ਰਗਟ ਹੁੰਦਾ ਹੈ

4.1. ਰੋਜ਼ਾਨਾ ਜੀਵਨ ਵਿੱਚ

• GPS ਨੈਵੀਗੇਸ਼ਨ: ਡਰਾਈਵਰ ਵਿਜ਼ੂਅਲ ਸਬੂਤਾਂ ਦੇ ਬਾਵਜੂਦ ਜੋ ਕਿ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਉਲਟ ਹਨ, ਝੀਲਾਂ, ਬੰਦ ਸੜਕਾਂ, ਜਾਂ ਅਣਉਚਿਤ ਰੂਟਾਂ 'ਤੇ GPS ਨਿਰਦੇਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ। ਨੈਵੀਗੇਸ਼ਨ ਸਿਸਟਮ ਦਾ ਅਧਿਕਾਰ ਸਿੱਧੇ ਸੰਵੇਦੀ (sensory) ਨਿਰੀਖਣ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਦਾ ਹੈ।

• ਸਪੈੱਲ-ਚੈੱਕ ਅਤੇ ਗ੍ਰਾਮਰ ਟੂਲ (Spell-Check and Grammar Tools): ਲੇਖਕ ਅੰਤਮ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਪੇਸ਼ ਕਰਦੇ ਹੋਏ, ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ ਗਲਤ ਆਟੋਕਰੈਕਟਸ (autocorrections) ਜਾਂ ਵਿਆਕਰਣ ਦੇ ਸੁਝਾਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦੇ ਹਨ। ਹਰਾ ਚੈੱਕਮਾਰਕ (green checkmark) ਪ੍ਰਵਾਨਗੀ ਦੀ ਮੋਹਰ ਬਣ ਜਾਂਦਾ ਹੈ।

• ਸਮਾਰਟ ਹੋਮ ਡਿਵਾਈਸਾਂ: ਨਿੱਜੀ ਆਰਾਮ ਜਾਂ ਖਾਸ ਘਰੇਲੂ ਸਥਿਤੀਆਂ 'ਤੇ ਵਿਚਾਰ ਕੀਤੇ ਬਿਨਾਂ ਸਮਾਰਟ ਥਰਮੋਸਟੈਟ ਦੀਆਂ ਊਰਜਾ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ।

• ਔਨਲਾਈਨ ਸਿਫ਼ਾਰਸ਼ਾਂ (Online Recommendations): ਖਾਸ ਵਿਕਲਪ ਕਿਉਂ ਪੇਸ਼ ਕੀਤੇ ਗਏ ਹਨ, ਇਸ 'ਤੇ ਸਵਾਲ ਕੀਤੇ ਬਿਨਾਂ ਖਰੀਦਦਾਰੀ, ਮਨੋਰੰਜਨ, ਜਾਂ ਸਮਾਜਿਕ ਕਨੈਕਸ਼ਨਾਂ ਲਈ ਐਲਗੋਰਿਦਮ-ਅਧਾਰਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਬਿਨਾਂ ਸੋਚੇ-ਸਮਝੇ ਸਵੀਕਾਰ ਕਰਨਾ।

• ਕੈਲਕੁਲੇਟਰ ਨਿਰਭਰਤਾ: ਕੈਲਕੁਲੇਟਰ ਦੇ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਇਹ ਜਾਂਚ ਕੀਤੇ ਬਿਨਾਂ ਸਵੀਕਾਰ ਕਰਨਾ ਕਿ ਕੀ ਨਤੀਜਾ ਵਾਜਬ ਹੈ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਸਧਾਰਨ ਗਣਨਾਵਾਂ ਲਈ ਵੀ ਜਿੱਥੇ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣ ਨਾਲ ਸਪੱਸ਼ਟ ਗਲਤੀਆਂ ਦਾ ਪਤਾ ਲੱਗ ਜਾਵੇਗਾ।

4.2. ਕੰਮ ਵਾਲੀ ਥਾਂ 'ਤੇ

• ਸਪ੍ਰੈੱਡਸ਼ੀਟ ਓਵਰ-ਟਰੱਸਟ: ਅੰਤਰੀਵ ਗਣਨਾਵਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ ਐਕਸਲ (Excel) ਵਿੱਚ ਫਾਰਮੂਲਾ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ, ਜਿਸ ਨਾਲ ਵਿੱਤੀ ਮਾਡਲਾਂ ਅਤੇ ਰਿਪੋਰਟਾਂ ਵਿੱਚ ਪ੍ਰਸਾਰਿਤ ਗਲਤੀਆਂ ਹੁੰਦੀਆਂ ਹਨ।

• ਸਵੈਚਲਿਤ ਸਮਾਂ-ਸੂਚੀ (Automated Scheduling): AI-ਤਿਆਰ ਕੀਤੀਆਂ ਸਮਾਂ-ਸਾਰਣੀਆਂ ਦੀ ਪਾਲਣਾ ਕਰਨਾ ਜੋ ਮਨੁੱਖੀ ਕਾਰਕਾਂ ਜਿਵੇਂ ਕਿ ਟੀਮ ਦੀ ਗਤੀਸ਼ੀਲਤਾ, ਯਾਤਰਾ ਦਾ ਸਮਾਂ, ਜਾਂ ਵਿਅਕਤੀਗਤ ਕੰਮ ਦੇ ਪੈਟਰਨਾਂ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਨਹੀਂ ਰੱਖਦੇ।

• HR ਸਕ੍ਰੀਨਿੰਗ ਸੌਫਟਵੇਅਰ: ਹਾਇਰਿੰਗ ਮੈਨੇਜਰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਵੈਚਲਿਤ ਰੈਜ਼ਿਊਮੇ (resume) ਸਕ੍ਰੀਨਿੰਗ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਖਰਾਬ ਮੈਚਾਂ ਵਜੋਂ ਫਲੈਗ ਕੀਤੇ ਗਏ ਯੋਗ ਉਮੀਦਵਾਰਾਂ ਨੂੰ ਗੁਆ ਦਿੰਦੇ ਹਨ ਜਾਂ ਐਲਗੋਰਿਦਮ ਦੁਆਰਾ ਪਸੰਦ ਕੀਤੇ ਗਏ ਅਯੋਗ ਉਮੀਦਵਾਰਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦੇ ਹਨ।

• ਕਾਰਗੁਜ਼ਾਰੀ ਵਿਸ਼ਲੇਸ਼ਣ (Performance Analytics): ਸਵੈਚਲਿਤ ਪ੍ਰਦਰਸ਼ਨ ਮੈਟ੍ਰਿਕਸ (metrics) 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰਨਾ ਜੋ ਕਰਮਚਾਰੀਆਂ ਦੇ ਯੋਗਦਾਨ ਦੇ ਗੁਣਾਤਮਕ ਪਹਿਲੂਆਂ ਨੂੰ ਹਾਸਲ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ।

• ਈਮੇਲ ਫਿਲਟਰਿੰਗ (Email Filtering): ਮਹੱਤਵਪੂਰਨ ਸੰਚਾਰਾਂ ਨੂੰ ਗੁਆਉਣਾ ਕਿਉਂਕਿ ਸਪੈਮ ਫਿਲਟਰਾਂ ਨੇ ਉਹਨਾਂ ਨੂੰ ਗਲਤ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਹੈ, ਫਿਲਟਰ ਕੀਤੇ ਸੁਨੇਹਿਆਂ ਦੀ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ।

• ਸਵੈਚਲਿਤ ਰਿਪੋਰਟਾਂ: ਅਸੰਗਤੀਆਂ ਜਾਂ ਗਲਤੀਆਂ ਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਬਿਨਾਂ ਸਿਸਟਮ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀਆਂ ਰਿਪੋਰਟਾਂ ਨੂੰ ਵੰਡਣਾ, ਇਹ ਮੰਨ ਕੇ ਕਿ ਇਹ ਸਹੀ ਹੈ ਕਿਉਂਕਿ "ਸਿਸਟਮ ਨੇ ਅਜਿਹਾ ਕਿਹਾ ਹੈ।"

4.3. ਵਪਾਰ ਅਤੇ ਮਾਰਕੀਟਿੰਗ ਵਿੱਚ

• ਐਲਗੋਰਿਦਮਿਕ ਵਪਾਰ (Algorithmic Trading): ਵਿੱਤੀ ਫਰਮਾਂ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਵਪਾਰਕ ਐਲਗੋਰਿਦਮਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਫਲੈਸ਼ ਕਰੈਸ਼ (flash crashes) ਅਤੇ ਲੜੀਵਾਰ ਅਸਫਲਤਾਵਾਂ ਹੁੰਦੀਆਂ ਹਨ।

• ਗਤੀਸ਼ੀਲ ਕੀਮਤਾਂ (Dynamic Pricing): ਕੰਪਨੀਆਂ ਸਵੈਚਲਿਤ ਕੀਮਤਾਂ ਲਾਗੂ ਕਰਦੀਆਂ ਹਨ ਜੋ ਐਮਰਜੈਂਸੀ ਜਾਂ ਸਪਲਾਈ ਵਿੱਚ ਵਿਘਨ ਦੌਰਾਨ ਗਾਹਕਾਂ ਨੂੰ ਦੂਰ ਕਰ ਦਿੰਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਬ੍ਰਾਂਡ ਦੀ ਸਾਖ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਦਾ ਹੈ।

• ਮਾਰਕੀਟਿੰਗ ਆਟੋਮੇਸ਼ਨ: ਅਣਉਚਿਤ ਸਵੈਚਲਿਤ ਸੁਨੇਹੇ ਭੇਜਣਾ ਕਿਉਂਕਿ ਜਨਸੰਖਿਆ ਜਾਂ ਵਿਵਹਾਰ ਸੰਬੰਧੀ ਟ੍ਰਿਗਰ (triggers) ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਫਾਇਰ ਹੋਏ ਹਨ।

• ਗਾਹਕ ਸੇਵਾ ਚੈਟਬੋਟਸ: ਕਾਰੋਬਾਰ ਇਹ ਮੰਨਦੇ ਹਨ ਕਿ ਚੈਟਬੋਟ ਆਪਸੀ ਤਾਲਮੇਲ ਸੰਤੁਸ਼ਟੀਜਨਕ ਹਨ, ਬਿਨਾਂ ਉਹਨਾਂ ਨਿਰਾਸ਼ ਗਾਹਕਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੇ ਜੋ ਅਣਉਚਿਤ ਲੂਪਾਂ ਵਿੱਚ ਫਸੇ ਹੋਏ ਹਨ।

• ਵਸਤੂ-ਸੂਚੀ ਪ੍ਰਬੰਧਨ (Inventory Management): ਪ੍ਰਚੂਨ ਵਿਕਰੇਤਾ ਸਵੈਚਲਿਤ ਰੀਆਰਡਰ ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ ਜੋ ਸਥਾਨਕ ਭਿੰਨਤਾਵਾਂ, ਮੌਸਮੀ ਤਬਦੀਲੀਆਂ, ਜਾਂ ਆਉਣ ਵਾਲੀਆਂ ਘਟਨਾਵਾਂ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ।

• ਧੋਖਾਧੜੀ ਦਾ ਪਤਾ ਲਗਾਉਣਾ (Fraud Detection): ਬੈਂਕ ਦੋਵੇਂ ਧੋਖਾਧੜੀ ਨੂੰ ਗੁਆਉਂਦੇ ਹਨ (ਛੱਡਣ ਦੀਆਂ ਗਲਤੀਆਂ) ਅਤੇ ਜਾਇਜ਼ ਲੈਣ-ਦੇਣ ਨੂੰ ਫਲੈਗ ਕਰਦੇ ਹਨ (ਝੂਠੇ ਸਕਾਰਾਤਮਕ ਜਿਨ੍ਹਾਂ ਨੂੰ ਫਿਰ ਸਮੀਖਿਆ ਤੋਂ ਬਿਨਾਂ ਸਵੀਕਾਰ ਕਰ ਲਿਆ ਜਾਂਦਾ ਹੈ)।

4.4. ਰਾਜਨੀਤੀ ਅਤੇ ਮੀਡੀਆ ਵਿੱਚ

• ਸੋਸ਼ਲ ਮੀਡੀਆ ਐਲਗੋਰਿਦਮ: ਨਾਗਰਿਕਾਂ ਦੇ ਵਿਸ਼ਵ-ਦ੍ਰਿਸ਼ਟੀਕੋਣ (worldviews) ਸਮਗਰੀ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਨ ਵਾਲੇ ਐਲਗੋਰਿਦਮ ਦੁਆਰਾ ਆਕਾਰ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ ਜਿਨ੍ਹਾਂ 'ਤੇ ਉਹ ਸਵਾਲ ਨਹੀਂ ਕਰਦੇ ਜਾਂ ਨਹੀਂ ਸਮਝਦੇ।

• ਤੱਥ-ਜਾਂਚ ਟੂਲ (Fact-Checking Tools): ਪੱਤਰਕਾਰ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ ਸਵੈਚਲਿਤ ਤੱਥ-ਜਾਂਚ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਗਲਤੀਆਂ ਦਾ ਪ੍ਰਚਾਰ ਕਰਦੇ ਹਨ ਜਾਂ ਬਾਰੀਕ ਦਾਅਵਿਆਂ ਨੂੰ ਗੁਆਉਂਦੇ ਹਨ।

• ਪੋਲ ਐਗਰੀਗੇਸ਼ਨ (Poll Aggregation): ਮਾਡਲ ਦੀਆਂ ਸੀਮਾਵਾਂ ਅਤੇ ਧਾਰਨਾਵਾਂ ਦੇ ਬਾਵਜੂਦ ਰਾਜਨੀਤਿਕ ਟਿੱਪਣੀਕਾਰ ਐਲਗੋਰਿਦਮਿਕ ਪੋਲ ਐਗਰੀਗੇਟਰਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਕ ਮੰਨਦੇ ਹਨ।

• ਸਮੱਗਰੀ ਸੰਚਾਲਨ (Content Moderation): ਸਵੈਚਲਿਤ ਸਮੱਗਰੀ ਸੰਚਾਲਨ ਫੈਸਲਿਆਂ ਨੂੰ ਸਹੀ ਮੰਨਣਾ, ਜਾਇਜ਼ ਭਾਸ਼ਣ ਨੂੰ ਦਬਾਉਣਾ ਜਾਂ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣ ਦੀ ਇਜਾਜ਼ਤ ਦੇਣਾ।

• ਚੋਣ ਤਕਨਾਲੋਜੀ: ਵੋਟਰ ਅਤੇ ਅਧਿਕਾਰੀ ਢੁਕਵੀਂ ਤਸਦੀਕ ਵਿਧੀ ਦੇ ਬਿਨਾਂ ਇਲੈਕਟ੍ਰਾਨਿਕ ਵੋਟਿੰਗ ਅਤੇ ਗਿਣਤੀ ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ।

• ਪ੍ਰੈਡੀਕਟਿਵ ਪੁਲਿਸਿੰਗ (Predictive Policing): ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਐਲਗੋਰਿਦਮਿਕ ਭਵਿੱਖਬਾਣੀਆਂ ਦੇ ਆਧਾਰ 'ਤੇ ਸਰੋਤ ਤਾਇਨਾਤ ਕਰਦੀਆਂ ਹਨ ਜੋ ਅਸਲ ਜੋਖਮ ਦੀ ਬਜਾਏ ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹੋ ਸਕਦੀਆਂ ਹਨ।

4.5. ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ

• ਕਲੀਨਿਕਲ ਡਿਸੀਜ਼ਨ ਸਪੋਰਟ ਸਿਸਟਮ (CDSS): ਇੱਕ 2025 ਬੇਤਰਤੀਬੇ ਕਲੀਨਿਕਲ ਟਰਾਇਲ (randomized clinical trial) ਨੇ ਪਾਇਆ ਕਿ "ਗਲਤ LLM ਸਿਫ਼ਾਰਸ਼ਾਂ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਪੈਦਾ ਕਰਕੇ ਡਾਕਟਰਾਂ ਦੀ ਡਾਇਗਨੌਸਟਿਕ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਮਹੱਤਵਪੂਰਣ ਰੂਪ ਵਿੱਚ ਘਟਾਉਂਦੀਆਂ ਹਨ।" ਇੱਥੋਂ ਤੱਕ ਕਿ ਮਾਹਰ ਡਾਕਟਰਾਂ ਨੇ ਵੀ ਮਸ਼ੀਨਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੱਤੀ ਜਿਨ੍ਹਾਂ ਨੇ ਨਿਦਾਨ ਦਾ ਭਰਮ (hallucinated) ਪੈਦਾ ਕੀਤਾ।

• ਇਲੈਕਟ੍ਰਾਨਿਕ ਹੈਲਥ ਰਿਕਾਰਡ (EHRs): ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਿਸਟਮ ਚੇਤਾਵਨੀਆਂ ਤੋਂ ਅਲਾਰਮ ਥਕਾਵਟ (Alert fatigue) ਕਾਰਨ ਕਲੀਨਿਸ਼ੀਅਨ ਗੰਭੀਰ ਚੇਤਾਵਨੀਆਂ ਸਮੇਤ ਸਾਰੀਆਂ ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਖਾਰਜ ਕਰ ਦਿੰਦੇ ਹਨ। ਇਸ ਦੇ ਉਲਟ, ਕਲੀਨਿਕਲ ਤਸਦੀਕ ਤੋਂ ਬਿਨਾਂ EHR ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ।

• ਮੈਡੀਕਲ ਇਮੇਜਿੰਗ AI: ਰੇਡੀਓਲੋਜਿਸਟਸ (Radiologists) ਸੁਤੰਤਰ ਤਸਦੀਕ ਤੋਂ ਬਿਨਾਂ AI-ਫਲੈਗ ਕੀਤੀਆਂ ਖੋਜਾਂ ਨੂੰ ਸਵੀਕਾਰ ਜਾਂ ਰੱਦ ਕਰਦੇ ਹਨ, ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਕੈਂਸਰਾਂ ਨੂੰ ਗੁਆਉਂਦੇ ਹਨ ਜਾਂ ਸੁਭਾਵਕ ਖੋਜਾਂ ਦਾ ਜ਼ਿਆਦਾ ਨਿਦਾਨ ਕਰਦੇ ਹਨ।

• ਡਰੱਗ ਇੰਟਰੈਕਸ਼ਨ ਚੈਕਰਜ਼: ਫਾਰਮਾਸਿਸਟ ਵਿਅਕਤੀਗਤ ਮਰੀਜ਼ ਦੀਆਂ ਸਥਿਤੀਆਂ ਬਾਰੇ ਕਲੀਨਿਕਲ ਫੈਸਲੇ ਤੋਂ ਬਿਨਾਂ ਸਵੈਚਲਿਤ ਡਰੱਗ ਇੰਟਰੈਕਸ਼ਨ (drug interaction) ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਖਾਰਜ ਜਾਂ ਸਵੀਕਾਰ ਕਰਦੇ ਹਨ।

• ਵਾਇਟਲ ਸਾਈਨ ਮਾਨੀਟਰ (Vital Sign Monitors): ਨਰਸਾਂ ਅਤੇ ਡਾਕਟਰ ਕਲੀਨਿਕਲ ਨਿਰੀਖਣਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੇ ਹਨ ਜੋ "ਆਮ" (normal) ਸਵੈਚਲਿਤ ਮਹੱਤਵਪੂਰਣ ਚਿੰਨ੍ਹ (vital sign) ਰੀਡਿੰਗਾਂ ਦੇ ਉਲਟ ਹੁੰਦੇ ਹਨ।

• ਡਾਇਗਨੌਸਟਿਕ ਐਲਗੋਰਿਦਮ: ਐਲਗੋਰਿਦਮਿਕ ਡਾਇਗਨੌਸਟਿਕ ਮਾਰਗਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨਾ ਉਦੋਂ ਵੀ ਜਦੋਂ ਮਰੀਜ਼ ਦੀ ਪੇਸ਼ਕਾਰੀ ਇੱਕ ਅਟੈਪੀਕਲ (atypical) ਕੇਸ ਦਾ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ ਜਿਸ ਲਈ ਮਨੁੱਖੀ ਅਨੁਭਵ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

4.6. ਵਿੱਤ ਅਤੇ ਨਿਵੇਸ਼ ਵਿੱਚ

• ਰੋਬੋ-ਸਲਾਹਕਾਰ (Robo-Advisors): ਨਿਵੇਸ਼ਕ ਵਿਅਕਤੀਗਤ ਸਥਿਤੀਆਂ, ਜੋਖਮ ਸਹਿਣਸ਼ੀਲਤਾ ਤਬਦੀਲੀਆਂ, ਜਾਂ ਜੀਵਨ ਦੀਆਂ ਘਟਨਾਵਾਂ ਜੋ ਐਲਗੋਰਿਦਮ ਦੁਆਰਾ ਕੈਪਚਰ ਨਹੀਂ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖੇ ਬਿਨਾਂ ਸਵੈਚਲਿਤ ਪੋਰਟਫੋਲੀਓ (portfolio) ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ।

• ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ: ਰਿਣਦਾਤੇ ਵਿਅਕਤੀਗਤ ਸਥਿਤੀਆਂ ਜਾਂ ਕ੍ਰੈਡਿਟ ਰਿਪੋਰਟਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਦੀ ਜਾਂਚ ਕੀਤੇ ਬਿਨਾਂ ਸਿਰਫ਼ ਸਵੈਚਲਿਤ ਕ੍ਰੈਡਿਟ ਸਕੋਰ (credit scores) ਦੇ ਅਧਾਰ 'ਤੇ ਅਰਜ਼ੀਆਂ ਨੂੰ ਸਵੀਕਾਰ ਜਾਂ ਰੱਦ ਕਰਦੇ ਹਨ।

• ਜੋਖਮ ਮੁਲਾਂਕਣ ਮਾਡਲ: ਵਿੱਤੀ ਸੰਸਥਾਵਾਂ ਵੈਲਯੂ-ਐਟ-ਰਿਸਕ (Value-at-Risk) ਅਤੇ ਹੋਰ ਸਵੈਚਲਿਤ ਜੋਖਮ ਮਾਡਲਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦੀਆਂ ਹਨ ਜੋ 2008 ਦੇ ਵਿੱਤੀ ਸੰਕਟ ਦੌਰਾਨ ਵਿਨਾਸ਼ਕਾਰੀ ਤੌਰ 'ਤੇ ਅਸਫਲ ਰਹੇ ਸਨ।

• ਐਲਗੋਰਿਦਮਿਕ ਵਪਾਰਕ ਫੈਸਲੇ: ਵਿਅਕਤੀਗਤ ਨਿਵੇਸ਼ਕ ਅੰਤਰੀਵ (underlying) ਰਣਨੀਤੀ ਜਾਂ ਮਾਰਕੀਟ ਸਥਿਤੀਆਂ ਨੂੰ ਸਮਝੇ ਬਿਨਾਂ ਐਲਗੋਰਿਦਮਿਕ ਵਪਾਰਕ ਸਿਗਨਲਾਂ ਦੀ ਨਕਲ ਕਰਦੇ ਹਨ।

• ਸਵੈਚਲਿਤ ਵਿੱਤੀ ਯੋਜਨਾਬੰਦੀ (Automated Financial Planning): ਮਹਿੰਗਾਈ, ਰਿਟਰਨ, ਜਾਂ ਜੀਵਨ ਕਾਲ ਬਾਰੇ ਧਾਰਨਾਵਾਂ 'ਤੇ ਸਵਾਲ ਉਠਾਏ ਬਿਨਾਂ ਸੌਫਟਵੇਅਰ ਤੋਂ ਸੇਵਾਮੁਕਤੀ (retirement) ਦੇ ਅਨੁਮਾਨਾਂ ਅਤੇ ਬੱਚਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ।

• ਧੋਖਾਧੜੀ ਦੀਆਂ ਚੇਤਾਵਨੀਆਂ: ਜਾਂ ਤਾਂ ਵਾਰ-ਵਾਰ ਝੂਠੇ ਸਕਾਰਾਤਮਕ (false positives) ਹੋਣ ਕਾਰਨ ਅਸਲ ਧੋਖਾਧੜੀ ਦੀਆਂ ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ ਜਾਂ ਬਿਨਾਂ ਜਾਂਚ ਕੀਤੇ ਸਾਰੇ ਫਲੈਗ ਕੀਤੇ ਲੈਣ-ਦੇਣ ਨੂੰ ਧੋਖਾਧੜੀ ਮੰਨ ਲੈਣਾ।

5. ਅਸਲ-ਸੰਸਾਰ ਕੇਸ ਅਧਿਐਨ (Real-World Case Studies)

ਕੇਸ ਅਧਿਐਨ 1: ਪੈਟ੍ਰੀਅਟ ਮਿਜ਼ਾਈਲ ਫ੍ਰੈਟਰੀਸਾਈਡਸ (2003)

• ਸੰਦਰਭ: ਆਪਰੇਸ਼ਨ ਇਰਾਕੀ ਫਰੀਡਮ (Operation Iraqi Freedom) ਦੇ ਦੌਰਾਨ, ਅਮਰੀਕੀ ਫੌਜ ਦਾ ਪੈਟ੍ਰੀਅਟ ਮਿਜ਼ਾਈਲ ਸਿਸਟਮ ਮੈਨੂਅਲ ਤੋਂ ਲੈ ਕੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਵੈਚਲਿਤ ਤੱਕ ਵੱਖ-ਵੱਖ ਮੋਡਾਂ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਸੀ। ਇਰਾਕੀ ਬੈਲਿਸਟਿਕ ਮਿਜ਼ਾਈਲਾਂ ਦੇ ਡਰ ਦੁਆਰਾ ਦਰਸਾਇਆ ਗਿਆ ਉੱਚ-ਖਤਰੇ ਵਾਲਾ ਵਾਤਾਵਰਣ ਸਿਸਟਮ ਸੰਰਚਨਾਵਾਂ (configurations) ਵੱਲ ਲੈ ਗਿਆ ਜੋ ਰੁਝੇਵਿਆਂ ਵੱਲ ਪੱਖਪਾਤੀ ਸਨ।

• ਕੀ ਹੋਇਆ: ਦੋ ਬਦਨਾਮ ਦੋਸਤਾਨਾ ਫਾਇਰ (friendly fire) ਘਟਨਾਵਾਂ ਵਾਪਰੀਆਂ: ਬ੍ਰਿਟਿਸ਼ ਰਾਇਲ ਏਅਰ ਫੋਰਸ (RAF) ਟੋਰਨੇਡੋ GR4 ਅਤੇ ਯੂਐਸ ਨੇਵੀ F/A-18 ਹਾਰਨੇਟ ਨੂੰ ਮਾਰ ਗਿਰਾਇਆ ਗਿਆ। ਦੋਵਾਂ ਜਹਾਜ਼ਾਂ ਦੇ ਕਰੂ ਮਾਰੇ ਗਏ। ਦੋਵਾਂ ਘਟਨਾਵਾਂ ਵਿੱਚ, ਪੈਟ੍ਰੀਅਟ ਦੇ ਰਾਡਾਰ ਐਲਗੋਰਿਦਮ ਨੇ ਇੱਕ ਦੋਸਤਾਨਾ ਜਹਾਜ਼ ਨੂੰ ਆਉਣ ਵਾਲੀ ਐਂਟੀ-ਰੇਡੀਏਸ਼ਨ ਮਿਜ਼ਾਈਲ (ARM) ਵਜੋਂ ਗਲਤ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ।

• ਪੱਖਪਾਤ ਕਾਰਜਸ਼ੀਲ: ਸਿਸਟਮ ਨੇ ਆਪਣੀ ਗਲਤ ਸ਼੍ਰੇਣੀਬੱਧਤਾ ਨੂੰ ਮਨੁੱਖੀ ਆਪਰੇਟਰਾਂ ਦੇ ਸਾਹਮਣੇ ਤੱਥ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ। ਹਾਲਾਂਕਿ ਆਪਰੇਟਰਾਂ ਕੋਲ ਹੋਰ ਮਾਪਦੰਡਾਂ (ਏਅਰਸਪੀਡ, ਉਚਾਈ, ਦੋਸਤ ਜਾਂ ਦੁਸ਼ਮਣ ਦੀ ਪਛਾਣ) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਟੀਚੇ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਸਕਿੰਟਾਂ ਦਾ ਸਮਾਂ ਸੀ, ਉਹ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਅਜਿਹਾ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹੇ। ਡਿਫੈਂਸ ਸਾਇੰਸ ਬੋਰਡ ਦੀ ਇੱਕ ਰਿਪੋਰਟ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਨੇ "ਬਹੁਤ ਜ਼ਿਆਦਾ ਵਿਰੋਧੀ ਸਬੂਤ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਸਿਸਟਮ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਖੁਸ਼ੀ ਨਾਲ ਸਵੀਕਾਰ ਕਰ ਲਿਆ," ਜੰਗ ਦੇ ਮੈਦਾਨ ਦੀ ਅਸਲੀਅਤ ਨਾਲੋਂ ਮਸ਼ੀਨ ਦੇ ਫੈਸਲੇ ਦਾ ਪੱਖ ਪੂਰਿਆ।

• ਨਤੀਜੇ: ਚਾਰ ਫੌਜੀ ਕਰਮਚਾਰੀ ਮਾਰੇ ਗਏ। ਰਿਪੋਰਟ ਵਿੱਚ ਪਛਾਣਿਆ ਗਿਆ ਕਿ ਪੱਖਪਾਤ ਸਿਰਫ਼ ਵਿਅਕਤੀਗਤ ਹੀ ਨਹੀਂ ਸਗੋਂ ਸੰਸਥਾਗਤ ਸੀ—ਆਪਰੇਟਰਾਂ ਨੂੰ ਸਿਸਟਮ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਦੀ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ; ਤਕਨਾਲੋਜੀ ਦੇ ਆਲੇ-ਦੁਆਲੇ "ਅਚੂਕਤਾ (infallibility) ਦੇ ਸੱਭਿਆਚਾਰ" ਦਾ ਮਤਲਬ ਸੀ ਕਿ "ਮਨੁੱਖੀ ਵੀਟੋ" (human veto) ਕਾਫ਼ੀ ਹੱਦ ਤੱਕ ਸਿਧਾਂਤਕ ਸੀ।

• ਸਿੱਖੇ ਗਏ ਸਬਕ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਸਿਖਲਾਈ, ਸੱਭਿਆਚਾਰ ਅਤੇ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਦੁਆਰਾ ਸੰਗਠਨਾਤਮਕ ਤੌਰ 'ਤੇ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ। "ਸਵਿਸ ਚੀਜ਼" (Swiss Cheese) ਮਾਡਲ ਨੇ ਦਿਖਾਇਆ ਕਿ ਸੰਭਾਵੀ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਦੀਆਂ ਕਈ ਪਰਤਾਂ ਇੱਕੋ ਸਮੇਂ ਕਿਵੇਂ ਅਸਫਲ ਹੋਈਆਂ ਕਿਉਂਕਿ ਹਰੇਕ ਨੇ ਮੰਨਿਆ ਕਿ ਆਟੋਮੇਸ਼ਨ ਸਹੀ ਸੀ।

ਕੇਸ ਅਧਿਐਨ 2: ਯੂਕੇ ਪੋਸਟ ਆਫਿਸ ਹੋਰਾਈਜ਼ਨ ਸਕੈਂਡਲ (1999–2015)

• ਸੰਦਰਭ: ਫੁਜਿਤਸੂ (Fujitsu) ਦੁਆਰਾ ਵਿਕਸਤ ਕੀਤਾ ਗਿਆ ਹੋਰਾਈਜ਼ਨ IT ਸਿਸਟਮ (Horizon IT system), ਯੂਕੇ ਪੋਸਟ ਆਫਿਸ ਲਈ ਲੇਖਾ ਜੋਖਾ ਪ੍ਰਬੰਧਿਤ ਕਰਨ ਲਈ ਲਾਗੂ ਕੀਤਾ ਗਿਆ ਸੀ। ਲਗਭਗ ਤੁਰੰਤ, ਸਬ-ਪੋਸਟਮਾਸਟਰਾਂ ਨੇ ਆਪਣੇ ਖਾਤਿਆਂ ਵਿੱਚ ਅਸਪਸ਼ਟ ਕਮੀਆਂ (shortfalls) ਦੀ ਰਿਪੋਰਟ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ।

• ਕੀ ਹੋਇਆ: ਪੋਸਟ ਆਫਿਸ ਮੈਨੇਜਮੈਂਟ ਅਤੇ ਬ੍ਰਿਟਿਸ਼ ਅਦਾਲਤਾਂ ਨੇ ਇਸ ਕਾਨੂੰਨੀ ਧਾਰਨਾ ਅਧੀਨ ਕੰਮ ਕੀਤਾ ਕਿ "ਕੰਪਿਊਟਰ ਭਰੋਸੇਮੰਦ ਹਨ"—ਇਹ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਇੱਕ ਸੰਕੁਚਿਤ (codified) ਰੂਪ ਸੀ। ਜਦੋਂ ਸਬ-ਪੋਸਟਮਾਸਟਰਾਂ ਨੇ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਸਿਸਟਮ ਵਿੱਚ ਗਲਤੀ ਸੀ, ਤਾਂ ਉਨ੍ਹਾਂ 'ਤੇ ਚੋਰੀ ਦਾ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ। ਸੈਂਕੜੇ ਇਮਾਨਦਾਰ ਨਾਗਰਿਕਾਂ ਦੀ ਗਵਾਹੀ ਨੂੰ ਹੋਰਾਈਜ਼ਨ ਲੌਗਸ (Horizon logs) ਦੇ ਪੱਖ ਵਿੱਚ ਯੋਜਨਾਬੱਧ ਤਰੀਕੇ ਨਾਲ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਗਿਆ।

• ਪੱਖਪਾਤ ਕਾਰਜਸ਼ੀਲ: ਕੰਪਿਊਟਰ ਦੇ ਆਊਟਪੁੱਟ ਨੂੰ ਪਵਿੱਤਰ ਸੱਚ (sacrosanct truth) ਮੰਨਿਆ ਗਿਆ ਸੀ, ਜੋ ਮਨੁੱਖੀ ਚੁਣੌਤੀ ਤੋਂ ਮੁਕਤ ਸੀ। "ਗੈਰ-ਸਵੈਚਲਿਤ ਸਰੋਤਾਂ ਤੋਂ ਵਿਰੋਧੀ ਜਾਣਕਾਰੀ"—ਮਨੁੱਖੀ ਗਵਾਹੀ—ਨੂੰ ਸਵੈ-ਸੇਵਾ ਕਰਨ ਵਾਲੇ ਝੂਠ ਜਾਂ ਅਯੋਗਤਾ ਵਜੋਂ ਖਾਰਜ ਕਰ ਦਿੱਤਾ ਗਿਆ। ਪ੍ਰਬੰਧਕਾਂ ਅਤੇ ਜੱਜਾਂ ਨੇ ਕਮਿਸ਼ਨ ਦੁਆਰਾ ਲਗਾਤਾਰ, ਬਹੁ-ਸਾਲਾ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਕੀਤਾ।

• ਨਤੀਜੇ: 700 ਤੋਂ ਵੱਧ ਲੋਕਾਂ ਨੂੰ ਗਲਤ ਢੰਗ ਨਾਲ ਦੋਸ਼ੀ ਠਹਿਰਾਇਆ ਗਿਆ, ਦੀਵਾਲੀਆ ਕਰ ਦਿੱਤਾ ਗਿਆ ਅਤੇ ਜੇਲ੍ਹ ਭੇਜ ਦਿੱਤਾ ਗਿਆ। ਵਿਆਹ ਟੁੱਟ ਗਏ, ਕਰੀਅਰ ਤਬਾਹ ਹੋ ਗਏ, ਅਤੇ ਕਈ ਸਬ-ਪੋਸਟਮਾਸਟਰਾਂ ਨੇ ਖੁਦਕੁਸ਼ੀ ਕਰ ਲਈ। ਬਾਅਦ ਵਿੱਚ ਇਹ ਸਾਬਤ ਹੋਇਆ ਕਿ ਸਿਸਟਮ ਬੱਗਾਂ (bugs) ਨਾਲ ਭਰਿਆ ਹੋਇਆ ਸੀ। ਇਹ ਯੂਕੇ ਦੇ ਇਤਿਹਾਸ ਵਿੱਚ ਨਿਆਂ ਦੇ ਸਭ ਤੋਂ ਵੱਡੇ ਪਤਨ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।

• ਸਿੱਖੇ ਗਏ ਸਬਕ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਸਿਰਫ਼ ਸਪਲਿਟ-ਸੈਕਿੰਡ ਪ੍ਰਤੀਕਿਰਿਆ ਨਹੀਂ ਹੈ—ਇਹ ਇੱਕ ਨਿਰੰਤਰ ਸੰਗਠਨਾਤਮਕ ਭਰਮ (delusion) ਹੋ ਸਕਦਾ ਹੈ। ਕਾਨੂੰਨੀ ਅਤੇ ਸੰਸਥਾਗਤ ਢਾਂਚੇ ਜੋ ਕੰਪਿਊਟਰ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਮੰਨਦੇ ਹਨ, ਪ੍ਰਣਾਲੀਗਤ ਪੱਖਪਾਤ ਪੈਦਾ ਕਰਦੇ ਹਨ ਜਿਸ ਨੂੰ ਚੁਣੌਤੀ ਦੇਣਾ ਬਹੁਤ ਮੁਸ਼ਕਲ ਹੈ।

ਕੇਸ ਅਧਿਐਨ 3: ਏਅਰ ਫਰਾਂਸ ਫਲਾਈਟ 447 (2009)

• ਸੰਦਰਭ: ਅਟਲਾਂਟਿਕ ਦੇ ਉੱਪਰ ਉਡਾਣ ਭਰਦੇ ਸਮੇਂ, ਇੱਕ ਏਅਰਬੱਸ A330 (Airbus A330) ਦੀਆਂ ਪਿਟੋਟ ਟਿਊਬਾਂ (ਏਅਰਸਪੀਡ ਸੈਂਸਰ) ਬਰਫ਼ ਦੇ ਕ੍ਰਿਸਟਲ ਨਾਲ ਭਰ ਗਈਆਂ, ਜਿਸ ਨਾਲ ਫਲਾਈਟ ਕੰਪਿਊਟਰ ਨੂੰ ਵੈਧ ਏਅਰਸਪੀਡ ਡੇਟਾ ਤੋਂ ਵਾਂਝਾ ਕਰ ਦਿੱਤਾ ਗਿਆ। ਆਟੋਪਾਇਲਟ ਬੰਦ ਹੋ ਗਿਆ, ਅਤੇ ਕੰਟਰੋਲ ਉਹਨਾਂ ਪਾਇਲਟਾਂ ਨੂੰ ਸੌਂਪ ਦਿੱਤਾ ਜੋ ਸਾਲਾਂ ਦੀ ਉੱਚ ਸਵੈਚਲਿਤ ਉਡਾਣ ਦੇ ਆਦੀ ਸਨ।

• ਕੀ ਹੋਇਆ: ਪਾਇਲਟ, ਜੋ "ਫਲਾਈਟ ਐਨਵੇਲਪ ਪ੍ਰੋਟੈਕਸ਼ਨ" (flight envelope protection) ਦੇ ਆਦੀ ਸਨ ਜੋ ਸਟਾਲ (stall) ਨੂੰ ਰੋਕਦਾ ਹੈ, ਅਚਾਨਕ "ਅਲਟਰਨੇਟ ਲਾਅ" (Alternate Law) ਮੋਡ ਵਿੱਚ ਧੱਕੇ ਗਏ ਜਿੱਥੇ ਉਹ ਸੁਰੱਖਿਆ ਮੌਜੂਦ ਨਹੀਂ ਸਨ। ਵਿਰੋਧੀ ਅਲਾਰਮਾਂ (ਸਟਾਲ ਦੀ ਚਿਤਾਵਨੀ 75 ਵਾਰ ਵੱਜੀ) ਦੁਆਰਾ ਉਲਝਣ ਵਿੱਚ, ਉਡਾਣ ਭਰਨ ਵਾਲੇ ਪਾਇਲਟ ਨੇ ਸਟਿਕ (stick) ਨੂੰ ਪਿੱਛੇ ਖਿੱਚਿਆ—ਇੱਕ ਅਭਿਆਸ ਜੋ ਅਸੁਰੱਖਿਅਤ ਉਡਾਣ ਮੋਡਾਂ ਵਿੱਚ ਸਟਾਲ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰਦਾ ਹੈ।

• ਪੱਖਪਾਤ ਕਾਰਜਸ਼ੀਲ: ਚਾਲਕ ਦਲ ਇਸ ਅਯੋਗਤਾ ਤੋਂ ਪੀੜਤ ਸੀ ਕਿ ਆਟੋਮੇਸ਼ਨ ਦਾ ਸੰਦਰਭ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਬਦਲ ਗਿਆ ਸੀ। ਉਨ੍ਹਾਂ ਨੇ ਕੱਚੀ ਐਰੋਡਾਇਨਾਮਿਕ (aerodynamic) ਹਕੀਕਤ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ (ਜਹਾਜ਼ ਡਿੱਗ ਰਿਹਾ ਸੀ) ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਦਾ ਮਾਨਸਿਕ ਮਾਡਲ ਆਮ ਸਵੈਚਲਿਤ ਕਾਰਵਾਈ ਨਾਲ ਜੁੜਿਆ ਹੋਇਆ ਸੀ। ਜਿਵੇਂ ਕਿ FAA ਵਿਸ਼ਲੇਸ਼ਣ ਨੇ ਨੋਟ ਕੀਤਾ ਹੈ, ਚਾਲਕ ਦਲ "ਲੂਪ ਤੋਂ ਬਾਹਰ" (out of the loop) ਸੀ ਅਤੇ ਸਮਝ ਨਹੀਂ ਸਕਿਆ "ਆਟੋਮੇਸ਼ਨ ਕੀ ਕਰ ਰਹੀ ਸੀ।" ਉਹ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਆਟੋਮੇਸ਼ਨ ਦੁਆਰਾ ਉਨ੍ਹਾਂ ਨੂੰ ਬਚਾਉਣ ਦੀ ਉਡੀਕ ਕਰਦੇ ਰਹੇ—ਇੱਕ ਹਿਊਰੀਸਟਿਕ ਨਿਰਭਰਤਾ ਜੋ ਟਕਰਾਉਣ ਤੱਕ ਬਣੀ ਰਹੀ।

• ਨਤੀਜੇ: ਜਹਾਜ਼ ਵਿੱਚ ਸਵਾਰ ਸਾਰੇ 228 ਲੋਕ ਮਾਰੇ ਗਏ। ਇਹ ਹਾਦਸਾ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਨਿਸ਼ਚਿਤ ਕੇਸ ਸਟੱਡੀ ਬਣਿਆ ਹੋਇਆ ਹੈ ਜੋ "ਆਟੋਮੇਸ਼ਨ ਹੈਰਾਨੀ" (automation surprise) ਅਤੇ ਮੈਨੂਅਲ ਕੌਗਨੀਸ਼ਨ (manual cognition) 'ਤੇ ਵਾਪਸ ਜਾਣ ਦੀ ਅਸਮਰੱਥਾ ਵੱਲ ਖੜਦਾ ਹੈ।

• ਸਿੱਖੇ ਗਏ ਸਬਕ: ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰਤਾ ਮੈਨੂਅਲ ਹੁਨਰ ਨੂੰ ਉਸ ਬਿੰਦੂ ਤੱਕ ਘਟਾ ਸਕਦੀ ਹੈ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਦੇ ਅਸਫਲ ਹੋਣ 'ਤੇ ਪਾਇਲਟ ਰਿਕਵਰ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਜਦੋਂ ਮਨੁੱਖਾਂ ਨੂੰ ਬੋਧਾਤਮਕ ਲੂਪ ਤੋਂ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਬਾਹਰ ਰੱਖਿਆ ਗਿਆ ਹੋਵੇ ਤਾਂ "ਮਨੁੱਖੀ ਬੈਕਅੱਪ" (human backup) ਦੀ ਧਾਰਨਾ ਨੁਕਸਦਾਰ ਹੁੰਦੀ ਹੈ।

ਇਤਿਹਾਸਕ ਉਦਾਹਰਣ: ਸਟੈਨਿਸਲਾਵ ਪੈਟਰੋਵ (1983)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਮਝਣ ਲਈ, ਕਿਸੇ ਨੂੰ ਉਹਨਾਂ ਦੁਰਲੱਭ ਘਟਨਾਵਾਂ ਦੀ ਜਾਂਚ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਜਿੱਥੇ ਇਸਨੂੰ ਸਫਲਤਾਪੂਰਵਕ ਤੋੜਿਆ ਗਿਆ ਸੀ। 26 ਸਤੰਬਰ, 1983 ਨੂੰ, ਸੋਵੀਅਤ ਪ੍ਰਮਾਣੂ ਸ਼ੁਰੂਆਤੀ-ਚੇਤਾਵਨੀ ਪ੍ਰਣਾਲੀ (ਓਕੋ - Oko) ਨੇ ਅਮਰੀਕਾ ਤੋਂ ਪੰਜ ਅੰਤਰ-ਮਹਾਂਦੀਪੀ ਬੈਲਿਸਟਿਕ ਮਿਜ਼ਾਈਲਾਂ ਦੇ ਲਾਂਚ ਹੋਣ ਦੀ ਰਿਪੋਰਟ ਦਿੱਤੀ।

ਡਿਊਟੀ ਅਫਸਰ, ਲੈਫਟੀਨੈਂਟ ਕਰਨਲ ਸਟੈਨਿਸਲਾਵ ਪੈਟਰੋਵ (Stanislav Petrov) ਨੇ ਅਲਾਰਮ ਨੂੰ ਝੂਠਾ ਕਰਾਰ ਦਿੱਤਾ। ਉਸਦਾ ਤਰਕ ਸੰਦਰਭੀ ਅਤੇ ਮਨੁੱਖੀ ਸੀ: "ਜਦੋਂ ਲੋਕ ਯੁੱਧ ਸ਼ੁਰੂ ਕਰਦੇ ਹਨ, ਤਾਂ ਉਹ ਇਸਨੂੰ ਸਿਰਫ਼ ਪੰਜ ਮਿਜ਼ਾਈਲਾਂ ਨਾਲ ਸ਼ੁਰੂ ਨਹੀਂ ਕਰਦੇ।" ਉਸ ਨੇ ਨਵੀਂ ਸੈਟੇਲਾਈਟ ਤਕਨੀਕ 'ਤੇ ਵੀ ਬੇਭਰੋਸਗੀ ਪ੍ਰਗਟਾਈ। ਪੈਟਰੋਵ ਨੇ ਚੇਤਾਵਨੀ ਨੂੰ ਕਮਾਂਡ ਦੀ ਲੜੀ (chain of command) ਵਿੱਚ ਅੱਗੇ ਭੇਜਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਸੰਭਾਵੀ ਜਵਾਬੀ ਪ੍ਰਮਾਣੂ ਹਮਲੇ ਨੂੰ ਰੋਕਿਆ ਗਿਆ।

ਪੈਟਰੋਵ ਦੀ ਸਫਲਤਾ ਉਸ ਦੇ ਸੰਦੇਹਵਾਦ (skepticism) ਅਤੇ ਡੋਮੇਨ ਮੁਹਾਰਤ (domain expertise) ਕਾਰਨ ਸੀ—ਉਹ ਜਾਣਦਾ ਸੀ ਕਿ ਰਾਜਨੀਤਿਕ ਅਤੇ ਰਣਨੀਤਕ ਸੰਦਰਭ (ਮਨੁੱਖੀ ਬੁੱਧੀ) ਸੈਂਸਰ ਡੇਟਾ (ਸਵੈਚਲਿਤ ਬੁੱਧੀ) ਦੇ ਉਲਟ ਸੀ। ਉਸਨੇ "ਮਨੁੱਖੀ ਵੀਟੋ" ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜੋ ਪੈਟ੍ਰੀਅਟ ਆਪਰੇਟਰ ਵਰਤਣ ਵਿੱਚ ਅਸਫਲ ਰਹੇ ਸਨ। ਇਹ ਕੇਸ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਤੋੜਨ ਲਈ ਅਸਹਿਮਤੀ (dissent) ਦੀ ਹਿੰਮਤ ਅਤੇ ਇਹ ਪਛਾਣ ਕਰਨ ਲਈ ਡੋਮੇਨ ਗਿਆਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿ ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟ ਕਦੋਂ ਅਸੰਭਵ ਹਨ।

6. ਇਸ ਪੱਖਪਾਤ ਦੀ ਕੀਮਤ

6.1. ਨਿੱਜੀ ਕੀਮਤਾਂ

• ਆਲੋਚਨਾਤਮਕ ਸੋਚ ਦਾ ਖਾਤਮਾ: ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਸਨਮਾਨ ਕਰਨਾ ਤਸਦੀਕ ਅਤੇ ਸੁਤੰਤਰ ਵਿਸ਼ਲੇਸ਼ਣ ਦੀਆਂ ਬੋਧਾਤਮਕ ਮਾਸਪੇਸ਼ੀਆਂ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰਦਾ ਹੈ। ਸਮੇਂ ਦੇ ਨਾਲ, ਵਿਅਕਤੀ ਸਵੈਚਲਿਤ ਮਾਰਗਦਰਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਕੰਮ ਕਰਨ ਦੇ ਘੱਟ ਸਮਰੱਥ ਹੋ ਜਾਂਦੇ ਹਨ।

• ਮੁਹਾਰਤ ਦਾ ਨੁਕਸਾਨ: ਜਿਹੜੇ ਪੇਸ਼ੇਵਰ ਸਵੈਚਲਿਤ ਸਾਧਨਾਂ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਉਹ ਹੁਨਰ ਦੀ ਗਿਰਾਵਟ (skill degradation) ਦਾ ਅਨੁਭਵ ਕਰ ਸਕਦੇ ਹਨ। ਪਾਇਲਟ ਜੋ ਘੱਟ ਹੀ ਹੱਥਾਂ ਨਾਲ ਉਡਾਣ ਭਰਦੇ ਹਨ, ਰੇਡੀਓਲੋਜਿਸਟ ਜੋ ਹਮੇਸ਼ਾ AI ਸਹਾਇਤਾ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਲੇਖਾਕਾਰ ਜੋ ਕਦੇ ਵੀ ਹੱਥੀਂ ਗਣਨਾ ਨਹੀਂ ਕਰਦੇ ਹਨ, ਉਹ ਸਮਰੱਥਾਵਾਂ ਗੁਆ ਦਿੰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਨੂੰ ਮਾਹਰ ਬਣਾਉਂਦੀਆਂ ਹਨ।

• ਫੈਸਲੇ ਦਾ ਅਧਰੰਗ (Decision Paralysis): ਜਦੋਂ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਅਸਫਲ ਹੁੰਦੀਆਂ ਹਨ ਜਾਂ ਉਪਲਬਧ ਨਹੀਂ ਹੁੰਦੀਆਂ, ਤਾਂ ਵਿਅਕਤੀ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਅਸਮਰੱਥ ਮਹਿਸੂਸ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਨਾਜ਼ੁਕ ਪਲਾਂ ਵਿੱਚ ਅਧਰੰਗ ਹੋ ਸਕਦਾ ਹੈ।

• ਝੂਠਾ ਭਰੋਸਾ: ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਨਾਲ ਨਿਸ਼ਚਤਤਾ ਦੀ ਭਾਵਨਾ ਪੈਦਾ ਹੁੰਦੀ ਹੈ ਜੋ ਜਾਇਜ਼ ਨਹੀਂ ਹੈ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਸਥਿਤੀਆਂ ਲਈ ਘੱਟ ਤਿਆਰੀ ਹੁੰਦੀ ਹੈ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਹੁੰਦੀ ਹੈ।

• ਰਿਸ਼ਤਿਆਂ ਵਿੱਚ ਤਣਾਅ: ਨਿੱਜੀ ਸੰਦਰਭਾਂ ਵਿੱਚ, ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ (ਡੇਟਿੰਗ ਐਪਸ, ਸੋਸ਼ਲ ਮੀਡੀਆ ਸੁਝਾਅ) 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰਤਾ ਪ੍ਰਮਾਣਿਕ ਮਨੁੱਖੀ ਨਿਰਣੇ ਅਤੇ ਕਨੈਕਸ਼ਨ ਦੀ ਥਾਂ ਲੈ ਸਕਦੀ ਹੈ।

6.2. ਪੇਸ਼ੇਵਰ ਕੀਮਤਾਂ

• ਕਰੀਅਰ ਦੇਣਦਾਰੀ (Career Liability): ਪੇਸ਼ੇਵਰ ਜੋ ਗਲਤੀਆਂ ਵਿੱਚ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਅਨੁਸ਼ਾਸਨੀ ਕਾਰਵਾਈ, ਦੁਰਵਿਵਹਾਰ (malpractice) ਦੇ ਮੁਕੱਦਮਿਆਂ, ਜਾਂ ਅਪਰਾਧਿਕ ਦੋਸ਼ਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ—ਜਿਵੇਂ ਕਿ ਮਾਟਾ ਬਨਾਮ ਅਵੀਅੰਕਾ (Mata v. Avianca) ਕੇਸ ਵਿੱਚ ਉਹਨਾਂ ਵਕੀਲਾਂ ਨਾਲ ਦੇਖਿਆ ਗਿਆ ਜਿਨ੍ਹਾਂ ਨੂੰ AI-ਭਰਮ ਵਾਲੀਆਂ (hallucinated) ਕਾਨੂੰਨੀ ਉਦਾਹਰਣਾਂ ਦਾ ਹਵਾਲਾ ਦੇਣ ਲਈ ਪਾਬੰਦੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ।

• ਪ੍ਰਤਿਸ਼ਠਾ ਨੂੰ ਨੁਕਸਾਨ (Reputational Damage): ਆਟੋਮੇਸ਼ਨ-ਪ੍ਰੇਰਿਤ ਅਸਫਲਤਾਵਾਂ ਲਈ ਜਾਣੀਆਂ ਜਾਂਦੀਆਂ ਸੰਸਥਾਵਾਂ (ਜਿਵੇਂ ਯੂਕੇ ਪੋਸਟ ਆਫਿਸ) ਨੂੰ ਸਥਾਈ ਪ੍ਰਤਿਸ਼ਠਾ ਸੰਬੰਧੀ ਨੁਕਸਾਨ ਝੱਲਣਾ ਪੈਂਦਾ ਹੈ ਜੋ ਭਰਤੀ, ਭਾਈਵਾਲੀ, ਅਤੇ ਜਨਤਕ ਵਿਸ਼ਵਾਸ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰਦਾ ਹੈ।

• ਸਕਿੱਲ ਐਟ੍ਰੋਫੀ (Skill Atrophy): ਸੰਪੂਰਨ ਪੇਸ਼ੇਵਰ ਭਾਈਚਾਰੇ ਸਮੂਹਿਕ ਹੁਨਰ ਦੀ ਗਿਰਾਵਟ ਦਾ ਅਨੁਭਵ ਕਰ ਸਕਦੇ ਹਨ ਕਿਉਂਕਿ ਆਟੋਮੇਸ਼ਨ ਰੁਟੀਨ ਦੇ ਮਾਮਲਿਆਂ ਨੂੰ ਸੰਭਾਲਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਪ੍ਰੈਕਟੀਸ਼ਨਰ ਗੁੰਝਲਦਾਰ ਜਾਂ ਅਸਾਧਾਰਨ ਸਥਿਤੀਆਂ ਲਈ ਤਿਆਰ ਨਹੀਂ ਹੁੰਦੇ ਹਨ।

• ਨਵੀਨਤਾ ਵਿੱਚ ਖੜੋਤ (Innovation Stagnation): "ਸਿਸਟਮ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ" ਵਿੱਚ ਜ਼ਿਆਦਾ ਭਰੋਸਾ ਪੇਸ਼ੇਵਰਾਂ ਨੂੰ ਪ੍ਰਕਿਰਿਆਵਾਂ 'ਤੇ ਸਵਾਲ ਉਠਾਉਣ ਜਾਂ ਸੁਧਾਰ ਵਿਕਸਿਤ ਕਰਨ ਤੋਂ ਰੋਕ ਸਕਦਾ ਹੈ।

• ਖਰਾਬ ਨਤੀਜੇ: ਮੈਡੀਕਲ ਗਲਤ ਨਿਦਾਨ, ਗਲਤ ਸਜ਼ਾਵਾਂ, ਵਿੱਤੀ ਨੁਕਸਾਨ, ਅਤੇ ਕਾਰਜਸ਼ੀਲ ਅਸਫਲਤਾਵਾਂ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨਾਲ ਜੁੜੀਆਂ ਹੋਈਆਂ ਹਨ।

6.3. ਸਮਾਜਿਕ ਕੀਮਤਾਂ

• ਪ੍ਰਣਾਲੀਗਤ ਜੋਖਮ ਇਕੱਠਾ ਹੋਣਾ (Systemic Risk Accumulation): ਜਦੋਂ ਪੂਰੇ ਉਦਯੋਗ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਅਪਣਾ ਲੈਂਦੇ ਹਨ, ਤਾਂ ਗਲਤੀਆਂ ਸੁਤੰਤਰ ਦੀ ਬਜਾਏ ਆਪਸ ਵਿੱਚ ਜੁੜ ਜਾਂਦੀਆਂ ਹਨ। ਇੱਕ ਸਿੰਗਲ ਐਲਗੋਰਿਦਮਿਕ ਖਰਾਬੀ (flaw) ਇੱਕੋ ਸਮੇਂ ਪੂਰੇ ਖੇਤਰ ਵਿੱਚ ਫੈਲ ਸਕਦੀ ਹੈ।

• ਜਮਹੂਰੀ ਗਿਰਾਵਟ (Democratic Erosion): ਸਿਆਸੀ ਭਾਸ਼ਣ, ਸਮੱਗਰੀ ਦੀ ਦਿੱਖ (content visibility), ਅਤੇ ਜਾਣਕਾਰੀ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਰੂਪ ਦੇਣ ਵਾਲੀਆਂ ਐਲਗੋਰਿਦਮਿਕ ਪ੍ਰਣਾਲੀਆਂ—ਜਿਨ੍ਹਾਂ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਸਵਾਲ ਦੇ ਸਵੀਕਾਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ—ਸੁਚੇਤ ਜਮਹੂਰੀ ਭਾਗੀਦਾਰੀ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਸਕਦੀਆਂ ਹਨ।

• ਨਿਆਂ ਪ੍ਰਣਾਲੀ ਦਾ ਭ੍ਰਿਸ਼ਟਾਚਾਰ: ਕਾਨੂੰਨੀ ਪ੍ਰਣਾਲੀਆਂ ਜੋ ਕੰਪਿਊਟਰ ਦੀ ਭਰੋਸੇਯੋਗਤਾ (ਜਿਵੇਂ ਕਿ ਹੋਰਾਈਜ਼ਨ ਸਕੈਂਡਲ ਵਿੱਚ) ਨੂੰ ਮੰਨਦੀਆਂ ਹਨ, ਸੰਰਚਨਾਤਮਕ ਬੇਇਨਸਾਫ਼ੀ ਪੈਦਾ ਕਰਦੀਆਂ ਹਨ ਜਿਸ ਨੂੰ ਵਿਅਕਤੀਆਂ ਲਈ ਚੁਣੌਤੀ ਦੇਣਾ ਲਗਭਗ ਅਸੰਭਵ ਹੈ।

• ਸੁਰੱਖਿਆ ਵਿੱਚ ਗਿਰਾਵਟ: ਆਟੋਨੋਮਸ ਵਾਹਨਾਂ, ਸਵੈਚਲਿਤ ਹਵਾਈ ਆਵਾਜਾਈ ਨਿਯੰਤਰਣ, ਅਤੇ ਹੋਰ ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਅਧੀਨ "ਮਨੁੱਖੀ ਬੈਕਅੱਪ" ਸੁਰੱਖਿਆ ਧਾਰਨਾ ਬੁਨਿਆਦੀ ਤੌਰ 'ਤੇ ਨੁਕਸਦਾਰ ਹੈ। ਲੰਬੀ ਪੈਸਿਵ (passive) ਨਿਗਰਾਨੀ ਦੌਰਾਨ ਮਨੁੱਖ ਚੌਕਸੀ ਬਣਾਈ ਨਹੀਂ ਰੱਖ ਸਕਦੇ।

• ਆਰਥਿਕ ਵਿਘਨ (Economic Disruption): ਫਲੈਸ਼ ਕ੍ਰੈਸ਼, ਐਲਗੋਰਿਦਮਿਕ ਕੈਸਕੇਡਜ਼ (algorithmic cascades), ਅਤੇ ਆਪਸ ਵਿੱਚ ਜੁੜੀਆਂ ਗਲਤੀਆਂ ਕਰਨ ਵਾਲੇ ਸਵੈਚਲਿਤ ਸਿਸਟਮ ਆਰਥਿਕ ਅਸਥਿਰਤਾ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ।

6.4. ਅੰਕੜਾ ਪ੍ਰਭਾਵ (Statistical Impact)

• ਹਵਾਬਾਜ਼ੀ: ਅਧਿਐਨ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਆਟੋਮੇਟਿਡ ਏਡਸ (automated aids) ਵਾਲੇ ਪਾਇਲਟ ਹੱਥੀਂ ਨਿਗਰਾਨੀ ਕਰਨ ਵਾਲਿਆਂ ਨਾਲੋਂ ਸਿਸਟਮ ਦੀਆਂ ਅਸੰਗਤੀਆਂ ਨੂੰ ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਗੁਆਉਂਦੇ ਹਨ। ਏਅਰ ਫਰਾਂਸ 447 ਦੇ ਅਮਲੇ ਨੇ 75 ਸਟਾਲ ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ।

• ਹੈਲਥਕੇਅਰ: ਖੋਜ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਗਲਤ AI ਸਿਫ਼ਾਰਸ਼ਾਂ ਡਾਕਟਰਾਂ ਦੀ ਡਾਇਗਨੌਸਟਿਕ ਸ਼ੁੱਧਤਾ ਨੂੰ ਕਾਫ਼ੀ ਘਟਾਉਂਦੀਆਂ ਹਨ। ਅਲਾਰਮ ਦੀ ਥਕਾਵਟ (Alert fatigue) ਕਾਰਨ ਕਲੀਨਿਸ਼ੀਅਨ 49-96% ਸਵੈਚਲਿਤ ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੇ ਹਨ।

• ਮੈਮੋਰੀ ਡਿਸਟੌਰਸ਼ਨ: 67% ਪਾਇਲਟਾਂ ਜਿਨ੍ਹਾਂ ਨੇ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ, ਬਾਅਦ ਵਿੱਚ ਘਟਨਾਵਾਂ ਦੀਆਂ ਝੂਠੀਆਂ ਯਾਦਾਂ ਪ੍ਰਦਰਸ਼ਿਤ ਕੀਤੀਆਂ, ਜਿਸ ਨਾਲ ਦੁਰਘਟਨਾ ਦੀ ਜਾਂਚ ਅਤੇ ਸਿੱਖਣ ਨੂੰ ਗੁੰਝਲਦਾਰ ਬਣਾਇਆ ਗਿਆ।

• ਕਾਨੂੰਨੀ: ਹੋਰਾਈਜ਼ਨ ਸਕੈਂਡਲ ਦੇ ਨਤੀਜੇ ਵਜੋਂ 700+ ਗਲਤ ਸਜ਼ਾਵਾਂ ਹੋਈਆਂ—ਯੂਕੇ ਦੇ ਇਤਿਹਾਸ ਵਿੱਚ ਨਿਆਂ ਦਾ ਸਭ ਤੋਂ ਵੱਡਾ ਗਰਭਪਾਤ (miscarriage of justice)।

• ਮਿਲਟਰੀ: ਇਰਾਕ ਵਿੱਚ ਦੋਸਤਾਨਾ ਫਾਇਰ ਘਟਨਾਵਾਂ ਨੇ ਕਾਫ਼ੀ ਵਿਰੋਧੀ ਸਬੂਤ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਸਿਸਟਮ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਦੀ ਇੱਛਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ।

7. ਲੁਕਵੇਂ ਲਾਭ (The Hidden Benefits)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਕਾਰਾਤਮਕ ਨਹੀਂ ਹੈ—ਅੰਤਰੀਵ ਬੋਧਾਤਮਕ ਵਿਧੀ ਮਹੱਤਵਪੂਰਨ ਉਦੇਸ਼ਾਂ ਦੀ ਪੂਰਤੀ ਕਰਦੀ ਹੈ:

• ਬੋਧਾਤਮਕ ਕੁਸ਼ਲਤਾ (Cognitive Efficiency): ਭਰੋਸੇਮੰਦ ਬਾਹਰੀ ਸਰੋਤਾਂ ਨੂੰ ਬੋਧਾਤਮਕ ਕਾਰਜ ਸੌਂਪਣ ਦੀ ਸਮਰੱਥਾ ਹੋਰ ਚੁਣੌਤੀਆਂ ਲਈ ਮਾਨਸਿਕ ਸਰੋਤਾਂ ਨੂੰ ਮੁਕਤ ਕਰਦੀ ਹੈ। ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਸਹੀ ਹੁੰਦੀ ਹੈ (ਜੋ ਕਿ ਜ਼ਿਆਦਾਤਰ ਸਮਾਂ ਹੁੰਦੀ ਹੈ), ਤਾਂ ਇਸਦੇ ਆਊਟਪੁੱਟ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ ਸੱਚਮੁੱਚ ਕੁਸ਼ਲ ਹੁੰਦਾ ਹੈ।

• ਇਕਸਾਰਤਾ (Consistency): ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਸਮਾਨ ਮਾਪਦੰਡਾਂ ਨੂੰ ਇਕਸਾਰ ਲਾਗੂ ਕਰਦੀਆਂ ਹਨ। ਉਹਨਾਂ ਦਾ ਸਨਮਾਨ ਕਰਨਾ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਮਨੁੱਖੀ ਪਰਿਵਰਤਨਸ਼ੀਲਤਾ (variability) ਅਤੇ ਕੁਝ ਕਿਸਮਾਂ ਦੇ ਪੱਖਪਾਤ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ।

• ਗਤੀ (Speed): ਸਮੇਂ-ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਵਿੱਚ, ਲੰਬੀ ਤਸਦੀਕ ਕੀਤੇ ਬਿਨਾਂ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਜਲਦੀ ਸਵੀਕਾਰ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਜੀਵਨ ਬਚਾਉਣ ਵਾਲੀ ਹੋ ਸਕਦੀ ਹੈ—ਬਸ਼ਰਤੇ ਆਟੋਮੇਸ਼ਨ ਸਹੀ ਹੋਵੇ।

• ਮੁਹਾਰਤ ਦਾ ਵਿਸਥਾਰ: ਆਟੋਮੇਸ਼ਨ ਗੈਰ-ਮਾਹਿਰਾਂ ਨੂੰ ਏਨਕੋਡ (encoded) ਕੀਤੀ ਮੁਹਾਰਤ ਤੋਂ ਲਾਭ ਲੈਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਕਲੀਨਿਕਲ ਫੈਸਲੇ ਸਮਰਥਨ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਇੱਕ ਜੂਨੀਅਰ ਕਲੀਨਿਸ਼ੀਅਨ ਉਸ ਗਿਆਨ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਮਾਹਰਾਂ ਨੂੰ ਹਾਸਲ ਕਰਨ ਵਿੱਚ ਦਹਾਕੇ ਲੱਗ ਗਏ ਸਨ।

• ਘਟੀ ਹੋਈ ਚਿੰਤਾ: ਅਨਿਸ਼ਚਿਤ ਸਥਿਤੀਆਂ ਵਿੱਚ, ਇੱਕ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ ਹੋਣ ਨਾਲ ਫੈਸਲੇ ਦੀ ਚਿੰਤਾ ਅਤੇ ਬੋਧਾਤਮਕ ਬੋਝ ਘੱਟ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਭਲਾਈ ਵਿੱਚ ਸੁਧਾਰ ਹੁੰਦਾ ਹੈ ਭਾਵੇਂ ਫੈਸਲੇ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਕੋਈ ਬਦਲਾਅ ਨਾ ਆਇਆ ਹੋਵੇ।

• ਸਕੇਲ (Scale): ਬਹੁਤ ਸਾਰੀਆਂ ਆਧੁਨਿਕ ਪ੍ਰਣਾਲੀਆਂ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕੀਤੇ ਬਿਨਾਂ ਕੰਮ ਨਹੀਂ ਕਰ ਸਕਦੀਆਂ। ਇੱਕ ਵਿਅਕਤੀ ਲਈ ਸਪੈਮ ਲਈ ਹਰ ਈਮੇਲ ਦੀ ਸਮੀਖਿਆ ਕਰਨਾ, ਧੋਖਾਧੜੀ ਲਈ ਹਰ ਵਿੱਤੀ ਲੈਣ-ਦੇਣ, ਜਾਂ ਉਲੰਘਣਾਵਾਂ ਲਈ ਹਰ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪੋਸਟ ਦੀ ਸਮੀਖਿਆ ਕਰਨਾ ਅਸੰਭਵ ਹੋਵੇਗਾ।

ਵਪਾਰ-ਬੰਦ (trade-off) ਸਪੱਸ਼ਟ ਹੈ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਸਿਰਫ ਉਦੋਂ ਸਮੱਸਿਆ ਵਾਲਾ ਬਣ ਜਾਂਦਾ ਹੈ ਜਦੋਂ (1) ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਹੁੰਦੀ ਹੈ, (2) ਦਾਅ ਬਹੁਤ ਉੱਚੇ ਹੁੰਦੇ ਹਨ, ਅਤੇ (3) ਮਨੁੱਖ ਗਲਤੀ ਨੂੰ ਫੜ ਸਕਦਾ ਸੀ। ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਕਰਨਾ ਅਸੰਭਵ ਅਤੇ ਅਣਚਾਹੇ ਦੋਵੇਂ ਹੋਵੇਗਾ—ਇਸ ਲਈ ਅਸੰਭਵ ਚੌਕਸੀ ਦੀ ਲੋੜ ਹੋਵੇਗੀ ਜੋ ਆਟੋਮੇਸ਼ਨ ਦੇ ਲਾਭਾਂ ਨੂੰ ਨਕਾਰ ਦੇਵੇਗੀ। ਟੀਚਾ ਕੈਲੀਬਰੇਟਿਡ ਵਿਸ਼ਵਾਸ (calibrated trust) ਹੈ, ਜ਼ੀਰੋ ਵਿਸ਼ਵਾਸ (zero trust) ਨਹੀਂ।

8. ਸਵੈ-ਮੁਲਾਂਕਣ: ਕੀ ਤੁਹਾਡੇ ਕੋਲ ਇਹ ਪੱਖਪਾਤ ਹੈ?

8.1. ਚੇਤਾਵਨੀ ਸੰਕੇਤ ਚੈੱਕਲਿਸਟ

• ਮੈਂ ਅਕਸਰ ਇਹ ਜਾਂਚ ਕੀਤੇ ਬਿਨਾਂ GPS ਦਿਸ਼ਾਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹਾਂ ਕਿ ਕੀ ਉਹ ਮੇਰੀ ਮੰਜ਼ਿਲ ਲਈ ਵਾਜਬ ਹਨ।
• ਮੈਂ ਸਪੈੱਲ-ਚੈੱਕ ਅਤੇ ਵਿਆਕਰਣ ਟੂਲਸ (grammar tools) ਦੇ ਸੁਝਾਵਾਂ ਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਬਿਨਾਂ ਉਹਨਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦਾ ਹਾਂ।
• ਜਦੋਂ ਇੱਕ ਕੈਲਕੁਲੇਟਰ ਕੋਈ ਜਵਾਬ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਮੈਂ ਸ਼ਾਇਦ ਹੀ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦਾ ਹਾਂ ਕਿ ਕੀ ਇਹ ਵਾਜਬ ਲੱਗਦਾ ਹੈ।
• ਮੈਂ ਖੋਜ ਇੰਜਨ (search engine) ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਪਹਿਲੇ ਪੰਨੇ 'ਤੇ ਇਹ ਸੋਚੇ ਬਿਨਾਂ ਸਵੀਕਾਰ ਕਰਦਾ ਹਾਂ ਕਿ ਉਹਨਾਂ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਕਿਉਂ ਦਰਜਾ ਦਿੱਤਾ ਗਿਆ ਹੈ।
• ਮੈਂ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕੀਤੀ ਹੈ ਜੋ ਗਲਤ ਨਿਕਲੀਆਂ ਕਿਉਂਕਿ ਮੈਂ ਉਹਨਾਂ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤੀ।
• ਜਦੋਂ ਸੌਫਟਵੇਅਰ ਕੋਈ ਗਲਤੀ ਸੁਨੇਹਾ (error message) ਦਿੰਦਾ ਹੈ, ਤਾਂ ਮੈਂ ਮੰਨਦਾ ਹਾਂ ਕਿ ਕੀ ਗਲਤ ਹੋਇਆ ਹੈ ਇਸ ਬਾਰੇ ਸੌਫਟਵੇਅਰ ਸਹੀ ਹੈ।
• ਜਦੋਂ ਮੇਰੇ ਆਮ ਸਵੈਚਲਿਤ ਟੂਲ ਉਪਲਬਧ ਨਹੀਂ ਹੁੰਦੇ ਤਾਂ ਮੈਨੂੰ ਕੰਮ ਪੂਰੇ ਕਰਨ ਵਿੱਚ ਮੁਸ਼ਕਲ ਆਉਂਦੀ ਹੈ।
• ਮੈਂ ਸਵੈਚਲਿਤ ਸੁਝਾਵਾਂ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨ ਵਿੱਚ ਅਸਹਿਜ ਮਹਿਸੂਸ ਕਰਦਾ ਹਾਂ ਭਾਵੇਂ ਮੇਰਾ ਨਿਰਣਾ ਵੱਖਰਾ ਹੋਵੇ।
• ਮੈਂ ਇਹ ਕਹਿ ਕੇ ਇੱਕ ਮਾੜੇ ਨਤੀਜੇ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਇਆ ਹੈ "ਪਰ ਸਿਸਟਮ ਨੇ ਅਜਿਹਾ ਕਰਨ ਲਈ ਕਿਹਾ ਸੀ"।
• ਮੈਂ AI ਚੈਟਬੋਟਸ (chatbots) ਦੇ ਆਊਟਪੁੱਟਾਂ 'ਤੇ ਉਹਨਾਂ ਦੇ ਦਾਅਵਿਆਂ ਦੀ ਤੱਥ-ਜਾਂਚ (fact-checking) ਕੀਤੇ ਬਿਨਾਂ ਭਰੋਸਾ ਕਰਦਾ ਹਾਂ।

ਸਕੋਰਿੰਗ:

• 0-2 ਸਹੀ ਕੀਤੇ ਗਏ: ਘੱਟ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (Low susceptibility)
• 3-5 ਸਹੀ ਕੀਤੇ ਗਏ: ਦਰਮਿਆਨੀ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (Moderate susceptibility)
• 6-8 ਸਹੀ ਕੀਤੇ ਗਏ: ਉੱਚ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (High susceptibility)
• 9-10 ਸਹੀ ਕੀਤੇ ਗਏ: ਬਹੁਤ ਉੱਚ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (Very high susceptibility)

8.2. ਸਵੈ-ਪ੍ਰਤੀਬਿੰਬ (Self-Reflection) ਪ੍ਰਸ਼ਨ

1. ਇੱਕ ਤਾਜ਼ਾ ਫੈਸਲੇ ਬਾਰੇ ਸੋਚੋ ਜੋ ਤੁਸੀਂ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ ਦੇ ਆਧਾਰ 'ਤੇ ਕੀਤਾ ਹੈ। ਕੀ ਤੁਸੀਂ ਕਾਰਵਾਈ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਸ ਸਿਫ਼ਾਰਸ਼ ਦੇ ਕਿਸੇ ਪਹਿਲੂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ? ਕਿਉਂ ਜਾਂ ਕਿਉਂ ਨਹੀਂ?

2. ਕੀ ਤੁਸੀਂ ਅਜਿਹਾ ਸਮਾਂ ਯਾਦ ਕਰ ਸਕਦੇ ਹੋ ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਸੀ ਪਰ ਤੁਸੀਂ ਫਿਰ ਵੀ ਇਸਦਾ ਪਾਲਣ ਕੀਤਾ? ਕਿਸ ਗੱਲ ਨੇ ਤੁਹਾਨੂੰ ਆਪਣੇ ਫੈਸਲੇ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਰੋਕਿਆ?

3. ChatGPT ਵਰਗੇ AI ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਸਮੇਂ, ਤੁਸੀਂ ਪ੍ਰਦਾਨ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਦੀ ਸ਼ੁੱਧਤਾ ਦੀ ਪੁਸ਼ਟੀ ਕਿਵੇਂ ਕਰਦੇ ਹੋ? ਕੀ ਤੁਸੀਂ ਕਦੇ ਕੋਈ ਗਲਤੀ ਫੜੀ ਹੈ?

4. ਜੇਕਰ ਤੁਹਾਡੇ ਮੁੱਖ ਸਵੈਚਲਿਤ ਟੂਲ (GPS, ਸਪੈੱਲ-ਚੈੱਕ, ਖੋਜ ਇੰਜਨ, ਕੈਲਕੁਲੇਟਰ) ਇੱਕ ਹਫ਼ਤੇ ਲਈ ਅਣਉਪਲਬਧ ਸਨ ਤਾਂ ਤੁਹਾਡਾ ਵਰਕਫਲੋ ਕਿਵੇਂ ਬਦਲੇਗਾ?

5. ਕੀ ਸਹਿਕਰਮੀਆਂ, ਦੋਸਤਾਂ, ਜਾਂ ਪਰਿਵਾਰ ਨੇ ਕਦੇ ਇਸ਼ਾਰਾ ਕੀਤਾ ਹੈ ਕਿ ਤੁਸੀਂ ਉਹਨਾਂ ਫੈਸਲਿਆਂ ਲਈ ਤਕਨਾਲੋਜੀ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰਦੇ ਹੋ ਜੋ ਤੁਸੀਂ ਖੁਦ ਲੈ ਸਕਦੇ ਹੋ?

8.3. ਤੇਜ਼ ਡਾਇਗਨੌਸਟਿਕ ਦ੍ਰਿਸ਼ (Quick Diagnostic Scenario)

ਦ੍ਰਿਸ਼: ਤੁਸੀਂ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਰਿਪੋਰਟ ਦਾ ਖਰੜਾ (draft) ਤਿਆਰ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਇੱਕ AI ਸਹਾਇਕ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹੋ। AI ਇੱਕ ਅੰਕੜਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜੋ ਤੁਹਾਡੀ ਦਲੀਲ ਦਾ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਮਰਥਨ ਕਰਦਾ ਹੈ: "ਅਧਿਐਨ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਇਸ ਪਹੁੰਚ ਨੂੰ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ 78% ਸੰਸਥਾਵਾਂ ਨੇ ਨਤੀਜਿਆਂ ਵਿੱਚ 40% ਸੁਧਾਰ ਦੇਖਿਆ।" ਅੰਕੜਾ ਮੰਨਣਯੋਗ ਲੱਗਦਾ ਹੈ ਅਤੇ ਤੁਹਾਡੀ ਕਹਾਣੀ ਦੇ ਅਨੁਕੂਲ ਹੈ। ਤੁਸੀਂ ਸਮੇਂ ਦੇ ਦਬਾਅ ਹੇਠ ਹੋ।

ਤੁਸੀਂ ਕਿਵੇਂ ਜਵਾਬ ਦਿਓਗੇ?

• A) ਅੰਕੜੇ ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਸ਼ਾਮਲ ਕਰੋ—ਇਹ ਪ੍ਰਮਾਣਿਕ ਲੱਗਦਾ ਹੈ ਅਤੇ AI ਪਹਿਲਾਂ ਵੀ ਭਰੋਸੇਯੋਗ ਰਿਹਾ ਹੈ → ਉੱਚ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (High susceptibility)
• B) ਅੰਕੜੇ ਨੂੰ ਸ਼ਾਮਲ ਕਰੋ ਪਰ ਬਿਨਾਂ ਪੁਸ਼ਟੀ ਕੀਤੇ "ਖੋਜ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ" ਵਰਗੀ ਬਚਾਅ ਵਾਲੀ ਭਾਸ਼ਾ ਸ਼ਾਮਲ ਕਰੋ → ਦਰਮਿਆਨੀ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (Moderate susceptibility)
• C) ਇਸ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਕੜੇ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਮੂਲ ਸਰੋਤ ਦੀ ਖੋਜ ਕਰੋ, ਇਹ ਸਵੀਕਾਰ ਕਰਦੇ ਹੋਏ ਕਿ ਤੁਹਾਨੂੰ ਆਪਣੀ ਸਮਾਂ-ਸੀਮਾ (deadline) ਨੂੰ ਸੋਧਣ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ → ਘੱਟ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (Low susceptibility)

9. ਦੂਜਿਆਂ ਵਿੱਚ ਇਸ ਪੱਖਪਾਤ ਦੀ ਪਛਾਣ ਕਰਨਾ

9.1. ਵਿਵਹਾਰ ਸੰਬੰਧੀ ਸੂਚਕ (Behavioral Indicators)

ਬੋਲਣ ਵਿੱਚ ਨਜ਼ਰ ਆਉਣ ਵਾਲੇ ਸੰਕੇਤ:

• ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਦੇ ਤੌਰ 'ਤੇ ਵਾਰ-ਵਾਰ ਇਹ ਕਹਿਣਾ "ਸਿਸਟਮ ਕਹਿੰਦਾ ਹੈ" ਜਾਂ "ਐਲਗੋਰਿਦਮ ਸਿਫ਼ਾਰਸ਼ ਕਰਦਾ ਹੈ"
• ਸਵੈਚਲਿਤ ਸੁਝਾਵਾਂ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨ ਲਈ ਕਹੇ ਜਾਣ 'ਤੇ ਬੇਅਰਾਮੀ ਪ੍ਰਗਟ ਕਰਨਾ
• ਆਪਣੀ ਮੁਹਾਰਤ ਦੇ ਦਾਇਰੇ ਵਿੱਚ ਆਉਣ ਵਾਲੇ ਫੈਸਲਿਆਂ ਲਈ ਵੀ ਇਹ ਕਹਿਣ ਦੀ ਆਦਤ ਪਾਉਣਾ "ਮੈਨੂੰ ਦੇਖਣ ਦਿਓ ਕਿ ਕੰਪਿਊਟਰ ਕੀ ਕਹਿੰਦਾ ਹੈ"

ਫੈਸਲੇ ਲੈਣ ਦੇ ਪੈਟਰਨ:

• ਬਿਨਾਂ ਸਵਾਲ ਕੀਤੇ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦਾ ਲਗਾਤਾਰ ਪਾਲਣ ਕਰਨਾ
• ਸਵੈਚਲਿਤ ਟੂਲ ਉਪਲਬਧ ਨਾ ਹੋਣ 'ਤੇ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸੰਘਰਸ਼ ਕਰਨਾ
• ਆਪਣੀ ਖੁਦ ਦੀ ਤਸਦੀਕ ਪ੍ਰਕਿਰਿਆ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਬਜਾਏ ਸਿਸਟਮ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਦੋਸ਼ੀ ਠਹਿਰਾਉਣਾ

ਸਰੀਰਕ ਭਾਸ਼ਾ ਦੇ ਸੰਕੇਤ (Body language cues):

• ਵਿਅਕਤੀਗਤ ਚਰਚਾਵਾਂ ਦੌਰਾਨ ਵੀ ਪ੍ਰਮਾਣਿਕਤਾ (validation) ਲਈ ਸਕ੍ਰੀਨਾਂ ਵੱਲ ਮੁੜਨਾ
• ਸਵੈਚਲਿਤ ਸਲਾਹ ਦੇ ਵਿਰੁੱਧ ਕੰਮ ਕਰਨ ਲਈ ਕਹੇ ਜਾਣ 'ਤੇ ਸਰੀਰਕ ਤਣਾਅ
• ਜਦੋਂ ਸਵੈਚਲਿਤ ਸਿਸਟਮ ਉਹਨਾਂ ਦੇ ਫੈਸਲਿਆਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੇ ਹਨ ਤਾਂ ਆਰਾਮ ਮਹਿਸੂਸ ਕਰਨਾ

ਗੱਲਬਾਤ ਵਿੱਚ ਵਾਰ-ਵਾਰ ਆਉਣ ਵਾਲੇ ਵਿਸ਼ੇ:

• ਤਕਨਾਲੋਜੀ ਦੀ ਸ਼ੁੱਧਤਾ ਵਿੱਚ ਉੱਚ ਵਿਸ਼ਵਾਸ ਪ੍ਰਗਟ ਕਰਨਾ
• ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਗਲਤੀਆਂ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਦੁਰਲੱਭ ਐਜ ਕੇਸ (edge cases) ਮੰਨ ਕੇ ਘੱਟ ਕਰਨਾ
• "ਉਦੇਸ਼ਪੂਰਨ" (objective) ਐਲਗੋਰਿਦਮ ਦੇ ਮੁਕਾਬਲੇ ਮਨੁੱਖੀ ਨਿਰਣੇ ਨੂੰ "ਪੱਖਪਾਤੀ" ਵਜੋਂ ਖਾਰਜ ਕਰਨਾ

9.2. ਗੱਲਬਾਤ ਦੇ ਲਾਲ ਝੰਡੇ (Conversational Red Flags)

ਵਾਕੰਸ਼ ਜੋ ਲੋਕ ਇਸ ਪੱਖਪਾਤ ਦੇ ਅਧੀਨ ਕਹਿੰਦੇ ਹਨ:

• "ਕੰਪਿਊਟਰ ਗਲਤੀਆਂ ਨਹੀਂ ਕਰਦਾ"
• "ਮੈਂ ਸਿਰਫ਼ ਉਸ ਦਾ ਪਾਲਣ ਕਰ ਰਿਹਾ ਹਾਂ ਜੋ ਸਿਸਟਮ ਨੇ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ ਹੈ"
• "ਡੇਟਾ ਦਰਸਾਉਂਦਾ ਹੈ..." (ਡੇਟਾ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ)
• "ਮੈਂ AI 'ਤੇ ਦੁਬਾਰਾ ਸਵਾਲ ਕਿਉਂ ਕਰਾਂਗਾ? ਇਸ ਨੂੰ ਲੱਖਾਂ ਉਦਾਹਰਣਾਂ 'ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਹੈ"
• "ਇਹ ਸਹੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ—ਦੇਖੋ ਆਊਟਪੁੱਟ ਕਿੰਨਾ ਭਰੋਸੇਮੰਦ ਹੈ"

ਦਲੀਲਾਂ ਦੀਆਂ ਕਿਸਮਾਂ ਜੋ ਉਹ ਬਣਾਉਂਦੇ ਹਨ:

• ਮੌਜੂਦਾ ਸ਼ੁੱਧਤਾ ਦੇ ਸਬੂਤ ਵਜੋਂ ਸਿਸਟਮ ਦੀ ਪਿਛਲੀ ਭਰੋਸੇਯੋਗਤਾ ਦੀਆਂ ਅਪੀਲਾਂ
• ਵਿਰੋਧੀ ਜਾਣਕਾਰੀ ਨੂੰ "ਅਸੰਗਤੀਆਂ" (anomalies) ਜਾਂ "ਉਪਭੋਗਤਾ ਦੀ ਗਲਤੀ" (user error) ਵਜੋਂ ਖਾਰਜ ਕਰਨਾ
• ਆਟੋਮੇਸ਼ਨ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਸੰਭਾਵੀ ਅਨੁਮਾਨਾਂ ਦੀ ਬਜਾਏ ਉਦੇਸ਼ਪੂਰਨ ਤੱਥਾਂ ਵਜੋਂ ਮੰਨਣਾ

ਸਵਾਲ ਜੋ ਉਹ ਪੁੱਛਣ ਤੋਂ ਬਚਦੇ ਹਨ:

• "ਇਸ ਸਿਸਟਮ ਦੀਆਂ ਸੀਮਾਵਾਂ ਕੀ ਹਨ?"
• "ਕਿਹੜੇ ਹਾਲਾਤਾਂ ਵਿੱਚ ਇਹ ਸਿਫ਼ਾਰਸ਼ ਗਲਤ ਹੋ ਸਕਦੀ ਹੈ?"
• "ਜੇ ਮੇਰੇ ਕੋਲ ਇਹ ਸਵੈਚਲਿਤ ਟੂਲ ਨਾ ਹੁੰਦਾ ਤਾਂ ਮੈਂ ਕੀ ਫੈਸਲਾ ਕਰਾਂਗਾ?"

9.3. ਸਥਿਤੀ ਸੰਬੰਧੀ ਟ੍ਰਿਗਰਜ਼ (Situational Triggers)

ਹਾਲਾਤ ਜੋ ਇਸ ਪੱਖਪਾਤ ਨੂੰ ਸਰਗਰਮ ਕਰਦੇ ਹਨ:

• ਸਮੇਂ ਦਾ ਦਬਾਅ ਜੋ ਤਸਦੀਕ ਨੂੰ ਨਿਰਾਸ਼ ਕਰਦਾ ਹੈ
• ਕਈ ਕਾਰਜਾਂ ਤੋਂ ਉੱਚ ਬੋਧਾਤਮਕ ਬੋਝ (High cognitive load)
• ਥਕਾਵਟ ਜਾਂ ਫੈਸਲੇ ਲੈਣ ਦੀ ਥਕਾਵਟ (decision fatigue)
• ਜਦੋਂ ਤਸਦੀਕ ਲਈ ਵਿਸ਼ੇਸ਼ ਗਿਆਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
• ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਅਤੀਤ ਵਿੱਚ ਭਰੋਸੇਯੋਗ ਰਿਹਾ ਹੈ

ਵਾਤਾਵਰਣ ਦੇ ਕਾਰਕ (Environmental factors):

• ਕੰਮ ਵਾਲੀ ਥਾਂ ਦੇ ਸੱਭਿਆਚਾਰ ਜੋ ਆਟੋਮੇਸ਼ਨ ਅਤੇ ਕੁਸ਼ਲਤਾ ਦਾ ਜਸ਼ਨ ਮਨਾਉਂਦੇ ਹਨ
• ਸਿਖਲਾਈ ਪ੍ਰੋਗਰਾਮ ਜੋ ਨਿਰਣੇ ਨਾਲੋਂ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ
• ਫੀਡਬੈਕ ਲੂਪਸ ਦੀ ਘਾਟ ਜੋ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ ਆਟੋਮੇਸ਼ਨ ਕਦੋਂ ਗਲਤ ਸੀ
• ਵਿਸ਼ਵਾਸ ਦੇ ਪੱਧਰਾਂ ਬਾਰੇ ਪਾਰਦਰਸ਼ਤਾ (transparency) ਤੋਂ ਬਿਨਾਂ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਸਿਸਟਮ

ਭਾਵਨਾਤਮਕ ਸਥਿਤੀਆਂ ਜੋ ਕਮਜ਼ੋਰੀ ਨੂੰ ਵਧਾਉਂਦੀਆਂ ਹਨ:

• ਤਣਾਅ ਅਤੇ ਚਿੰਤਾ (ਨਿਸ਼ਚਤਤਾ ਦੀ ਭਾਲ ਵਿੱਚ)
• ਬੋਝ ਮਹਿਸੂਸ ਕਰਨਾ (ਬੋਧਾਤਮਕ ਰਾਹਤ ਦੀ ਮੰਗ ਕਰਨਾ)
• ਇਮਪੋਸਟਰ ਸਿੰਡਰੋਮ (Imposter syndrome) (ਆਪਣੇ ਆਪ ਨਾਲੋਂ "ਮਾਹਰ" ਪ੍ਰਣਾਲੀਆਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ)
• ਆਰਾਮ ਅਤੇ ਸੰਤੁਸ਼ਟੀ (ਚੀਜ਼ਾਂ ਠੀਕ ਚੱਲ ਰਹੀਆਂ ਹਨ)

ਸਮਾਜਿਕ ਸੰਦਰਭ ਜੋ ਪੱਖਪਾਤ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ:

• ਸਮੂਹ ਸੈਟਿੰਗਾਂ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਸਵਾਲ ਉਠਾਉਣ ਨਾਲ ਚੀਜ਼ਾਂ ਹੌਲੀ ਹੁੰਦੀਆਂ ਪ੍ਰਤੀਤ ਹੁੰਦੀਆਂ ਹਨ
• ਦਰਜੇਬੰਦੀ (Hierarchies) ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਪ੍ਰਬੰਧਨ ਫੈਸਲਿਆਂ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ
• ਪੇਸ਼ੇਵਰ ਸੰਦਰਭ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਨੂੰ "ਸਭ ਤੋਂ ਵਧੀਆ ਅਭਿਆਸ" (best practice) ਵਜੋਂ ਦੇਖਿਆ ਜਾਂਦਾ ਹੈ

ਸਮੇਂ ਦੇ ਦਬਾਅ ਜੋ ਇਸਨੂੰ ਹੋਰ ਵਿਗਾੜਦੇ ਹਨ:

• ਸਮਾਂ-ਸੀਮਾਵਾਂ (Deadlines) ਜੋ ਤਸਦੀਕ ਲਈ ਸਮਾਂ ਨਹੀਂ ਦਿੰਦੀਆਂ
• ਰੀਅਲ-ਟਾਈਮ ਫੈਸਲੇ (ਵਪਾਰ, ਡਾਕਟਰੀ ਐਮਰਜੈਂਸੀ, ਹਵਾਬਾਜ਼ੀ)
• ਉੱਚ-ਆਵਾਜ਼ ਵਾਲੀ (High-volume) ਪ੍ਰੋਸੈਸਿੰਗ ਜਿੱਥੇ ਵਿਅਕਤੀਗਤ ਸਮੀਖਿਆ ਅਵਿਵਹਾਰਕ (impractical) ਹੈ

10. ਬੋਧਾਤਮਕ ਪੱਖਪਾਤ ਦੂਰ ਕਰਨ ਦੀਆਂ ਰਣਨੀਤੀਆਂ (Cognitive Debiasing Strategies)

10.1. ਤੁਰੰਤ ਤਕਨੀਕਾਂ

ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਤੁਰੰਤ ਮਾਨਸਿਕ ਜਾਂਚਾਂ:

• "ਕੀ ਇਹ ਆਊਟਪੁੱਟ ਸਮੈੱਲ ਟੈਸਟ (smell test) ਪਾਸ ਕਰਦਾ ਹੈ?" ਇਹ ਵਿਚਾਰ ਕਰਨ ਲਈ ਰੁਕੋ ਕਿ ਕੀ ਸਿਫ਼ਾਰਸ਼ ਅਨੁਭਵੀ ਤੌਰ 'ਤੇ (intuitively) ਵਾਜਬ ਲੱਗਦੀ ਹੈ।
• "ਗਲਤ ਹੋਣ ਦੀ ਕੀਮਤ ਕੀ ਹੈ?" ਉੱਚੇ ਦਾਅ (Higher stakes) ਵਧੇਰੇ ਤਸਦੀਕ ਦੀ ਵਾਰੰਟੀ ਦਿੰਦੇ ਹਨ।
• "ਕੀ ਇਹ ਉਸ ਕਿਸਮ ਦੀ ਚੀਜ਼ ਹੈ ਜਿਸ ਵਿੱਚ ਸਿਸਟਮ ਚੰਗਾ ਹੈ?" ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਡੋਮੇਨ ਸੀਮਾਵਾਂ ਹੁੰਦੀਆਂ ਹਨ।

ਆਪਣੇ ਆਪ ਨੂੰ ਉਸੇ ਸਮੇਂ ਪੁੱਛਣ ਵਾਲੇ ਸਵਾਲ:

• "ਮੈਂ ਇਸ ਆਟੋਮੇਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਕੀ ਫੈਸਲਾ ਕਰਾਂਗਾ?"
• "ਕਿਹੜੇ ਸਬੂਤ ਇਸ ਸਿਫ਼ਾਰਸ਼ ਦਾ ਖੰਡਨ ਕਰਦੇ ਹਨ?"
• "ਸਿਸਟਮ ਦਾ ਵਿਸ਼ਵਾਸ ਪੱਧਰ ਕੀ ਹੈ, ਅਤੇ ਕੀ ਇਹ ਅਨਿਸ਼ਚਿਤਤਾ (uncertainty) ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ?"
• "ਆਖਰੀ ਵਾਰ ਕਦੋਂ ਮੈਂ ਕਿਸੇ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਸੀ?"

ਪੱਖਪਾਤ ਨੂੰ ਤੋੜਨ ਲਈ ਪੈਟਰਨ ਰੁਕਾਵਟਾਂ (Pattern interrupts):

• ਸਵੀਕਾਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਉੱਚੀ ਆਵਾਜ਼ ਵਿੱਚ ਇੱਕ ਕਾਰਨ ਦੱਸੋ ਕਿ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਕਿਉਂ ਹੋ ਸਕਦੀ ਹੈ
• ਅੱਗੇ ਵਧਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਵਿਕਲਪਿਕ ਸਰੋਤ ਦੀ ਜਾਂਚ ਕਰੋ
• ਸਿਫ਼ਾਰਸ਼ ਪ੍ਰਾਪਤ ਕਰਨ ਅਤੇ ਕਾਰਵਾਈ ਕਰਨ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਸੰਖੇਪ "ਕੂਲਿੰਗ ਆਫ" (cooling off) ਪੀਰੀਅਡ ਲਗਾਓ
• ਫੈਸਲੇ 'ਤੇ ਵਿਚਾਰ ਕਰਨ ਲਈ ਸਰੀਰਕ ਤੌਰ 'ਤੇ ਸਕ੍ਰੀਨ ਤੋਂ ਦੂਰ ਮੁੜੋ

ਅੰਗੂਠੇ ਦੇ ਸਧਾਰਨ ਨਿਯਮ (Simple rules of thumb):

• 5-ਸਕਿੰਟ ਦਾ ਨਿਯਮ: ਸਵੀਕਾਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਵਿਕਲਪਾਂ 'ਤੇ ਵਿਚਾਰ ਕਰਨ ਲਈ ਘੱਟੋ-ਘੱਟ 5 ਸਕਿੰਟ ਬਿਤਾਓ
• "100x ਨਤੀਜਾ" ਨਿਯਮ: ਜੇਕਰ ਗਲਤ ਹੋਣ ਨਾਲ ਤਸਦੀਕ ਕਰਨ ਦੇ ਯਤਨਾਂ ਤੋਂ 100 ਗੁਣਾ ਵੱਧ ਖਰਚਾ ਆਵੇਗਾ, ਤਾਂ ਤਸਦੀਕ ਕਰੋ
• "ਸੰਦੇਹਵਾਦੀ ਨੂੰ ਸਮਝਾਉਣ ਦਾ" ਨਿਯਮ: ਕੀ ਤੁਸੀਂ ਕਿਸੇ ਅਜਿਹੇ ਵਿਅਕਤੀ ਅੱਗੇ ਇਸ ਫੈਸਲੇ ਦਾ ਬਚਾਅ ਕਰ ਸਕਦੇ ਹੋ ਜੋ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਭਰੋਸਾ ਨਹੀਂ ਕਰਦਾ?

10.2. ਲੰਮੀ ਮਿਆਦ ਦੀਆਂ ਰਣਨੀਤੀਆਂ

ਸਮੇਂ ਦੇ ਨਾਲ ਵਿਕਸਤ ਕਰਨ ਦੀਆਂ ਆਦਤਾਂ:

• ਹੁਨਰਾਂ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਲਈ ਸਵੈਚਲਿਤ ਸਹਾਇਤਾ ਤੋਂ ਬਿਨਾਂ ਕਾਰਜਾਂ ਦਾ ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਅਭਿਆਸ ਕਰੋ
• ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਗਲਤੀਆਂ ਦਾ ਇੱਕ ਲੌਗ (log) ਰੱਖੋ ਜੋ ਤੁਸੀਂ ਫੜਦੇ ਹੋ (ਇਹ ਕਮਜ਼ੋਰੀ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ)
• ਬੇਤਰਤੀਬ ਨਮੂਨੇ (random sample) ਦੀ ਜਾਂਚ ਕਰਕੇ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦਾ ਆਡਿਟ (audit) ਕਰੋ
• ਤਸਦੀਕ ਨੂੰ ਵਿਕਲਪਿਕ ਮੰਨਣ ਦੀ ਬਜਾਏ ਇਸਨੂੰ ਮਿਆਰੀ ਵਰਕਫਲੋ (workflows) ਵਿੱਚ ਸ਼ਾਮਲ ਕਰੋ

ਮਾਨਸਿਕਤਾ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦੀ ਲੋੜ:

• ਆਟੋਮੇਸ਼ਨ ਨੂੰ "ਸੰਭਾਵੀ ਅਨੁਮਾਨਕ" (probabilistic estimator) ਵਜੋਂ ਦੇਖੋ, ਨਾ ਕਿ "ਸੱਚ ਦੇ ਇੰਜਣ" ਵਜੋਂ
• ਉਚਿਤ ਸੰਦੇਹਵਾਦ ਨੂੰ ਪੇਸ਼ੇਵਰਤਾ (professionalism) ਵਜੋਂ ਅਪਣਾਓ, ਬੇਭਰੋਸਗੀ ਵਜੋਂ ਨਹੀਂ
• ਇਹ ਪਛਾਣੋ ਕਿ ਮਨੁੱਖੀ ਭੂਮਿਕਾ ਉਹਨਾਂ ਮਾਮਲਿਆਂ ਨੂੰ ਸੰਭਾਲਣਾ ਹੈ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਅਸਫਲ ਹੋ ਜਾਂਦੀ ਹੈ
• ਸਵੀਕਾਰ ਕਰੋ ਕਿ ਤਸਦੀਕ ਕੀਮਤੀ ਹੈ, ਬਰਬਾਦ ਕੀਤਾ ਗਿਆ ਯਤਨ ਨਹੀਂ

ਲਾਗੂ ਕਰਨ ਲਈ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਪ੍ਰਕਿਰਿਆਵਾਂ:

• ਚੈਕਲਿਸਟਾਂ (checklists) ਬਣਾਓ ਜਿਨ੍ਹਾਂ ਲਈ ਸਵੈਚਲਿਤ ਕਾਰਵਾਈਆਂ ਤੋਂ ਪਹਿਲਾਂ ਸੁਤੰਤਰ ਤਸਦੀਕ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
• "ਰੈੱਡ ਟੀਮ" (red team) ਪ੍ਰਕਿਰਿਆਵਾਂ ਸਥਾਪਤ ਕਰੋ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਗਲਤੀਆਂ ਲੱਭਣਾ ਕਿਸੇ ਦਾ ਕੰਮ ਹੈ
• ਅਜਿਹੇ ਵਰਕਫਲੋ ਡਿਜ਼ਾਈਨ ਕਰੋ ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਸੁਝਾਅ ਸ਼ੁਰੂਆਤੀ ਮਨੁੱਖੀ ਮੁਲਾਂਕਣ ਤੋਂ ਬਾਅਦ ਪ੍ਰਾਪਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ
• ਫੀਡਬੈਕ ਲੂਪ (feedback loops) ਬਣਾਓ ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੂਚਿਤ ਕਰਦੇ ਹਨ ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਸੀ

ਅਭਿਆਸ ਅਤੇ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਹੁਨਰ:

• ਡੋਮੇਨ ਮੁਹਾਰਤ (ਤਾਂ ਜੋ ਤੁਸੀਂ ਅਸੰਭਵ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਪਛਾਣ ਸਕੋ)
• ਮਾਨਸਿਕ ਅਨੁਮਾਨ ਅਤੇ ਵਿਵਹਾਰਕਤਾ ਦੀ ਜਾਂਚ (sanity-checking)
• ਸਰੋਤ ਤਸਦੀਕ ਅਤੇ ਖੋਜ ਹੁਨਰ
• ਮੈਟਾਕੋਗਨਿਸ਼ਨ (Metacognition)—ਤੁਹਾਡੀਆਂ ਆਪਣੀਆਂ ਬੋਧਾਤਮਕ ਪ੍ਰਕਿਰਿਆਵਾਂ ਬਾਰੇ ਜਾਗਰੂਕਤਾ

10.3. ਵਾਤਾਵਰਣ ਸੰਬੰਧੀ ਡਿਜ਼ਾਈਨ

ਇਸ ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਆਪਣੇ ਵਾਤਾਵਰਣ ਨੂੰ ਕਿਵੇਂ ਢਾਂਚਾਗਤ ਕਰਨਾ ਹੈ:

• ਅਨਿਸ਼ਚਿਤਤਾ (ਸੰਭਾਵਨਾ ਰੇਂਜ, ਵਿਸ਼ਵਾਸ ਦੇ ਅੰਤਰਾਲ) ਨੂੰ ਦਰਸਾਉਣ ਲਈ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਕੌਂਫਿਗਰ ਕਰੋ
• ਅਜਿਹੇ ਇੰਟਰਫੇਸ ਡਿਜ਼ਾਈਨ ਕਰੋ ਜਿਨ੍ਹਾਂ ਦੀ ਵਰਤੋਂ ਤੋਂ ਪਹਿਲਾਂ ਸੀਮਾਵਾਂ ਦੀ ਪ੍ਰਵਾਨਗੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
• ਸਵੈਚਲਿਤ ਸਲਾਹ ਅਤੇ ਕਾਰਵਾਈ ਦੇ ਵਿਚਕਾਰ ਭੌਤਿਕ ਜਾਂ ਅਸਥਾਈ ਵੱਖਰਾਪਣ (separation) ਬਣਾਓ
• ਸੰਗਠਨਾਤਮਕ ਨਿਯਮ ਸਥਾਪਿਤ ਕਰੋ ਜੋ ਆਟੋਮੇਸ਼ਨ ਗਲਤੀਆਂ ਨੂੰ ਫੜਨ ਦਾ ਜਸ਼ਨ ਮਨਾਉਂਦੇ ਹਨ

ਭੌਤਿਕ ਤਬਦੀਲੀਆਂ ਜੋ ਮਦਦ ਕਰਦੀਆਂ ਹਨ:

• ਗੈਰ-ਸਵੈਚਲਿਤ ਵਿਕਲਪਾਂ (ਭੌਤਿਕ ਨਕਸ਼ੇ, ਕੈਲਕੁਲੇਟਰ) ਤੱਕ ਪਹੁੰਚ ਬਣਾਈ ਰੱਖੋ
• ਕੰਮ ਦੇ ਖੇਤਰਾਂ ਵਿੱਚ ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਸੀਮਾਵਾਂ ਬਾਰੇ ਰੀਮਾਈਂਡਰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰੋ
• ਤਸਦੀਕ ਸਰੋਤਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਪਹੁੰਚਯੋਗ ਰੱਖੋ

ਸਮਾਜਿਕ ਢਾਂਚੇ ਜੋ ਪੱਖਪਾਤ ਦਾ ਮੁਕਾਬਲਾ ਕਰਦੇ ਹਨ:

• ਮਹੱਤਵਪੂਰਨ ਸਵੈਚਲਿਤ ਫੈਸਲਿਆਂ ਲਈ ਪੀਅਰ ਰਿਵਿਊ (peer review) ਸਥਾਪਤ ਕਰੋ
• ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਸਵਾਲ ਉਠਾਉਣ ਲਈ ਮਨੋਵਿਗਿਆਨਕ ਸੁਰੱਖਿਆ ਬਣਾਓ
• ਉਹਨਾਂ ਮਾਮਲਿਆਂ ਨੂੰ ਪਛਾਣੋ ਅਤੇ ਇਨਾਮ ਦਿਓ ਜਿੱਥੇ ਮਨੁੱਖਾਂ ਨੇ ਆਟੋਮੇਸ਼ਨ ਗਲਤੀਆਂ ਨੂੰ ਫੜਿਆ
• ਸਿੱਖਣ ਦੇ ਮੌਕਿਆਂ ਵਜੋਂ ਆਟੋਮੇਸ਼ਨ ਅਸਫਲਤਾਵਾਂ ਦੀਆਂ ਕਹਾਣੀਆਂ ਸਾਂਝੀਆਂ ਕਰੋ

ਜਾਣਕਾਰੀ ਪ੍ਰਣਾਲੀਆਂ ਜੋ ਇਸ ਤੋਂ ਬਚਾਉਂਦੀਆਂ ਹਨ:

• ਸੰਭਾਵਨਾ ਅਲਾਰਮ ਡਿਸਪਲੇ (LADs) ਜੋ ਬਾਈਨਰੀ (binary) ਅਲਾਰਮ ਦੀ ਬਜਾਏ ਸੰਭਾਵਨਾ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ
• ਉਹ ਸਿਸਟਮ ਜੋ ਬਾਅਦ ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਲਈ ਆਟੋਮੇਸ਼ਨ ਦੇ ਮਨੁੱਖੀ ਓਵਰਰਾਈਡਜ਼ (overrides) ਨੂੰ ਲੌਗ ਕਰਦੇ ਹਨ
• ਫੀਡਬੈਕ ਸਿਸਟਮ ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਵੇਲੇ ਉਹਨਾਂ ਦੀ ਹਿੱਟ/ਮਿਸ ਦਰ (hit/miss rate) ਬਾਰੇ ਸੂਚਿਤ ਕਰਦੇ ਹਨ
• ਆਟੋਮੇਸ਼ਨ ਸ਼ੁੱਧਤਾ ਦਰਾਂ ਦਿਖਾਉਣ ਵਾਲੇ ਡੈਸ਼ਬੋਰਡ

10.4. ਬਾਹਰੀ ਇਨਪੁਟ (External Input) ਕਦੋਂ ਲੈਣਾ ਹੈ

ਫੈਸਲਿਆਂ ਦੀਆਂ ਕਿਸਮਾਂ ਜਿੱਥੇ ਤੁਹਾਨੂੰ ਦੂਜਿਆਂ ਨਾਲ ਸਲਾਹ-ਮਸ਼ਵਰਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ:

• ਉੱਚ-ਪੱਧਰੀ ਫੈਸਲੇ (ਵਿੱਤੀ, ਡਾਕਟਰੀ, ਕਾਨੂੰਨੀ, ਸੁਰੱਖਿਆ-ਸਬੰਧਤ)
• ਤੁਹਾਡੀ ਡੋਮੇਨ ਮੁਹਾਰਤ ਤੋਂ ਬਾਹਰ ਦੇ ਫੈਸਲੇ
• ਜਦੋਂ ਆਟੋਮੇਸ਼ਨ ਤੁਹਾਡੇ ਅਨੁਭਵ ਦੇ ਉਲਟ ਹੁੰਦੀ ਹੈ ਪਰ ਤੁਸੀਂ ਅਨਿਸ਼ਚਿਤ ਹੁੰਦੇ ਹੋ
• ਵਾਰ-ਵਾਰ ਹੋਣ ਵਾਲੇ ਫੈਸਲੇ ਜਿੱਥੇ ਤੁਸੀਂ ਕਦੇ ਆਟੋਮੇਸ਼ਨ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤੀ

ਮਦਦ ਲਈ ਕਿਸ ਨੂੰ ਪੁੱਛਣਾ ਹੈ:

• ਡੋਮੇਨ ਮਾਹਰ ਜੋ ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਸਮਝਦੇ ਹਨ
• ਸਹਿਕਰਮੀ ਜਿਨ੍ਹਾਂ ਨੇ ਆਟੋਮੇਸ਼ਨ ਅਸਫਲਤਾਵਾਂ ਦਾ ਅਨੁਭਵ ਕੀਤਾ ਹੈ
• ਸੰਦੇਹਵਾਦੀ (Skeptics) ਜੋ ਸਿਫ਼ਾਰਸ਼ ਨੂੰ ਚੁਣੌਤੀ ਦੇਣਗੇ
• ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਵਿੱਚ ਹਿੱਸੇਦਾਰੀ (stake) ਤੋਂ ਬਿਨਾਂ ਸੁਤੰਤਰ ਪਾਰਟੀਆਂ

ਫੀਡਬੈਕ ਲਈ ਬੇਨਤੀਆਂ ਨੂੰ ਕਿਵੇਂ ਤਿਆਰ ਕਰਨਾ ਹੈ:

• "ਸਿਸਟਮ X ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਦਾ ਹੈ। ਕੀ ਤੁਸੀਂ ਇਸ ਨੂੰ ਸਟ੍ਰੈੱਸ-ਟੈਸਟ (stress-test) ਕਰਨ ਵਿੱਚ ਮੇਰੀ ਮਦਦ ਕਰ ਸਕਦੇ ਹੋ?"
• "ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਮੈਂ ਇਸ ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟ ਨੂੰ ਸਵੀਕਾਰ ਕਰਾਂ, ਮੈਨੂੰ ਕੀ ਤਸਦੀਕ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?"
• "ਇੱਥੇ ਆਟੋਮੇਸ਼ਨ ਕੀ ਕਹਿੰਦੀ ਹੈ—ਕੀ ਇਹ ਤੁਹਾਡੇ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ?"

ਸੰਕੇਤ ਕਿ ਤੁਹਾਨੂੰ ਬਾਹਰੀ ਨਜ਼ਰੀਏ ਦੀ ਲੋੜ ਹੈ:

• ਤੁਸੀਂ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਬਿਨਾਂ ਪੁਸ਼ਟੀ ਕੀਤੇ ਸਵੈਚਲਿਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰ ਲਿਆ ਹੈ
• ਮੌਜੂਦਾ ਫੈਸਲੇ ਦੇ ਦਾਅ ਆਮ ਨਾਲੋਂ ਵੱਧ ਹਨ
• ਤੁਸੀਂ ਇੱਕ ਸਿਫ਼ਾਰਸ਼ ਬਾਰੇ ਬੇਚੈਨ ਮਹਿਸੂਸ ਕਰਦੇ ਹੋ ਪਰ ਇਹ ਨਹੀਂ ਦੱਸ ਸਕਦੇ ਕਿਉਂ
• ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਇੱਕ ਨਵੀਂ ਸਥਿਤੀ ਵਿੱਚ ਲਾਗੂ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ

11. ਦਰਸ਼ਕਾਂ ਦੁਆਰਾ ਵਿਸ਼ੇਸ਼ ਸਲਾਹ (Specific Advice by Audience)

11.1. ਡਿਵੈਲਪਰਾਂ/ਇੰਜੀਨੀਅਰਾਂ ਲਈ

• ਅਨਿਸ਼ਚਿਤਤਾ (Uncertainty) ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰੋ: ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟਾਂ ਨੂੰ ਸੰਪੂਰਨ ਤੱਥਾਂ ਵਜੋਂ ਪੇਸ਼ ਨਾ ਕਰੋ। ਵਿਸ਼ਵਾਸ ਸਕੋਰ, ਸੰਭਾਵਨਾਵਾਂ, ਜਾਂ ਸੀਮਾਵਾਂ ਦੇ ਬਿਆਨ ਸ਼ਾਮਲ ਕਰੋ। "AI ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇੱਥੇ 85% ਸੰਭਾਵਨਾ ਹੈ..." "AI ਨੇ ਇਹ ਨਿਰਧਾਰਤ ਕੀਤਾ..." ਨਾਲੋਂ ਬਿਹਤਰ ਹੈ।
• ਰਗੜ (Friction) ਪੇਸ਼ ਕਰੋ: ਉੱਚ-ਦਾਅ (high-stakes) ਵਾਲੇ ਫੈਸਲਿਆਂ ਲਈ, ਸਹਿਮਤ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਵਿਕਲਪਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਜਾਂ ਤਸਦੀਕ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰੋ। 1-ਕਲਿੱਕ (1-click) ਸਵੀਕ੍ਰਿਤੀ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ।
• ਪਾਰਦਰਸ਼ਤਾ (Transparency): ਜਿੱਥੇ ਵੀ ਸੰਭਵ ਹੋਵੇ ਵਿਆਖਿਆਯੋਗਤਾ (explainability) ਪ੍ਰਦਾਨ ਕਰੋ। ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਹ ਦੇਖਣ ਦਿਓ ਕਿ ਸਿਸਟਮ ਆਪਣੇ ਸਿੱਟੇ 'ਤੇ ਕਿਵੇਂ ਪਹੁੰਚਿਆ।
• ਡਿਫੌਲਟਸ (Defaults) ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ: ਆਟੋ-ਐਗਜ਼ੀਕਿਊਟ (auto-execute) ਕਰਨ ਦੀ ਬਜਾਏ ਮਹੱਤਵਪੂਰਨ ਸਿਸਟਮਾਂ ਨੂੰ "ਉਪਭੋਗਤਾ ਨੂੰ ਸੁਝਾਅ" 'ਤੇ ਡਿਫੌਲਟ ਕਰੋ।
• ਨਕਲੀ ਭਰੋਸੇ (Artificial Confidence) ਤੋਂ ਬਚੋ: ਚੈਟਬੋਟਸ ਅਤੇ AI ਸਹਾਇਕਾਂ ਨੂੰ ਉਹਨਾਂ ਚੀਜ਼ਾਂ ਬਾਰੇ ਅਨਿਸ਼ਚਿਤਤਾ (uncertainty) ਪ੍ਰਗਟ ਕਰਨ ਲਈ ਪ੍ਰੋਗਰਾਮ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਉਹ ਨਹੀਂ ਜਾਣਦੇ ਹਨ, ਨਾ ਕਿ ਭਰੋਸੇ ਨਾਲ ਭਰਮ ਪੈਦਾ ਕਰਨ ਦੀ ਬਜਾਏ।

11.2. ਪ੍ਰਬੰਧਕਾਂ/ਕਾਰਜਕਾਰੀ (Executives) ਲਈ

• ਸੱਭਿਆਚਾਰ ਨੂੰ ਇਨਾਮ ਦਿਓ (Reward Culture): ਸੱਭਿਆਚਾਰਕ ਤੌਰ 'ਤੇ ਉਨ੍ਹਾਂ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਇਨਾਮ ਦਿਓ ਜੋ ਆਟੋਮੇਸ਼ਨ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਫੜਦੇ ਹਨ। ਇਸਨੂੰ "ਸਿਸਟਮ ਦੀ ਅਸਫਲਤਾ" ਦੀ ਬਜਾਏ "ਮਨੁੱਖੀ ਸਫਲਤਾ" ਵਜੋਂ ਫਰੇਮ (frame) ਕਰੋ।
• ਸਿਖਲਾਈ ਨਿਵੇਸ਼: ਸਿਰਫ ਇਹ ਨਾ ਸਿਖਾਓ ਕਿ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਕਰਨੀ ਹੈ; ਸਿਖਾਓ ਕਿ ਟੂਲ ਕਿਵੇਂ ਅਸਫਲ ਹੁੰਦਾ ਹੈ। ਟ੍ਰੇਨਿੰਗ ਦੇ ਦੌਰਾਨ ਸਿਮੂਲੇਟ (simulate) ਕੀਤੀਆਂ ਆਟੋਮੇਸ਼ਨ ਅਸਫਲਤਾਵਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰੋ।
• ਮੈਨੂਅਲ ਅਭਿਆਸ: ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਨਿਯਮਤ ਅਭਿਆਸ ਨਿਯਤ ਕਰੋ ਕਿ ਸਟਾਫ ਸਵੈਚਲਿਤ ਸਹਾਇਤਾ ਤੋਂ ਬਿਨਾਂ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ (ਜਿਵੇਂ ਕਿ ਪਾਇਲਟ ਦਸਤੀ ਉਡਾਣਾਂ ਦਾ ਅਭਿਆਸ ਕਰਦੇ ਹਨ)।
• ਜਵਾਬਦੇਹੀ (Accountability) ਢਾਂਚਾ: ਇਹ ਸਪੱਸ਼ਟ ਕਰੋ ਕਿ ਮਨੁੱਖ ਅੰਤਮ ਨਤੀਜੇ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹਨ, ਭਾਵੇਂ ਕੋਈ ਸਵੈਚਲਿਤ ਸਿਸਟਮ ਸ਼ਾਮਲ ਹੋਵੇ।
• ਆਡਿਟ ਪ੍ਰਕਿਰਿਆਵਾਂ: ਬੇਤਰਤੀਬ ਆਡਿਟ (random audits) ਲਾਗੂ ਕਰੋ ਜਿੱਥੇ ਸਵੈਚਲਿਤ ਫੈਸਲਿਆਂ ਦੀ ਹੱਥੀਂ (manually) ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।

11.3. ਮੈਡੀਕਲ ਪੇਸ਼ੇਵਰਾਂ ਲਈ

• ਅਲਾਰਮ ਦੀ ਥਕਾਵਟ (Alert Fatigue) ਦਾ ਪ੍ਰਬੰਧਨ ਕਰੋ: ਸੰਵੇਦਨਸ਼ੀਲਤਾ/ਵਿਸ਼ੇਸ਼ਤਾ (sensitivity/specificity) ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ IT ਨਾਲ ਕੰਮ ਕਰੋ ਤਾਂ ਜੋ ਤੁਸੀਂ ਹਰ ਚੀਜ਼ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨ ਦੀ ਕੰਡੀਸ਼ਨਡ (conditioned) ਆਦਤ ਨਾ ਪਾਓ।
• ਕਲੀਨਿਕਲ ਮੁਲਾਂਕਣ (Clinical Judgment) ਪਹਿਲਾਂ: ਨਿਦਾਨ ਸਹਾਇਤਾ (diagnostic aids) ਦੀ ਸਲਾਹ ਲੈਣ ਤੋਂ ਪਹਿਲਾਂ ਮਰੀਜ਼ ਬਾਰੇ ਆਪਣਾ ਸ਼ੁਰੂਆਤੀ ਮੁਲਾਂਕਣ ਬਣਾਓ। ਆਟੋਮੇਸ਼ਨ ਦੀ ਵਰਤੋਂ ਤੁਹਾਨੂੰ ਐਂਕਰ (anchor) ਕਰਨ ਦੀ ਬਜਾਏ ਤੁਹਾਡੇ ਨਿਰਣੇ ਨੂੰ ਵਧਾਉਣ ਲਈ ਕਰੋ।
• ਅਨੁਕੂਲਤਾ (Inconsistencies) ਦੀ ਜਾਂਚ ਕਰੋ: ਜਦੋਂ ਮਰੀਜ਼ ਦੀ ਪੇਸ਼ਕਾਰੀ ਮਾਨੀਟਰ (monitor) ਰੀਡਿੰਗ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੀ ਹੈ, ਤਾਂ ਹਮੇਸ਼ਾ ਪਹਿਲਾਂ ਮਰੀਜ਼ ਦਾ ਮੁਲਾਂਕਣ ਕਰੋ। ਸੈਂਸਰ ਮਨੁੱਖਾਂ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਵਾਰ ਫੇਲ੍ਹ ਹੁੰਦੇ ਹਨ।
• ਬੇਸਲਾਈਨ ਹੁਨਰ (Baseline Skills) ਬਣਾਈ ਰੱਖੋ: ਲਗਾਤਾਰ ਸਿੱਖਿਆ ਦੁਆਰਾ ਆਪਣੇ ਕਲੀਨਿਕਲ ਨਿਰੀਖਣ (observation) ਅਤੇ ਮੈਨੂਅਲ ਡਾਇਗਨੌਸਟਿਕ (manual diagnostic) ਹੁਨਰਾਂ ਦਾ ਅਭਿਆਸ ਕਰਦੇ ਰਹੋ।

11.4. ਏਵੀਏਸ਼ਨ/ਟ੍ਰਾਂਸਪੋਰਟ ਆਪਰੇਟਰਾਂ ਲਈ

• ਲੂਪ ਵਿੱਚ ਰਹੋ (Stay in the Loop): ਆਟੋਪਾਇਲਟ 'ਤੇ ਹੋਣ 'ਤੇ ਵੀ, ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਸਾਧਨਾਂ (instruments) ਨੂੰ ਸਕੈਨ ਕਰਕੇ ਬੋਧਾਤਮਕ ਤੌਰ 'ਤੇ ਜੁੜੇ ਰਹੋ।
• ਹੱਥੀਂ ਫਲਾਈਟ (Manual Flight) ਦਾ ਅਭਿਆਸ: ਉੱਚ ਕੰਮ ਦੇ ਬੋਝ ਜਾਂ ਐਮਰਜੈਂਸੀ ਦੌਰਾਨ ਮੁਹਾਰਤ ਬਣਾਈ ਰੱਖਣ ਲਈ ਢੁਕਵੇਂ ਹੋਣ 'ਤੇ ਹੱਥਾਂ ਨਾਲ (manually) ਉੱਡਣ/ਡਰਾਈਵ ਕਰਨ ਲਈ ਮੌਕਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰੋ।
• ਆਟੋਮੇਸ਼ਨ ਮੋਡ ਜਾਗਰੂਕਤਾ (Mode Awareness): ਹਮੇਸ਼ਾ ਪੁਸ਼ਟੀ ਕਰੋ ਕਿ ਆਟੋਮੇਸ਼ਨ ਕਿਸ ਮੋਡ (mode) ਵਿੱਚ ਹੈ। ਬਹੁਤ ਸਾਰੇ ਹਾਦਸੇ ਇਸ ਲਈ ਹੁੰਦੇ ਹਨ ਕਿਉਂਕਿ ਆਪਰੇਟਰ ਸੋਚਦੇ ਹਨ ਕਿ ਸਿਸਟਮ ਇੱਕ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ ਜਦੋਂ ਕਿ ਇਹ ਦੂਜਾ ਕਰ ਰਿਹਾ ਹੁੰਦਾ ਹੈ।
• ਗੱਲ ਕਰੋ (Vocalize): ਚਾਲਕ ਦਲ ਦੇ ਨਾਲ ਮਹੱਤਵਪੂਰਨ ਸਵੈਚਲਿਤ ਮੋਡ ਤਬਦੀਲੀਆਂ ਦੀ ਜ਼ਬਾਨੀ ਪੁਸ਼ਟੀ ਕਰੋ।

11.5. ਆਮ ਖਪਤਕਾਰਾਂ ਲਈ (AI ਉਪਭੋਗਤਾ, GPS ਉਪਭੋਗਤਾ, ਆਦਿ)

• AI ਦੀ ਪੁਸ਼ਟੀ ਕਰੋ: ChatGPT ਜਾਂ Claude ਵਰਗੇ LLMs ਨੂੰ "ਤੱਥ ਇੰਜਣ" (fact engines) ਵਜੋਂ ਨਾ ਵਰਤੋ। ਉਹ ਉੱਨਤ ਆਟੋਕੰਪਲੀਟ (autocomplete) ਹਨ ਅਤੇ ਯਕੀਨਨ ਭਰਮ (hallucinate) ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ। ਮਹੱਤਵਪੂਰਨ ਦਾਅਵਿਆਂ ਦੀ ਹਮੇਸ਼ਾ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਪੁਸ਼ਟੀ ਕਰੋ।
• ਰੂਟਾਂ ਦਾ ਪ੍ਰੀ-ਅਸੈਸਮੈਂਟ (Pre-assess routes): GPS ਸੁਝਾਵਾਂ ਦੀ ਅੰਨ੍ਹੇਵਾਹ ਪਾਲਣਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਯਾਤਰਾ ਦੀ ਸਮੁੱਚੀ ਦਿਸ਼ਾ ਅਤੇ ਤਰਕ ਦੀ ਜਾਂਚ ਕਰੋ।
• ਸਮੀਖਿਆਵਾਂ ਬਾਰੇ ਸੁਚੇਤ ਰਹੋ: ਐਲਗੋਰਿਦਮਿਕ ਸਿਫ਼ਾਰਸ਼ਾਂ (Netflix, Amazon) ਵਪਾਰਕ ਟੀਚਿਆਂ ਦੁਆਰਾ ਅਨੁਕੂਲਿਤ (optimized) ਹੁੰਦੀਆਂ ਹਨ, ਨਾ ਕਿ ਸਿਰਫ ਤੁਹਾਡੀ ਤਰਜੀਹ (preference) ਦੁਆਰਾ। ਉਹਨਾਂ ਨੂੰ ਫੈਸਲਿਆਂ ਦੀ ਬਜਾਏ ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ (starting points) ਵਜੋਂ ਵਰਤੋ।
• ਨਿੱਜੀ ਡੇਟਾ (Personal Data): ਆਪਣੀ ਰੁਟੀਨ ਦੇ ਨਿਯੰਤਰਣ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣ ਲਈ ਸਮਾਰਟ ਹੋਮਸ ਜਾਂ ਆਦਤ-ਟਰੈਕਿੰਗ (habit-tracking) ਆਟੋਮੇਸ਼ਨ ਤੋਂ ਕਦੇ-ਕਦਾਈਂ "ਡਿਸਕਨੈਕਟ" (disconnect) ਕਰੋ।

12. ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਉਲਟ (The Opposite of Automation Bias)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਸਹੀ ਉਲਟਾਂ ਨੂੰ ਸਮਝਣਾ ਸਪੈਕਟ੍ਰਮ (spectrum) ਨੂੰ ਰੋਸ਼ਨ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ:

ਐਲਗੋਰਿਦਮ ਵਿਰੋਧ (Algorithm Aversion)

ਇਹ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਸਭ ਤੋਂ ਸਿੱਧਾ ਉਲਟ ਹੈ। ਐਲਗੋਰਿਦਮ ਵਿਰੋਧ ਉਦੋਂ ਵਾਪਰਦਾ ਹੈ ਜਦੋਂ ਮਨੁੱਖ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਰੱਦ ਕਰਦੇ ਹਨ ਭਾਵੇਂ ਕਿ ਉਹ ਪ੍ਰਣਾਲੀਆਂ ਮਨੁੱਖੀ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਲਗਾਤਾਰ ਪਛਾੜਦੀਆਂ (outperform) ਹਨ।

• ਕਿਵੇਂ ਪਛਾਣੀਏ: ਕੋਈ ਵਿਅਕਤੀ ਜੋ ਮੈਡੀਕਲ AI 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ ਹਾਲਾਂਕਿ ਡੇਟਾ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਇਹ ਮਨੁੱਖੀ ਡਾਕਟਰਾਂ ਨਾਲੋਂ 20% ਵਧੇਰੇ ਸਹੀ ਹੈ। ਜਦੋਂ ਇੱਕ ਐਲਗੋਰਿਦਮ ਗਲਤੀ ਕਰਦਾ ਹੈ, ਤਾਂ ਐਲਗੋਰਿਦਮ-ਵਿਰੋਧੀ ਵਿਅਕਤੀ ਇਸਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਰੱਦ ਕਰ ਦੇਵੇਗਾ; ਜਦੋਂ ਇੱਕ ਮਨੁੱਖ ਉਹੀ ਗਲਤੀ ਕਰਦਾ ਹੈ, ਤਾਂ ਉਹ ਇਸਨੂੰ ਮਾਫ਼ ਕਰ ਦਿੰਦੇ ਹਨ।
• ਇਸਦੇ ਉਲਟ ਕਿਉਂ ਹੈ: ਜਿੱਥੇ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਮਸ਼ੀਨਾਂ 'ਤੇ ਅੰਨ੍ਹੇਵਾਹ ਵਿਸ਼ਵਾਸ ਕਰਦਾ ਹੈ, ਐਲਗੋਰਿਦਮ ਵਿਰੋਧ ਉਹਨਾਂ 'ਤੇ ਅੰਨ੍ਹੇਵਾਹ ਬੇਭਰੋਸਗੀ (distrusts) ਕਰਦਾ ਹੈ, ਅਕਸਰ "ਮਨੁੱਖੀ ਸਹਿਜ" (human intuition) ਦੀ ਅਪੀਲ ਕਰਦਾ ਹੈ ਜਿਸਦਾ ਅੰਕੜਾਤਮਕ (statistically) ਤੌਰ 'ਤੇ ਖਰਾਬ ਰਿਕਾਰਡ ਹੁੰਦਾ ਹੈ।

ਮੈਨੂਅਲ ਨਿਯੰਤਰਣ ਪੱਖਪਾਤ (Manual Control Bias) / ਨਿਯੰਤਰਣ ਦਾ ਭਰਮ (Illusion of Control)

ਇਹ ਵਿਸ਼ਵਾਸ ਕਿ ਸਿੱਧੇ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਵਿੱਚ ਹੋਣ ਵਾਲੀ ਸਥਿਤੀ ਸਵੈਚਲਿਤ ਹੋਣ ਨਾਲੋਂ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਜਾਂ ਬਿਹਤਰ ਹੁੰਦੀ ਹੈ।

• ਕਿਵੇਂ ਪਛਾਣੀਏ: ਕੋਈ ਵਿਅਕਤੀ ਜੋ ਉੱਡਣ (ਹਵਾਬਾਜ਼ੀ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਵੈਚਲਿਤ ਅਤੇ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ ਸੁਰੱਖਿਅਤ ਹੈ) ਤੋਂ ਡਰਦਾ ਹੈ ਪਰ ਡ੍ਰਾਈਵਿੰਗ (ਮੈਨੂਅਲ ਅਤੇ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਖਤਰਨਾਕ) ਵਿੱਚ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸੁਰੱਖਿਅਤ ਮਹਿਸੂਸ ਕਰਦਾ ਹੈ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਦੇ ਹੱਥ ਸਟੀਅਰਿੰਗ ਵ੍ਹੀਲ (steering wheel) 'ਤੇ ਹੁੰਦੇ ਹਨ।
• ਇਸਦੇ ਉਲਟ ਕਿਉਂ ਹੈ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਸੌਂਪਦਾ ਹੈ; ਨਿਯੰਤਰਣ ਦਾ ਭਰਮ (Illusion of control) ਜ਼ਿੰਮੇਵਾਰੀ ਇਕੱਠੀ ਕਰਦਾ ਹੈ ਭਾਵੇਂ ਇਹ ਤਰਕਹੀਣ ਹੋਵੇ।

ਰੱਖਿਆਤਮਕ ਨਿਰਾਸ਼ਾਵਾਦ (Defensive Pessimism) (ਤਕਨਾਲੋਜੀ ਦੇ ਸਬੰਧ ਵਿੱਚ)

ਇਹ ਵਿਸ਼ਵਾਸ ਕਿ ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਲਾਜ਼ਮੀ ਤੌਰ 'ਤੇ ਅਸਫਲ ਹੋਵੇਗੀ ਜਾਂ ਨਕਾਰਾਤਮਕ ਨਤੀਜੇ (ਲੂਡਾਈਟ ਮਾਨਸਿਕਤਾ - Luddite mindset) ਪੈਦਾ ਕਰੇਗੀ।

• ਕਿਵੇਂ ਪਛਾਣੀਏ: ਹਮੇਸ਼ਾ ਬੈਕਅੱਪ ਦਾ ਬੈਕਅੱਪ ਰੱਖਣਾ ਅਤੇ ਕਿਸੇ ਵੀ ਸਾਫਟਵੇਅਰ ਸਿਫ਼ਾਰਸ਼ ਨੂੰ ਡਿਫੌਲਟ ਰੂਪ ਵਿੱਚ ਨੁਕਸਦਾਰ (flawed) ਮੰਨਣਾ।
• ਇਸਦੇ ਉਲਟ ਕਿਉਂ ਹੈ: ਇਹ ਆਟੋਮੇਸ਼ਨ ਦੁਆਰਾ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਝੂਠੇ ਭਰੋਸੇ ਦੇ ਉਲਟ ਕੰਮ ਕਰਦਾ ਹੈ।

ਬੌਧਿਕ ਹੰਕਾਰ (Intellectual Arrogance)

ਇਹ ਮੰਨਣਾ ਕਿ ਕਿਸੇ ਦੀ ਆਪਣੀ ਯਾਦਦਾਸ਼ਤ ਜਾਂ ਬੋਧ (cognition) ਕਿਸੇ ਵੀ ਬਾਹਰੀ ਡੇਟਾਬੇਸ ਜਾਂ ਕੰਪਿਊਟੇਸ਼ਨਲ (computational) ਟੂਲ ਨਾਲੋਂ ਉੱਤਮ ਹੈ।

• ਕਿਵੇਂ ਪਛਾਣੀਏ: ਇੱਕ ਸੀਨੀਅਰ ਡਾਕਟਰ ਜੋ ਆਪਣੇ 30 ਸਾਲਾਂ ਦੇ ਤਜ਼ਰਬੇ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ ਕਲੀਨਿਕਲ ਫੈਸਲੇ-ਸਮਰਥਨ ਸਾਧਨਾਂ (clinical decision-support tools) ਦੀ ਜਾਂਚ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ।
• ਇਸਦੇ ਉਲਟ ਕਿਉਂ ਹੈ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਵਿੱਚ ਮੁਹਾਰਤ ਦਾ ਮਸ਼ੀਨ ਨੂੰ ਸਮਰਪਣ (surrender) ਕਰਨਾ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ; ਬੌਧਿਕ ਹੰਕਾਰ ਮਸ਼ੀਨ ਦੀ ਮੁਹਾਰਤ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਾਰਜ ਕਰਦਾ ਹੈ।

ਸਪੈਕਟ੍ਰਮ ਨੋਟ (Spectrum Note): ਆਦਰਸ਼ ਸਥਿਤੀ ਵਿਚਕਾਰ ਹੈ: ਕੈਲੀਬਰੇਟਿਡ ਵਿਸ਼ਵਾਸ (Calibrated Trust)। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਜਦੋਂ ਇਹ ਭਰੋਸੇਯੋਗ ਹੋਵੇ (ਐਲਗੋਰਿਦਮ ਵਿਰੋਧ ਤੋਂ ਬਚਣਾ) ਪਰ ਜਦੋਂ ਦਾਅ ਉੱਚੇ ਹੋਣ ਅਤੇ ਸਿਸਟਮ ਇਸਦੇ ਡੋਮੇਨ ਤੋਂ ਬਾਹਰ ਹੋਵੇ ਤਾਂ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਤਸਦੀਕ ਕਰਨਾ (ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਤੋਂ ਬਚਣਾ)।

13. ਸੰਬੰਧਿਤ ਬੋਧਾਤਮਕ ਪੱਖਪਾਤ (Related Cognitive Biases)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਅਲੱਗ-ਥਲੱਗ (isolation) ਵਿੱਚ ਕੰਮ ਨਹੀਂ ਕਰਦਾ; ਇਹ ਅਕਸਰ ਸੰਯੁਕਤ ਪ੍ਰਭਾਵਾਂ (compound effects) ਨੂੰ ਬਣਾਉਣ ਲਈ ਹੋਰ ਬੋਧਾਤਮਕ ਅੰਨ੍ਹੇਵਾਦ (cognitive blind spots) ਨਾਲ ਗੱਲਬਾਤ ਕਰਦਾ ਹੈ।

13.1. ਅਧਿਕਾਰ ਪੱਖਪਾਤ (Authority Bias)

ਕਿਸੇ ਅਥਾਰਟੀ (authority) ਚਿੱਤਰ (figure) ਦੀ ਰਾਏ ਨੂੰ ਵਧੇਰੇ ਸ਼ੁੱਧਤਾ (accuracy) ਦਾ ਗੁਣ ਦੇਣ ਦੀ ਪ੍ਰਵਿਰਤੀ ਅਤੇ ਉਸ ਰਾਏ ਦੁਆਰਾ ਵਧੇਰੇ ਪ੍ਰਭਾਵਿਤ ਹੋਣਾ।

• ਸਬੰਧ (Relationship): ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਜ਼ਰੂਰੀ ਤੌਰ 'ਤੇ ਮਸ਼ੀਨਾਂ 'ਤੇ ਲਾਗੂ ਅਧਿਕਾਰ ਪੱਖਪਾਤ ਹੈ। ਅਸੀਂ ਕੰਪਿਊਟਰਾਂ ਨੂੰ "ਉਦੇਸ਼ਪੂਰਨ" (objective) ਅਤੇ ਇਸਲਈ ਨਿਰਵਿਵਾਦ ਅਥਾਰਟੀਆਂ ਵਜੋਂ ਦੇਖਣ ਲਈ ਸ਼ਰਤਬੱਧ (conditioned) ਹਾਂ। ਹੋਰਾਈਜ਼ਨ ਸਕੈਂਡਲ ਵਿੱਚ, ਕੰਪਿਊਟਰ ਆਊਟਪੁੱਟ ਨੂੰ ਕਾਨੂੰਨੀ ਅਤੇ ਪ੍ਰਬੰਧਕੀ ਅਥਾਰਟੀ ਮੰਨਿਆ ਗਿਆ ਸੀ ਜਿਸਨੂੰ ਮਨੁੱਖ ਚੁਣੌਤੀ ਨਹੀਂ ਦੇ ਸਕਦੇ ਸਨ।

13.2. ਪੁਸ਼ਟੀਕਰਣ ਪੱਖਪਾਤ (Confirmation Bias)

ਜਾਣਕਾਰੀ ਨੂੰ ਇਸ ਤਰੀਕੇ ਨਾਲ ਖੋਜਣ, ਵਿਆਖਿਆ ਕਰਨ, ਪੱਖ ਲੈਣ ਅਤੇ ਯਾਦ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਜੋ ਕਿਸੇ ਦੀਆਂ ਪਹਿਲਾਂ ਦੀਆਂ ਮਾਨਤਾਵਾਂ ਜਾਂ ਅਨੁਮਾਨਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੀ ਹੈ।

• ਸਬੰਧ (Relationship): ਜੇਕਰ ਇੱਕ ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀ ਇੱਕ ਸਿਫ਼ਾਰਸ਼ ਦਿੰਦੀ ਹੈ ਜੋ ਉਸ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਹੈ ਜੋ ਅਸੀਂ ਪਹਿਲਾਂ ਹੀ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਾਂ (ਜਿਵੇਂ ਕਿ GPS ਇੱਕ ਸ਼ਾਰਟਕੱਟ ਦਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ), ਤਾਂ ਅਸੀਂ ਇਸਨੂੰ ਤੁਰੰਤ ਸਵੀਕਾਰ ਕਰਦੇ ਹਾਂ (ਆਟੋਮੇਸ਼ਨ + ਪੁਸ਼ਟੀਕਰਣ ਪੱਖਪਾਤ)। ਜੇਕਰ ਇਹ ਵਿਰੋਧ ਕਰਦਾ ਹੈ, ਤਾਂ ਅਸੀਂ ਇਸ 'ਤੇ ਸਵਾਲ ਉਠਾ ਸਕਦੇ ਹਾਂ। ਦੂਜੇ ਪਾਸੇ, ਜਦੋਂ ਕੋਈ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਅਧੀਨ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਉਹ ਆਟੋਮੇਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਨ ਵਾਲੀ ਜਾਣਕਾਰੀ ਦੀ ਭਾਲ ਕਰਨਗੇ ਅਤੇ ਵਿਰੋਧੀ ਸਬੂਤ (ਜਿਵੇਂ ਕਿ ਏਅਰ ਫਰਾਂਸ 447 ਦੇ ਪਾਇਲਟ ਸਟਾਲ ਦੀ ਚੇਤਾਵਨੀ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੇ ਹਨ) ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਗੇ।

13.3. ਐਂਕਰਿੰਗ ਪੱਖਪਾਤ (Anchoring Bias)

ਫੈਸਲੇ ਲੈਂਦੇ ਸਮੇਂ ਪੇਸ਼ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਦੇ ਪਹਿਲੇ ਟੁਕੜੇ (ਐਂਕਰ) 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਭਰੋਸਾ ਕਰਨ ਦੀ ਮਨੁੱਖੀ ਪ੍ਰਵਿਰਤੀ।

• ਸਬੰਧ (Relationship): ਸਵੈਚਲਿਤ ਆਊਟਪੁੱਟ ਅਕਸਰ ਐਂਕਰ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਜੇਕਰ Zillow ਕਹਿੰਦਾ ਹੈ ਕਿ ਇੱਕ ਘਰ ਦੀ ਕੀਮਤ $500,000 ਹੈ, ਤਾਂ ਇਹ ਮੁਲਾਂਕਣ (valuation) ਐਂਕਰ ਬਣ ਜਾਂਦਾ ਹੈ। ਭਾਵੇਂ ਅਸੀਂ ਇਸ ਨੂੰ ਐਡਜਸਟ ਕਰਦੇ ਹਾਂ, ਐਡਜਸਟਮੈਂਟ ਆਮ ਤੌਰ 'ਤੇ ਨਾਕਾਫ਼ੀ ਹੁੰਦੀ ਹੈ ਕਿਉਂਕਿ ਐਲਗੋਰਿਦਮ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸ਼ੁਰੂਆਤੀ ਨੰਬਰ ਸਾਡੇ ਬੋਧ (cognition) ਨੂੰ ਆਪਣੇ ਵੱਲ ਖਿੱਚਦਾ ਹੈ।

13.4. ਉਪਲਬਧਤਾ ਹਿਊਰੀਸਟਿਕ (Availability Heuristic)

ਕਿਸੇ ਵਿਸ਼ੇ, ਧਾਰਨਾ, ਵਿਧੀ ਜਾਂ ਫੈਸਲੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਸਮੇਂ ਮਨ ਵਿੱਚ ਆਉਣ ਵਾਲੀਆਂ ਤੁਰੰਤ ਉਦਾਹਰਣਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ।

• ਸਬੰਧ (Relationship): ਅਸੀਂ ਅਕਸਰ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਾਂ ਕਿਉਂਕਿ ਸਾਡੇ ਕੋਲ ਇਸਦੇ ਸਫਲ ਹੋਣ ਦੀਆਂ ਬਹੁਤ ਸਾਰੀਆਂ ਆਸਾਨੀ ਨਾਲ ਉਪਲਬਧ ਯਾਦਾਂ ਹਨ (GPS ਨੇ ਸਾਨੂੰ ਪਿਛਲੀਆਂ 100 ਵਾਰ ਘਰ ਪਹੁੰਚਾਇਆ), ਜਦੋਂ ਕਿ ਇਹ ਕਦੋਂ ਅਸਫਲ ਹੁੰਦਾ ਹੈ ਇਸ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਯਾਦ ਕਰਨਾ ਔਖਾ ਹੁੰਦਾ ਹੈ। ਇਹ ਸਾਨੂੰ ਸਿਸਟਮ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਜ਼ਿਆਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣ ਵੱਲ ਖੜਦਾ ਹੈ।

13.5. ਸੂਚਨਾ ਪੱਖਪਾਤ (Information Bias)

ਇਹ ਵਿਸ਼ਵਾਸ ਕਰਨਾ ਕਿ ਜਿੰਨੀ ਜ਼ਿਆਦਾ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਨਿਰਣਾ ਓਨਾ ਹੀ ਬਿਹਤਰ ਹੋਵੇਗਾ, ਭਾਵੇਂ ਉਹ ਜਾਣਕਾਰੀ ਅਪ੍ਰਸੰਗਿਕ (irrelevant) ਹੋਵੇ।

• ਸਬੰਧ (Relationship): ਆਧੁਨਿਕ ਡੈਸ਼ਬੋਰਡ (dashboards) ਅਤੇ AI ਸਿਸਟਮ ਡੇਟਾ ਅਤੇ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦਾ ਹੜ੍ਹ (flood) ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਅਸੀਂ ਇਹ ਮੰਨਣ ਲਈ ਪੱਖਪਾਤੀ ਹਾਂ ਕਿ ਕਿਉਂਕਿ ਸਿਸਟਮ ਨੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਜਾਣਕਾਰੀ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕੀਤੀ ਹੈ, ਇਸਦਾ ਸਿੱਟਾ ਸਹੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਹ ਡੇਟਾ ਓਵਰਲੋਡ (data overload) ਸਾਨੂੰ ਤਸਦੀਕ ਛੱਡਣ ਲਈ ਵੀ ਥਕਾ ਦਿੰਦਾ ਹੈ।

13.6. ਇਨ-ਗਰੁੱਪ ਪੱਖਪਾਤ (In-group Bias) / ਆਊਟ-ਗਰੁੱਪ ਸਮਰੂਪਤਾ (Out-group Homogeneity)

• ਸਬੰਧ (Relationship): ਹਾਲਾਂਕਿ ਆਮ ਤੌਰ 'ਤੇ ਮਨੁੱਖੀ ਸਮਾਜਿਕ ਸਮੂਹਾਂ 'ਤੇ ਲਾਗੂ ਹੁੰਦਾ ਹੈ, ਅਸੀਂ ਵੱਧ ਰਹੇ ਤੌਰ 'ਤੇ AI ਅਤੇ ਐਲਗੋਰਿਦਮ ਨੂੰ "ਸਾਡੀ ਟੀਮ" (ਇਨ-ਗਰੁੱਪ) ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਅਸੀਂ ਉਹਨਾਂ ਦੇ ਆਊਟਪੁੱਟ (ਜਿਵੇਂ ਕਿ, "ਮੇਰਾ AI ਸਹਾਇਕ") ਨੂੰ ਵਿਅਕਤੀਗਤ ਬਣਾਉਂਦੇ ਹਾਂ। ਅਸੀਂ ਫਿਰ ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਚਾਉਣ ਲਈ ਪੱਖਪਾਤੀ ਹੋ ਸਕਦੇ ਹਾਂ ਜਿਵੇਂ ਅਸੀਂ ਇੱਕ ਸਹਿਕਰਮੀ ਦਾ ਬਚਾਅ ਕਰਦੇ ਹਾਂ।

13.7. ਡਨਿੰਗ-ਕਰੂਗਰ ਪ੍ਰਭਾਵ (Dunning-Kruger Effect)

ਇੱਕ ਬੋਧਾਤਮਕ ਪੱਖਪਾਤ ਜਿਸ ਵਿੱਚ ਕਿਸੇ ਕੰਮ ਵਿੱਚ ਘੱਟ ਯੋਗਤਾ ਵਾਲੇ ਲੋਕ ਆਪਣੀ ਯੋਗਤਾ ਦਾ ਜ਼ਿਆਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦੇ ਹਨ।

• ਸਬੰਧ (Relationship): ਸਵੈਚਲਿਤ ਟੂਲ ਖੁਦ ਅਕਸਰ ਉਪਭੋਗਤਾਵਾਂ ਵਿੱਚ ਇੱਕ "ਨਕਲੀ (artificial) ਡਨਿੰਗ-ਕਰੂਗਰ ਪ੍ਰਭਾਵ" ਪੈਦਾ ਕਰਦੇ ਹਨ। ਟੂਲ ਕਾਰਨ ਲੋਕ (ਉਦਾਹਰਨ ਲਈ, ChatGPT ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਵਿਦਿਆਰਥੀ, ਰੋਬਿਨਹੁੱਡ ਐਪ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਨਵੇਂ ਵਪਾਰੀ) ਬਹੁਤ ਜ਼ਿਆਦਾ ਆਤਮਵਿਸ਼ਵਾਸ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਹ ਬਿਨਾਂ ਸਮਝੇ ਜੋਖਮ ਭਰਪੂਰ ਫੈਸਲੇ ਲੈਂਦੇ ਹਨ ਕਿਉਂਕਿ ਉਹ ਆਟੋਮੇਸ਼ਨ ਦੀ ਯੋਗਤਾ ਨੂੰ ਆਪਣੀ ਯੋਗਤਾ ਸਮਝਦੇ ਹਨ।

14. ਸੱਭਿਆਚਾਰਕ ਅਤੇ ਸਮਾਜਿਕ ਦ੍ਰਿਸ਼ਟੀਕੋਣ (Cultural & Societal Perspectives)

14.1. ਕਰਾਸ-ਕਲਚਰਲ (Cross-Cultural) ਭਿੰਨਤਾਵਾਂ

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਤੀ ਸੰਵੇਦਨਸ਼ੀਲਤਾ (susceptibility) ਵੱਖ-ਵੱਖ ਸੱਭਿਆਚਾਰਾਂ ਵਿੱਚ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ:

• ਉੱਚ ਸ਼ਕਤੀ ਦੀ ਦੂਰੀ (High Power Distance) ਵਾਲੇ ਸੱਭਿਆਚਾਰ: ਉਹਨਾਂ ਸਮਾਜਾਂ ਵਿੱਚ ਜੋ ਦਰਜੇਬੰਦੀ (hierarchy) ਅਤੇ ਅਥਾਰਟੀ (authority) ਦਾ ਬਹੁਤ ਸਤਿਕਾਰ ਕਰਦੇ ਹਨ, ਤਕਨਾਲੋਜੀ ਨੂੰ ਅਕਸਰ ਅੰਤਮ ਅਧਿਕਾਰ ਵਜੋਂ ਦੇਖਿਆ ਜਾਂਦਾ ਹੈ। ਇਹਨਾਂ ਸਭਿਆਚਾਰਾਂ (ਉਦਾਹਰਨ ਲਈ, ਏਸ਼ੀਆ ਅਤੇ ਮੱਧ ਪੂਰਬ ਦੇ ਕੁਝ ਹਿੱਸੇ) ਵਿੱਚ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਵਧੇਰੇ ਸਪੱਸ਼ਟ ਹੋ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ "ਉੱਤਮ" (ਸਿਸਟਮ) 'ਤੇ ਸਵਾਲ ਉਠਾਉਣਾ ਸੱਭਿਆਚਾਰਕ ਤੌਰ 'ਤੇ ਨਿਰਾਸ਼ਾਜਨਕ ਹੈ। ਹਵਾਬਾਜ਼ੀ ਖੋਜਾਂ ਨੇ ਦਿਖਾਇਆ ਹੈ ਕਿ ਉੱਚ ਸ਼ਕਤੀ ਦੀ ਦੂਰੀ ਵਾਲੇ ਸੱਭਿਆਚਾਰਾਂ ਦੇ ਪਾਇਲਟ ਆਟੋਪਾਇਲਟ 'ਤੇ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰਦੇ ਹਨ ਅਤੇ ਓਵਰਰਾਈਡ ਕਰਨ ਦੀ ਘੱਟ ਸੰਭਾਵਨਾ ਰੱਖਦੇ ਹਨ।
• ਅਨਿਸ਼ਚਿਤਤਾ ਤੋਂ ਬਚਣ (Uncertainty Avoidance) ਵਾਲੇ ਸੱਭਿਆਚਾਰ: ਉਹ ਸਭਿਆਚਾਰ ਜੋ ਅਨਿਸ਼ਚਿਤਤਾ ਤੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਪਰਹੇਜ਼ ਕਰਦੇ ਹਨ (ਉਦਾਹਰਨ ਲਈ, ਜਰਮਨੀ, ਜਾਪਾਨ) ਆਟੋਮੇਸ਼ਨ ਵਿੱਚ ਭਾਰੀ ਨਿਵੇਸ਼ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਸਖ਼ਤ ਨਿਯਮ ਬਣਾ ਸਕਦੇ ਹਨ ਜੋ ਸਵੈਚਲਿਤ ਪਾਲਣਾ ਨੂੰ ਮਜਬੂਰ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਕਿ ਉਹ ਸ਼ਾਨਦਾਰ ਸਿਸਟਮ ਬਣਾਉਂਦੇ ਹਨ, ਜਦੋਂ ਉਹ ਸਿਸਟਮ ਨਾਵਲ (novel) ਤਰੀਕਿਆਂ ਨਾਲ ਅਸਫਲ ਹੁੰਦੇ ਹਨ ਤਾਂ ਕਰਮਚਾਰੀ ਉਹਨਾਂ ਤੋਂ ਭਟਕਣ (deviate) ਤੋਂ ਝਿਜਕਦੇ ਹਨ।
• ਵਿਅਕਤੀਵਾਦੀ ਬਨਾਮ ਸਮੂਹਵਾਦੀ (Individualistic vs. Collectivistic): ਵਿਅਕਤੀਵਾਦੀ ਸੱਭਿਆਚਾਰਾਂ (ਉਦਾਹਰਨ ਲਈ, ਯੂ.ਐੱਸ.) ਵਿੱਚ, ਲੋਕਾਂ ਨੂੰ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨ ਲਈ ਆਪਣੀ ਖੁਦ ਦੀ "ਅੰਦਰੂਨੀ ਭਾਵਨਾ" (gut feeling) 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਦੀ ਵਧੇਰੇ ਸੰਭਾਵਨਾ ਹੋ ਸਕਦੀ ਹੈ (ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣਾ), ਪਰ ਉਹ ਸੁਵਿਧਾ (convenience) (ਆਲਸ ਦੁਆਰਾ ਪੱਖਪਾਤ ਨੂੰ ਵਧਾਉਣਾ) ਲਈ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਲਈ ਵੀ ਬਹੁਤ ਪ੍ਰੇਰਿਤ ਹੋ ਸਕਦੇ ਹਨ।

14.2. ਸਮਾਜਿਕ ਪ੍ਰਭਾਵ (Societal Impact)

• AI ਦੀ ਉਮਰ: ਜਿਵੇਂ ਕਿ ਜਨਰੇਟਿਵ (generative) AI ਬੇਮਿਸਾਲ ਤਰਕ ਨਾਲ ਟੈਕਸਟ, ਆਡੀਓ ਅਤੇ ਵੀਡੀਓ ਬਣਾਉਂਦਾ ਹੈ, ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਸਮਾਜਿਕ ਬੋਧਾਤਮਕ ਕਮਜ਼ੋਰੀ ਬਣ ਰਿਹਾ ਹੈ। ਡੀਪਫੇਕਸ (Deepfakes) ਅਤੇ AI-ਹੈਲੂਸੀਨੇਟਿਡ (hallucinated) ਖ਼ਬਰਾਂ ਦਾ ਸਾਡਾ ਅੰਨ੍ਹਾ ਵਿਸ਼ਵਾਸ ਸਾਡੀ ਵਿਸ਼ਵਾਸ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਦਾ ਹੈ।
• ਜਸਟਿਸ ਆਊਟਸੋਰਸਿੰਗ (Justice Outsourcing): ਸਮਾਜ ਤੇਜ਼ੀ ਨਾਲ ਨੈਤਿਕ ਅਤੇ ਨਿਆਂਇਕ ਫੈਸਲਿਆਂ (ਜ਼ਮਾਨਤ ਦੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ, ਕਰਜ਼ੇ ਦੀ ਪ੍ਰਵਾਨਗੀ, ਕਲਿਆਣਕਾਰੀ ਯੋਗਤਾ) ਨੂੰ ਐਲਗੋਰਿਦਮ ਨੂੰ ਸੌਂਪ ਰਿਹਾ ਹੈ। ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮਨੁੱਖੀ ਨਿਗਰਾਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਕਾਬੂ ਵਿੱਚ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ, ਉਹ ਜ਼ਿਆਦਾਤਰ ਐਲਗੋਰਿਦਮ ਦੇ ਆਊਟਪੁੱਟ ਨੂੰ ਰਬੜ-ਸਟੈਂਪ (rubber-stamp) ਕਰਦੇ ਹਨ, ਤਕਨਾਲੋਜੀ ਦੇ ਪਰਦੇ ਹੇਠ ਪ੍ਰਣਾਲੀਗਤ ਪੱਖਪਾਤ ਨੂੰ ਲੁਕਾਉਂਦੇ ਹਨ।
• "ਕੰਪਿਊਟਰ ਦਾ ਕਹਿਣਾ ਹੈ ਨਹੀਂ" (Computer Says No) ਸਿੰਡਰੋਮ: ਆਧੁਨਿਕ ਸਮਾਜ ਇੱਕ ਨੌਕਰਸ਼ਾਹੀ ਦੁਬਿਧਾ ਤੋਂ ਪੀੜਤ ਹੈ ਜਿੱਥੇ ਗਾਹਕ-ਸਾਹਮਣਾ ਕਰਨ ਵਾਲਾ ਸਟਾਫ (ਬੈਂਕਾਂ, ਏਅਰਲਾਈਨਾਂ, ਹਸਪਤਾਲਾਂ ਵਿੱਚ) ਸਵੈਚਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਲਏ ਗਏ ਤਰਕਹੀਣ ਫੈਸਲਿਆਂ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨ ਲਈ ਸ਼ਕਤੀਹੀਣ ਮਹਿਸੂਸ ਕਰਦਾ ਹੈ ਜਾਂ ਉਸਦੀ ਆਗਿਆ ਨਹੀਂ ਹੈ, ਜਿਸ ਨਾਲ ਸੰਸਥਾਗਤ ਹਮਦਰਦੀ ਅਤੇ ਆਮ ਸਮਝ ਦਾ ਨੁਕਸਾਨ ਹੁੰਦਾ ਹੈ।

15. ਸਿੱਟਾ (Conclusion)

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਅਯੋਗਤਾ (incompetence) ਦੀ ਨਿਸ਼ਾਨੀ ਨਹੀਂ ਹੈ; ਇਹ ਸੌਂਪੇ ਗਏ ਅਥਾਰਟੀ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਅਤੇ ਬੋਧਾਤਮਕ ਊਰਜਾ (cognitive energy) ਨੂੰ ਬਚਾਉਣ ਲਈ ਮਨੁੱਖੀ ਵਿਕਾਸ (evolution) ਦਾ ਇੱਕ ਕੁਦਰਤੀ ਉਪ-ਉਤਪਾਦ (byproduct) ਹੈ। ਅਸੀਂ ਆਪਣੇ ਸਾਧਨਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਲਈ ਤਾਰਾਂ ਨਾਲ ਜੁੜੇ ਹੋਏ (wired) ਹਾਂ।

ਹਾਲਾਂਕਿ, ਜਿਵੇਂ ਕਿ ਸਾਡੇ ਸਾਧਨ ਅਸੀਮਤ ਗੁੰਝਲਦਾਰ, ਪਾਰਦਰਸ਼ੀ ਨਾ ਹੋਣ ਵਾਲੇ (opaque), ਅਤੇ ਗੁੰਝਲਦਾਰ ਤੌਰ 'ਤੇ ਸਾਹਮਣੇ ਆਉਣ ਵਾਲੇ (articulate) (ਆਧੁਨਿਕ AI ਵਾਂਗ) ਬਣ ਜਾਂਦੇ ਹਨ, ਇਹ ਬਚਾਅ ਦੀ ਵਿਧੀ ਇੱਕ ਗੰਭੀਰ ਕਮਜ਼ੋਰੀ ਬਣ ਜਾਂਦੀ ਹੈ। ਅਸੀਂ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾਏ ਹਨ ਜੋ "ਅਚੂਕਤਾ (infallibility) ਦੇ ਭਰਮ" ਨੂੰ ਪੇਸ਼ ਕਰਦੇ ਹਨ, ਅਤੇ ਸਾਡਾ ਦਿਮਾਗ ਉਸ ਭਰਮ ਨੂੰ ਖੁਸ਼ੀ ਨਾਲ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ।

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਨੂੰ ਪਾਰ ਕਰਨ ਲਈ ਮਸ਼ੀਨਾਂ ਨੂੰ ਰੱਦ ਕਰਨਾ (ਐਲਗੋਰਿਦਮ ਵਿਰੋਧ) ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇਸਦੀ ਬਜਾਏ, ਇਸਨੂੰ ਕੈਲੀਬਰੇਟਿਡ ਵਿਸ਼ਵਾਸ (calibrated trust) ਦੀ ਲੋੜ ਹੈ—ਇਹ ਸਮਝਣਾ ਕਿ ਆਟੋਮੇਸ਼ਨ ਇੱਕ ਮਦਦਗਾਰ ਅਨੁਮਾਨਕ (estimator) ਹੈ, ਸੱਚ (truth) ਦੀ ਇੱਕ ਨਿਰਵਿਵਾਦ ਪ੍ਰਤੀਨਿਧਤਾ ਨਹੀਂ ਹੈ। ਇਹ ਪਛਾਣਨ ਦੁਆਰਾ ਕਿ ਅਸੀਂ ਕਦੋਂ ਕਮਜ਼ੋਰ ਹੁੰਦੇ ਹਾਂ—ਖਾਸ ਤੌਰ 'ਤੇ ਸਮੇਂ ਦੇ ਦਬਾਅ ਹੇਠ, ਉੱਚ ਬੋਧਾਤਮਕ ਬੋਝ, ਅਤੇ ਨਾਜ਼ੁਕ ਫੈਸਲੇ ਲੈਣ ਵੇਲੇ—ਅਸੀਂ ਤਸਦੀਕ ਕਰਨ ਲਈ ਰੁਕਣ ਦੀ ਚੇਤੰਨ ਆਦਤ (conscious habit) ਬਣਾ ਸਕਦੇ ਹਾਂ।

ਹਾਈਪਰ-ਸਵੈਚਲਿਤ (hyper-automated) ਸੰਸਾਰ ਵਿੱਚ, ਮਨੁੱਖੀ ਨਿਰਣੇ ਦਾ ਮੁੱਲ ਇਹ ਕਰਨ ਵਿੱਚ ਨਹੀਂ ਹੈ ਕਿ ਮਸ਼ੀਨ ਕੀ ਕਰਦੀ ਹੈ, ਸਗੋਂ ਉਸ ਸਥਿਤੀ ਨੂੰ ਫੜਨ ਦੀ ਸਮਰੱਥਾ ਵਿੱਚ ਹੈ ਜਦੋਂ ਮਸ਼ੀਨ ਗਲਤ ਹੁੰਦੀ ਹੈ।

16. ਹਵਾਲਾ ਸਮੱਗਰੀ (Reference Materials)

16.1. ਮੁੱਖ ਪੁਸਤਕਾਂ (Key Books)

• "The Glass Cage: Automation and Us" ਦੁਆਰਾ Nicholas Carr (ਆਟੋਮੇਸ਼ਨ ਸਾਡੇ ਹੁਨਰਾਂ ਅਤੇ ਫੈਸਲੇ ਲੈਣ ਨੂੰ ਕਿਵੇਂ ਵਿਗਾੜਦੀ ਹੈ ਇਸਦੀ ਇੱਕ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਖੋਜ)।
• "Weapons of Math Destruction" ਦੁਆਰਾ Cathy O'Neil (ਕਿਵੇਂ ਅਸੀਂ ਅੰਨ੍ਹੇਵਾਹ ਗਲਤ ਐਲਗੋਰਿਦਮ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਾਂ ਜੋ ਅਸਮਾਨਤਾ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ)।
• "Thinking, Fast and Slow" ਦੁਆਰਾ Daniel Kahneman (ਹਾਲਾਂਕਿ ਖਾਸ ਤੌਰ 'ਤੇ ਆਟੋਮੇਸ਼ਨ ਬਾਰੇ ਨਹੀਂ ਹੈ, ਇਹ ਸਿਸਟਮ 1 ਬਨਾਮ ਸਿਸਟਮ 2 ਸੋਚ ਦੀ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ ਜੋ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਅਧਾਰ ਤੇ ਹੈ)।
• "Human-Computer Interaction: An Empirical Research Perspective" ਦੁਆਰਾ I. Scott MacKenzie (ਯੂਜ਼ਰ ਇੰਟਰਫੇਸ ਵਿਵਹਾਰ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਤ ਕਰਦੇ ਹਨ ਇਸ ਬਾਰੇ ਅਕਾਦਮਿਕ ਦ੍ਰਿਸ਼ਟੀਕੋਣ)।

16.2. ਅਕਾਦਮਿਕ ਪੇਪਰ (Academic Papers)

• Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). "Does automation bias decision-making?" International Journal of Human-Computer Studies. (ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਖੋਜ ਵਿੱਚ ਬੁਨਿਆਦੀ ਪੇਪਰ)।
• Parasuraman, R., & Manzey, D. H. (2010). "Complacency and Bias in Human Use of Automation: An Attentional Integration." Human Factors. (ਸਮੀਖਿਆ ਕਰਦਾ ਹੈ ਕਿ ਆਪਰੇਟਰ ਉੱਚ ਪੱਧਰੀ ਆਟੋਮੇਸ਼ਨ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਵਿੱਚ ਕਿਵੇਂ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ)।
• Cummings, M. L. (2004). "Automation Bias in Intelligent Time Critical Decision Support Systems." AIAA. (ਸਮੇਂ ਦੇ ਦਬਾਅ ਵਿੱਚ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ 'ਤੇ ਵਿਸ਼ੇਸ਼ ਧਿਆਨ ਦੇ ਨਾਲ ਉੱਤਮ ਪੇਪਰ)।
• Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). "Automation bias: a systematic review of frequency, effect mediators, and mitigators." Journal of the American Medical Informatics Association. (ਮੈਡੀਕਲ ਡਾਇਗਨੌਸਟਿਕ ਟੂਲਸ ਵਿੱਚ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੀ ਵਿਆਪਕ ਸਮੀਖਿਆ)।

16.3. ਲੇਖ ਅਤੇ ਸਰੋਤ (Articles and Resources)

• FAA ਦੀਆਂ ਰਿਪੋਰਟਾਂ "ਆਟੋਮੇਸ਼ਨ ਨਿਰਭਰਤਾ" (Automation Dependency) 'ਤੇ
• ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਵਿੱਚ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ 'ਤੇ ਹਾਰਵਰਡ ਬਿਜ਼ਨਸ ਰਿਵਿਊ ਲੇਖ
• ਯੂਕੇ ਪੋਸਟ ਆਫਿਸ ਹੋਰਾਈਜ਼ਨ ਇਨਕੁਆਰੀ ਦੀਆਂ ਰਿਪੋਰਟਾਂ (ਸੰਗਠਨਾਤਮਕ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਦੇ ਲਾਈਵ ਕੇਸ ਸਟੱਡੀ ਵਜੋਂ)
• IEEE ਆਰਟੀਕਲ ਸਵੈ-ਡਰਾਈਵਿੰਗ ਕਾਰਾਂ ਅਤੇ ਆਪਰੇਟਰ ਦੀ ਬੇਧਿਆਨੀ (inattention) 'ਤੇ