Несвідоме упередження (Несвідомі стереотипи)

Короткий огляд

1. Короткий підсумок

Ваш мозок постійно робить блискавичні судження про людей на основі патернів, які він засвоїв із навколишнього середовища — навіть якщо ці судження суперечать вашим свідомим цінностям. Ці автоматичні асоціації, сформовані через вплив культурних повідомлень протягом життя, можуть впливати на те, кого ви наймаєте, кому довіряєте, кому допомагаєте і навіть кого вважаєте загрозою. Тривожна правда полягає в тому, що більшість людей, які дотримуються егалітарних переконань, усе одно демонструють вимірні несвідомі упередження, і ці упередження прогнозують реальну дискримінаційну поведінку.

2. Наукове підґрунтя

2.1. Відкриття та історія

Десятиліттями соціальна психологія працювала на основі «інтроспекціоністського» припущення — що якщо ви хотіли дізнатися ставлення людини до соціальної групи, ви просто питали її. Опитування, що вимірювали явні упередження, показали їх стабільне зниження наприкінці 20-го століття, що змусило багатьох припустити, що дискримінація стає пережитком минулого.

Однак «когнітивна революція» в психології, яка зробила акцент на системах обробки інформації та пам'яті, почала проникати в соціальну психологію. Дослідники визнали, що пам'ять — це не єдина картотека, а складна система, де минулий досвід може впливати на поточну діяльність без свідомого пригадування — явище, відоме як імпліцитна пам'ять.

Ключове розуміння прийшло, коли дослідники припустили, що соціальні конструкти, такі як ставлення та стереотипи, працюють подібним чином. Так само, як людина може доповнити фрагмент слова S _ _ _ T як SHIRT (сорочка), оскільки вона бачила це слово раніше (навіть не пам'ятаючи, що бачила його), людина може по-різному оцінити резюме, оскільки ім'я «Лакіша» викликає каскад негативних семантичних асоціацій, встановлених культурним обумовленням.

Формалізація цієї зміни парадигми відбулася з публікацією у 1995 році статті «Несвідоме соціальне пізнання: ставлення, самооцінка та стереотипи» (Implicit Social Cognition: Attitudes, Self-Esteem, and Stereotypes) в Psychological Review. Автори стверджували, що соціальна поведінка зазвичай не перебуває під повним свідомим контролем, і що «минулий досвід впливає на судження таким чином, що не є інтроспективно відомим актору». Це визначення запровадило тривожну можливість: «справжнє» ставлення, що керує блискавичною поведінкою, може не бути тим, яке людина сповідує, або навіть тим, яке, на її думку, вона має.

Ключові віхи:

• 1995: Теоретична база, створена Грінвальдом і Банаджі
• 1998: Впровадження Тесту неявних асоціацій (IAT)
• 1998: Заснування Project Implicit, який зробив тестування несвідомого упередження доступним для широкого загалу
• 2002: Розробка Завдання шутера від першої особи (Дилема поліцейського)
• 2004: Знакове дослідження-аудит резюме, що демонструє дискримінацію при працевлаштуванні
• 2012: Експериментально доведено гендерне упередження серед викладачів STEM
• 2012: Розробка Інтервенції для подолання звички до упереджень

2.2. Ключові дослідники

2.3. Знакові дослідження

Тест неявних асоціацій (Greenwald, McGhee, & Schwartz, 1998)

IAT докорінно змінив ландшафт соціальної психології, забезпечивши стандартизовану, адаптивну метрику для несвідомого упередження. Тест спирається на принцип когнітивної сумісності: якщо два поняття міцно пов'язані в пам'яті (наприклад, «Квітка» і «Приємне»), буде легше і швидше призначити їх на одну і ту ж клавішу відповіді, ніж якщо вони не пов'язані.

У типовому Расовому IAT:

• Конгруентний блок: Учасники натискають одну клавішу для «Білих людей» або «Хороших слів» і іншу для «Чорних людей» або «Поганих слів»
• Неконгруентний блок: Пари змінюються, вимагаючи від учасників об'єднувати «Чорних людей» з «Хорошими словами»

Для людини з про-білим упередженням конгруентний блок є легким (збігається з внутрішніми асоціаціями), тоді як неконгруентний блок створює конфлікт відповіді. Різниця в середній затримці відповіді між блоками становить Ефект IAT, стандартизований у D-оцінку, що представляє силу упередження.

Дилема поліцейського (Correll et al., 2002)

Ця симуляція відеогри тестувала причинний зв'язок між расовими фенотипами та рішенням стріляти. Учасники бачили раптові появи білих або чорних цільових осіб, які тримали зброю або безпечні предмети (гаманці, мобільні телефони). Вони мали мілісекунди, щоб вирішити, чи стріляти.

Ключові висновки:

• Учасники на ~21 мс швидше стріляли в озброєних чорних цілей, ніж в озброєних білих цілей
• Учасники вирішували не стріляти в неозброєних білих чоловіків на ~73 мс швидше, ніж в неозброєних чорних чоловіків
• Під тиском часу учасники частіше помилково стріляли в неозброєного чорного чоловіка (хибнопозитивний результат) і не стріляли в озброєного білого чоловіка (хибнонегативний результат)
• Використовуючи Теорію виявлення сигналу, дослідники виявили, що раса не впливала на здатність бачити об'єкти, але впливала на поріг прийняття рішення — учасникам було потрібно менше доказів наявності зброї, щоб вистрілити в чорну ціль

«Чи є Емілі та Грег більш придатними для працевлаштування?» (Bertrand & Mullainathan, 2004)

Економісти відповіли на 1300 оголошень про вакансії вигаданими резюме, які були якісно ідентичними за винятком імені вгорі — половина мала імена, що «звучали як імена білих» (Емілі, Грег), а половина — імена, що «звучали як імена афроамериканців» (Лакіша, Джамал).

Ключові висновки:

• Резюме з іменами білих отримали на 50% більше дзвінків, ніж ідентичні резюме з чорними іменами
• Для білих кандидатів покращення резюме давало 30% збільшення кількості дзвінків
• Для чорних кандидатів якісніші резюме давали незначне збільшення
• Наслідок: Несвідомі стереотипи не просто карають — вони блокують віддачу від інвестицій у розвиток людського капіталу

Гендерне упередження викладачів «Наука = Чоловік» (Moss-Racusin et al., 2012)

Викладачі природничих наук (N=127) в дослідницьких університетах оцінювали ідентичні заяви на посаду завідувача лабораторії, які відрізнялися лише тим, чи був заявник названий «Джон» або «Дженніфер».

Ключові висновки:

• «Джон» був оцінений як значно більш компетентний і придатний до найму (~4,0 проти ~3,3 за 7-бальною шкалою)
• Викладачі пропонували Джону стартову зарплату в 30 238 доларів порівняно з 26 508 доларами для Дженніфер — розрив майже у 4000 доларів (12%) ще до того, як когось із них найняли
• Викладачі були більш готові надати Джону кар'єрне наставництво
• Важливо, що викладачі-жінки демонстрували таке ж упередження, як і викладачі-чоловіки — демонструючи, що несвідомі стереотипи є культурними схемами, які засвоюються всіма членами суспільства

2.4. Неврологічна основа

Неврологічна основа несвідомого упередження включає кілька взаємопов'язаних систем мозку:

Активація мигдалини: Дослідження з використанням фМРТ показали, що перегляд облич позагрупових осіб (особливо за наявності расових упереджень) викликає активацію мигдалини — центру виявлення загроз у мозку. Це відбувається протягом мілісекунд, ще до того, як свідома обробка може втрутитися.

Гальмування префронтальної кори: Префронтальна кора, відповідальна за виконавчий контроль, повинна активно працювати, щоб подолати автоматичні асоціації. Коли когнітивні ресурси виснажені (втома, стрес, нестача часу), цей гальмівний контроль погіршується, і несвідомі упередження сильніше впливають на поведінку.

Асоціативні мережі пам'яті: Несвідомі упередження зберігаються в тих самих нейронних мережах, що й семантична пам'ять. Мозок створює асоціативні зв'язки між поняттями (наприклад, «Чорний» і «Небезпека») через повторне впливання. Ці зв'язки посилюються через навчання Хебба — нейрони, що активуються разом, з'єднуються разом.

Двопроцесна модель: Мозок працює через дві системи: Система 1 (швидка, автоматична, без зусиль) і Система 2 (повільна, обдумана, що вимагає зусиль). Несвідомі упередження діють переважно через Систему 1, тому вони можуть впливати на поведінку навіть тоді, коли Система 2 (свідомі цінності) не згодна.

3. Еволюційне походження

Здатність до швидкої соціальної категоризації, ймовірно, еволюціонувала як механізм виживання. Наші предки жили в невеликих, згуртованих групах, де швидке розрізнення «своїх» і «чужих» могло означати різницю між життям і смертю. Незнайомець з іншого племені міг становити загрозу, і швидке виявлення загрози мало цінність для виживання.

Ця когнітивна архітектура була адаптивною в спадкових середовищах, що характеризувалися:

• Племінним життям: Співпраця всередині групи та конкуренція поза групою були важливими
• Обмеженою інформацією: Швидкі судження були необхідні, коли детальна оцінка була неможлива
• Реальними загрозами: Інші людські групи могли бути справді небезпечними
• Стабільними середовищами: Узагальнення щодо груп з більшою ймовірністю були точними з часом

У сучасних, різноманітних суспільствах ця сама когнітивна машина стає проблематичною. Мозок продовжує швидко категоризувати та асоціювати, але тепер він навчається з медіасередовища, насиченого стереотипними зображеннями, та суспільства, структурованого історичною нерівністю.

Саме упередження не є ані «багом», ані «фічею» — це високоефективна система навчання, що працює в середовищі, для якого вона не була розроблена. Мозок робить саме те, для чого він еволюціонував: відстежує статистичні закономірності в навколишньому середовищі. Проблема полягає в тому, що ці закономірності відображають століття дискримінації, а не притаманні відмінності між групами.

Важливо, що несвідоме упередження є компромісом між швидкістю та точністю. У ситуаціях, що вимагають швидких рішень (як виявлення загрози у предків або сучасна поліцейська діяльність), мозок за замовчуванням використовує евристики. Ці ярлики є енергоефективними і часто «достатньо хорошими», але вони несуть вартість систематичної помилки при застосуванні до індивідів.

4. Як проявляється це упередження

4.1. У повсякденному житті

Несвідоме упередження проникає в незліченну кількість щоденних взаємодій:

• Соціальні судження: Автоматичне сприйняття певних осіб як більш надійних, розумних або компетентних на основі зовнішнього вигляду
• Поведінка допомоги: Дослідження показують, що люди з більшою ймовірністю допомагають членам своєї групи в неоднозначних ситуаціях
• Міжособистісне тепло: Тонкі відмінності у дружелюбності, зоровому контакті та мові тіла по відношенню до різних груп
• Кодування пам'яті: Краще запам'ятовування інформації, яка підтверджує стереотипи; забування контрстереотипної інформації
• Презумпція невинності: Більш поблажливе тлумачення поведінки членів власної групи
• Мікроагресії: Невеликі, часто ненавмисні образи, спричинені несвідомими припущеннями («Звідки ти насправді?»)

4.2. На робочому місці

Наймання та рекрутинг:

• Дослідження Бертрана та Муллайнатана показало, що наявність імені, що «звучить як ім'я чорного», зменшує кількість дзвінків на 50%
• Подібні ефекти були задокументовані щодо статі, віку та статусу інвалідності

Оцінка ефективності:

• Однакова робота оцінюється по-різному в залежності від передбачуваної демографії виконавця
• Неоднозначна поведінка інтерпретується більш негативно для членів поза групою

Просування та лідерство:

• Жінок та меншини часто оцінюють як «не лідерський матеріал», незважаючи на ідентичні кваліфікації
• Несвідома асоціація «думай про менеджера, думай про чоловіка» зберігається глобально

Переговори про зарплату:

• Дослідження Мосс-Ракусін показало розрив у стартовій зарплаті у 4000 доларів для ідентичних заявників виключно на основі статі
• Ці розриви накопичуються протягом кар'єри у величезні сукупні недоліки

Робочий клімат:

• Тонкі виключення з неформальних мереж та наставницьких відносин
• Диференційоване призначення завдань з високою видимістю порівняно з «офісною роботою»

4.3. У бізнесі та маркетингу

Несвідомі упередження як експлуатуються, так і увічнюються комерційними інтересами:

• Представлення в рекламі: Бренди використовують існуючі асоціації (білий = чистий, преміальний; чорний = спортивний, міський)
• Дизайн продукту: Продукти на основі ШІ, навчені на упереджених даних, відтворюють та масштабують людські упередження
• Обслуговування клієнтів: Дослідження показують диференційоване ставлення до клієнтів залежно від передбачуваної раси чи статі
• Алгоритми ціноутворення: Було виявлено, що деякі алгоритми встановлюють різні ціни залежно від поштових індексів, що корелюють з расою
• Цільовий маркетинг: Стереотипні припущення про групові переваги формують те, хто бачить які продукти

4.4. У політиці та ЗМІ

Представлення в ЗМІ:

• Дослідження показують, що чорношкірі особи надмірно представлені у кримінальних репортажах порівняно з фактичною статистикою злочинності
• Контрстереотипні приклади (чорношкірі професіонали, жінки-вчені) представлені недостатньо
• Це викривлене середовище стає «тренувальними даними» для несвідомих асоціацій глядачів

Поведінка виборців:

• Несвідомі расові установки прогнозують поведінку виборців навіть серед тих, хто явно підтримує расову рівність
• Діє принцип «малі ефекти, великі наслідки»: мільйони виборців, що діють на основі незначних упереджень, створюють значний виборчий вплив

Політичні вподобання:

• Несвідомі асоціації впливають на підтримку політики, навіть коли раса не згадується
• Політика щодо злочинності, політика соціального забезпечення та імміграційна політика — все це зазнає впливу основних несвідомих расових установок

Зростаючі тенденції в Європі: Дослідження Дедеріхса та Верге (2024) виявили, що несвідоме расове упередження в Європі зменшувалося до середини 2010-х років, але з тих пір зросло, корелюючи з підйомом нативістських політичних рухів та дискурсом про «міграційну кризу» — припускаючи, що політична риторика може швидко перезарядити несвідомі стереотипи.

4.5. У сфері охорони здоров'я

Діагностичні відмінності:

• Green et al. (2007) виявили, що лікарі з вищим несвідомим упередженням значно рідше рекомендували тромболізис (препарати, що розчиняють тромби) чорношкірим пацієнтам із симптомами серцевого нападу
• Несвідомий стереотип про чорних пацієнтів як «відмовляються співпрацювати» змушував лікарів підсвідомо вважати, що вони не дотримуватимуться післяпроцедурних режимів

Лікування болю:

• Дослідження показують, що чорні пацієнти отримують менше знеболюючих препаратів, ніж білі пацієнти з ідентичними станами
• Це пов'язано з постійним несвідомим переконанням, що чорношкірі люди менш гостро відчувають біль — стереотип, що бере початок з епохи Дж. Маріона Сімса, який розробляв хірургічні методи на поневолених жінках без анестезії

Недовіра пацієнтів:

• Історична медична експлуатація (Дослідження сифілісу в Таскігі, 1932-1972) створила «несвідому недовіру» серед чорношкірих пацієнтів
• Ця травма поколінь призводить до уникнення медичної допомоги, сприяючи нерівності у здоров'ї

4.6. У фінансах та інвестуванні

• Схвалення кредитів: Несвідоме упередження впливає на кредитні рішення, сприяючи расовим розривам у схваленні іпотеки
• Інвестиційні рішення: Керуючі фондами можуть несвідомо віддавати перевагу компаніям, якими керують особи, що відповідають їхньому несвідомому прототипу «успішного підприємця»
• Фінансові консультації: Якість і тип порад можуть відрізнятися залежно від демографії клієнта
• Алгоритмічна торгівля: Системи ШІ, навчені на історичних даних, можуть увічнювати та масштабувати фінансову дискримінацію

5. Реальні тематичні дослідження

Тематичне дослідження 1: Революція «сліпих» прослуховувань у симфонічному оркестрі

• Контекст: Протягом середини 20-го століття великі симфонічні оркестри складалися переважно з чоловіків, незважаючи на те, що жінки були добре представлені в музичній освіті. Багато хто приписував це «природним» відмінностям у здібностях чи інтересах.

• Що сталося: Починаючи з 1970-х та 1980-х років, оркестри почали впроваджувати «сліпі» прослуховування, де музиканти виступали за ширмою, щоб судді їх не бачили. Деякі навіть вимагали від музикантів знімати взуття, щоб звук підборів не розкривав стать.

• Як працювало упередження: Коли судді могли бачити виконавців, їхні несвідомі асоціації (Чоловік = Музичний геній, Жінка = Аматор) впливали на їхні оцінки, навіть серед суддів, які свідомо вірили в гендерну рівність.

• Наслідки: Сліпі прослуховування збільшили ймовірність проходження жінок після першого раунду на 50% і збільшили ймовірність найму жінок у кілька разів. Частка жінок у великих оркестрах зросла з 5% у 1970 році до приблизно 35% до 2000-х років.

• Засвоєні уроки: Структурні втручання, які запобігають активації упередження, часто є більш ефективними, ніж спроби змінити думку. Несвідомі упередження суддів не зникли — вони просто не могли вплинути на рішення, оскільки інформація, що їх провокувала (стать), була вилучена.

Тематичне дослідження 2: Скандал з алгоритмом охорони здоров'я Optum

• Контекст: Алгоритм, розроблений Optum і використовуваний для управління доглядом за приблизно 200 мільйонами пацієнтів у США, був розроблений для виявлення пацієнтів, яким була б корисна додаткова медична підтримка.

• Що сталося: Алгоритм використовував вартість охорони здоров'я як проксі-показник для медичних потреб — здавалося б, расово нейтральна метрика. Однак через системні фактори (бар'єри доступу, історична дискримінація) система охорони здоров'я витрачає менше на чорношкірих пацієнтів, навіть коли вони мають такі ж захворювання.

• Як працювало упередження: Алгоритм дізнався, що чорношкірі пацієнти «коштують менше», і тому припустив, що вони «здоровіші». Це не була явна расова змінна — це було несвідоме упередження, закодоване через проксі-змінні.

• Наслідки: Чорношкірі пацієнти мали бути значно більш хворими, ніж білі пацієнти, щоб отримати такий же рівень втручання. Дослідники підрахували, що виправлення цього упередження збільшить відсоток чорношкірих пацієнтів, які отримують додаткову допомогу, з 17,7% до 46,5%.

• Засвоєні уроки: Несвідоме упередження може бути відмите через здавалося б нейтральні дані. Системи ШІ не є об'єктивними — вони вчаться на історичних даних, що містять накопичене упередження людських рішень. Алгоритмічний аудит на наявність дискримінаційного впливу є важливим.

Історичний приклад: «Вічний іноземець» та антиазіатське насильство

Азійсько-іноземний IAT показує, що багато американців несвідомо асоціюють азійські обличчя з «Іноземними» пам'ятками, а білі обличчя — з «Американськими» пам'ятками. Ця несвідома асоціація має глибокі історичні корені (Закон про виключення китайців 1882 року, японське інтернування тощо) і прогнозує тенденцію ставити під сумнів лояльність або «американськість» азійських громадян.

Під час пандемії COVID-19 ця несвідома асоціація була різко активована політичною риторикою, яка називала COVID-19 «Китайським вірусом» або «Кунг-Флу». Дослідження задокументували сплеск результатів Азійсько-іноземного IAT у цей період — демонструючи, як політична мова може швидко перезарядити сплячі несвідомі упередження.

Наслідки були відчутними: ФБР повідомило про збільшення антиазіатських злочинів на ґрунті ненависті на 77% у 2020 році. Несвідоме упередження, посилене явною риторикою, перетворилося безпосередньо на насильство. Цей випадок ілюструє, що несвідомі упередження не є просто академічними цікавинками — вони утворюють когнітивний субстрат, який робить можливою дискримінацію, коли соціальні умови це дозволяють.

6. Вартість цього упередження

6.1. Особисті витрати

• Пошкодження стосунків: Несвідомі упередження можуть непомітно руйнувати міжгрупові дружні та професійні стосунки через накопичені мікроагресії
• Моральний дистрес: Люди, які виявляють у себе несвідомі упередження, часто відчувають провину, сором і когнітивний дисонанс, коли їхні несвідомі реакції конфліктують із свідомими цінностями
• Втрачені зв'язки: Уникнення або недооцінка потенційних друзів, наставників або партнерів через несвідомі судження
• Пророцтва, що самореалізуються: Інші можуть відчути несвідоме упередження через невербальні сигнали, що призводить до незграбних або захисних взаємодій, які нібито «підтверджують» упередження
• Інтерналізоване упередження: Члени стигматизованих груп часто інтерналізують несвідомі упередження суспільства про власні групи, що впливає на самооцінку та результативність (загроза стереотипу)

6.2. Професійні витрати

• Втрачені таланти: Організації, які дозволяють несвідомому упередженню впливати на наймання, втрачають кваліфікованих кандидатів
• Юридична відповідальність: Позови щодо моделі та практики дискримінації можуть виникнути внаслідок накопичених упереджених рішень
• Зниження інноваційності: Однорідні команди (в результаті упередженого найму) є менш креативними і менш ефективно вирішують проблеми
• Пошкодження репутації: Резонансні інциденти з упередженнями можуть знищити цінність бренду
• «Парадокс якості резюме»: Бертран та Муллайнатан виявили, що покращення кваліфікації давало незначну віддачу для чорних кандидатів — що означає, що організації створюють стимули для членів поза групою недостатньо інвестувати в людський капітал

6.3. Суспільні витрати

• Накопичуваний недолік: Навіть невеликі упередження ($r \approx 0.2$) стають руйнівними, коли мільйони воротарів приймають тисячі упереджених рішень протягом своєї кар'єри
• Нерівність між поколіннями: Упередженість при наймі, кредитуванні та освіті накопичується через покоління
• Демократичне спотворення: Несвідоме упередження при голосуванні призводить до виборчих результатів, які не відображають заявлені цінності
• Делегітимізація інституцій: Коли інституції (поліція, охорона здоров'я, суди) систематично ставлять певні групи в невигідне становище, ці групи втрачають віру в справедливість інституцій
• Географічне закріплення: Vuletich et al. (2023) продемонстрували, що демографічні закономірності часів Великої міграції (1910-1970) все ще прогнозують рівні несвідомого упередження сьогодні — упередження фізично кодується в місцях

6.4. Статистичний вплив

7. Приховані переваги

Когнітивна архітектура, що лежить в основі несвідомого упередження, не є за своєю суттю зловмисною — вона відображає високоефективну систему навчання:

Когнітивна ефективність: Мозок щодня обробляє величезні обсяги соціальної інформації. Категоризація та зіставлення шаблонів дозволяють швидко орієнтуватися у складних соціальних світах, не обмірковуючи кожну взаємодію. Без якоїсь форми розумових скорочень соціальне життя було б неможливо повільним.

Справжнє виявлення патернів: У деяких випадках несвідомі асоціації можуть відображати реальні статистичні закономірності (наприклад, «Літні люди = Повільні» може відображати справжні моторні відмінності). Проблема полягає в тому, що мозок надмірно узагальнює ці патерни на окремих людей і на сфери, де вони не застосовуються.

Культурна компетентність: Несвідомі асоціації кодують культурні знання — знання про те, що суспільство пов'язує певні групи з певними ролями, допомагає орієнтуватися в соціальних очікуваннях, навіть якщо людина не згодна з цими очікуваннями.

Швидке виявлення загрози: У справді небезпечних ситуаціях швидка категоризація може врятувати життя. Еволюційна логіка «краще перестрахуватися, ніж шкодувати» означає, що хибнопозитивні результати (сприйняття загрози там, де її немає) можуть бути менш дорогими, ніж хибнонегативні (пропуск реальних загроз).

Компроміс: Метою не може бути повне усунення соціального пізнання — це було б неможливо і контрпродуктивно. Раніше мета полягає в тому, щоб розпізнавати, коли швидка категоризація є доречною (справжні надзвичайні ситуації) порівняно з тим, коли її слід замінити обдуманою індивідуалізованою оцінкою (наймання на роботу, медичне лікування, поліцейські дії в неекстрених ситуаціях).

8. Самооцінка: Чи є у вас це упередження?

8.1. Чек-лист попереджувальних ознак

• Я помічаю власне здивування, коли хтось із певної групи демонструє експертизу в несподіваній сфері
• Я іноді почуваюся більш комфортно або розкуто серед людей, які мають спільні зі мною демографічні характеристики
• Я час від часу ловлю себе на тому, що роблю припущення про здібності, інтереси або походження людини на основі її зовнішності
• Я схильний(-а) запам'ятовувати інформацію, яка підтверджує групові стереотипи, краще, ніж інформацію, яка їм суперечить
• Я помічаю, що застосовую різні стандарти доказовості, оцінюючи людей з різних груп
• Я іноді відчуваю захисну реакцію або дискомфорт, коли піднімаються теми упереджень або забобонів
• Я помітив(-ла), що мої перші враження про людей з певних груп часто є негативними, незважаючи на те, що я вірю в рівність
• Мені легше запам'ятати обличчя людей з моєї власної расової/етнічної групи
• Я помічаю, що в неоднозначних ситуаціях я частіше даю «презумпцію невинності» деяким людям порівняно з іншими
• Інші говорили мені, що моя поведінка відрізняється в різних групах у спосіб, якого я не помічав(-ла)

Оцінка:

• Відмічено 0-2: Низька схильність (але пам'ятайте — майже всі демонструють несвідоме упередження)
• Відмічено 3-5: Помірна схильність
• Відмічено 6-8: Висока схильність
• Відмічено 9-10: Дуже висока схильність (хоча висока самосвідомість насправді є хорошою ознакою)

Важлива примітка: Майже всі набирають більше нуля за мірками несвідомого упередження, і самооцінка має обмежену точність. Проходження справжнього IAT на сайті Project Implicit (implicit.harvard.edu) забезпечує більш об'єктивний вимір.

8.2. Питання для саморефлексії

1. Коли ви востаннє були здивовані чиєюсь компетентністю чи роллю — і приналежність до якої групи викликала це здивування?

2. Подумайте про свої п'ять найближчих дружніх чи професійних стосунків. Наскільки вони демографічно різноманітні? Що це може свідчити про ваші несвідомі рівні комфорту?

3. Коли ви чуєте про злочин у новинах, але не бачили подробиць, як виглядає ваш уявний образ злочинця? Звідки береться цей образ?

4. Згадайте недавню неоднозначну ситуацію (хтось підрізав вас у заторі, студент погано вчиться, колега зірвав дедлайн). Ви приписали цю поведінку їхньому характеру чи їхнім обставинам? Чи відрізнялася б ваша атрибуція, якби вони були з іншої групи?

5. Чи отримували ви коли-небудь відгуки, які свідчили про те, що ви ставитеся до різних людей по-різному, хоча ви цього не усвідомлювали?

8.3. Швидкий діагностичний сценарій

Сценарій: Ви переглядаєте два резюме на технічну посаду. Обидва мають ідентичні кваліфікації. Один кандидат на ім'я «Джеймс Чен» зазначає «теніс» і «шаховий клуб» як інтереси. Інший — «ДеШон Вільямс» — зазначає «баскетбол» і «музичне виробництво». Вам потрібно вирішити, якому кандидату зателефонувати першому для запрошення на співбесіду.

Як би ви відреагували?

• A) Одразу телефоную Джеймсу першому — його інтереси здаються більш узгодженими з технічним мисленням → Висока схильність (ви дозволили стереотипним асоціаціям вплинути на нерелевантне рішення)
• B) Відчуваю невелику схильність до Джеймса, але розумію, що це може бути упередженням, і підкидаю монету → Помірна схильність (у вас є упередження, але ви активно йому протидієте)
• C) Розумію, що позакласні інтереси не мають стосунку до технічних здібностей, і оцінюю виключно на основі кваліфікацій → Низька схильність

9. Виявлення цього упередження в інших

9.1. Поведінкові індикатори

• Диференційоване тепло: Помітно більш дружня, розслаблена мова тіла з членами власної групи; більш формальна, відсторонена з іншими
• Вибіркова увага: Більш уважне слухання деяких доповідачів; перебивання або ігнорування інших
• Патерни атрибуції: Приписування успіху навичкам для одних груп, везінню — для інших; приписування невдач обставинам для одних, характеру — для інших
• Вирази здивування: Видиме здивування, коли члени поза групою демонструють компетентність («Ви так гарно висловлюєтесь!»)
• Уникнення поведінки: Уникнення районів, підприємств або заходів, пов'язаних з певними групами
• Мікроагресії: Запитання на кшталт «Звідки ти насправді?» або дотик до чийогось волосся без дозволу

9.2. Розмовні «червоні прапорці»

Фрази, які люди кажуть під впливом цього упередження:

• «Я не бачу кольору шкіри» (заперечення упередження не усуває його)
• «У мене є друзі з [X], тому я не можу бути упередженим»
• «Це просто стереотип, але стереотипи існують не просто так»
• «Я не расист, але...» (з подальшим стереотипним припущенням)
• «Ти не такий, як інші» (обрамлення у стилі «виняток підтверджує правило»)
• «Справа не в расі, справа в культурі»
• «Я суджу про кожного як про індивіда» (хоча насправді використовуються ментальні ярлики на основі групи)

Типи аргументів, які вони наводять:

• Пояснення групових розбіжностей через групові недоліки, а не через системні фактори
• Вимога «надзвичайних доказів» того, що дискримінація існує, водночас некритично приймаючи перспективи власної групи
• Розгляд аутлаєрів (винятків), які досягають успіху попри упередження, як доказу того, що упередження не існує

Запитання, яких вони уникають:

• «З якими бар'єрами могла зіткнутися ця людина, з якими не зіткнувся я?»
• «Чи зробив би я таке ж припущення, якби ця людина була з іншої групи?»

9.3. Ситуаційні тригери

Обставини, що активують несвідоме упередження:

• Брак часу (змушує покладатися на мислення Системи 1)
• Когнітивне навантаження (багатозадачність, втома, стрес)
• Неоднозначні ситуації (коли поведінку можна інтерпретувати різними способами)
• Страх або усвідомлена загроза
• Відсутність підзвітності (анонімні рішення)

Фактори навколишнього середовища:

• Однорідне середовище (відсутність впливу контрстереотипів)
• Медіа-дієти, перенасичені стереотипними зображеннями
• Сегреговані райони та соціальні мережі
• Робочі місця без різноманітності

Емоційні стани:

• Тривожність посилює залежність від категоріального мислення
• Огида може активувати приниження тих, хто не входить до групи (аут-групи)
• Страх посилює сприйняття загрози за лінією поділу на групи

10. Стратегії когнітивного усунення упереджень

10.1. Негайні техніки

Заміна стереотипу: Коли ви помічаєте стереотипну думку (бачите темношкірого чоловіка і думаєте «небезпека»), чітко позначте її як стереотип, відкиньте її і свідомо замініть на егалітарну думку.

Контрстереотипна уява: Активно візуалізуйте конкретні, яскраві приклади людей, які кидають виклик стереотипу. Не думайте «деякі чорношкірі є науковцями» — думайте «Ніл Деграсс Тайсон пояснює астрофізику».

Індивідуалізація: Змусьте себе зосередитися на конкретних особистих деталях людини — її взутті, окулярах, конкретних навичках, унікальних хобі. Це запобігає домінуванню обробки інформації на основі категорії.

Зміна перспективи: Свідомо перейдіть на позицію людини з іншої групи. «Що ця людина відчуває прямо зараз? Які хвилювання у неї можуть бути, коли вона входить до цієї кімнати?»

Уповільнення: Коли рішення має значення, свідомо сповільніть процес прийняття рішення. Несвідоме упередження найбільш впливове, коли ви змушені покладатися на швидку, автоматичну обробку.

10.2. Довгострокові стратегії

Модель подолання звички до упереджень (Devine et al., 2012): Це найбільш емпірично підтверджене втручання. Воно розглядає упередження як небажану звичку, що вимагає тижнів активної практики з використанням вищезазначених стратегій.

Результати: У лонгітюдних дослідженнях учасники, які використовували ці інструменти, продемонстрували значно нижчі бали IAT через 8 тижнів після втручання і повідомили про більшу «стурбованість щодо дискримінації», що свідчить про успішну інтерналізацію егалітарної мотивації.

Збільшення контактів: Шукайте можливості для позитивної, рівностатусної взаємодії з членами інших груп. Мозок вчиться на досвіді — дайте йому нові дані.

Диверсифікація медіа: Навмисно споживайте медіа (книги, фільми, джерела новин), які представляють контрстереотипні репрезентації.

Освіта та обізнаність: Саме по собі знання про несвідоме упередження не усуває його, але дозволяє розпізнати, коли воно може впливати на вас, і вжити коригувальних дій.

10.3. Дизайн середовища

Сліпі прослуховування/Анонімне оцінювання: Вилучіть ідентифікаційну інформацію із заяв, оглядів ефективності або інших оцінок. Дослідження оркестрів показало, що сліпі прослуховування збільшили найм жінок на 50%, не змінюючи прихованих упереджень суддів.

Структуровані протоколи прийняття рішень: Використовуйте заздалегідь визначені критерії та рубрики оцінювання. Коли оцінка є суб'єктивною, упередження заповнює прогалину.

Різноманітні органи прийняття рішень: Окремі особи, що приймають рішення, більш схильні до індивідуальних упереджень. Різноманітні комітети з чітким обговоренням проблем упередженості дають більш справедливі результати.

Структури підзвітності: Вимагайте від осіб, які приймають рішення, обґрунтування їхнього вибору. Очікування підзвітності активізує обдуману обробку.

Контактно насичене середовище: Проєктуйте фізичні простори та організаційні структури, які сприяють міжгруповій взаємодії.

10.4. Коли варто звертатися до зовнішньої думки

Звертайтеся за поглядом збоку, коли:

• Приймаєте важливі рішення щодо окремих осіб (наймання, просування по службі, дисциплінарні стягнення)
• Помічаєте в себе сильні реакції на когось, кого погано знаєте
• Перебуваєте під тиском часу або в стані стресу, але рішення має довгострокові наслідки
• Оцінюєте когось із групи, з якою у вас обмежені контакти
• Інші припускали, що у вас можуть бути сліпі зони в цій сфері

До кого звертатися:

• Колег з іншим демографічним походженням
• Офіційних спеціалістів з питань розмаїття або омбудсменів
• Зовнішніх рецензентів, які не знають залучених осіб
• Використовуйте структуровані інструменти переривання упереджень (наприклад, анонімізацію, контрольні списки критеріїв)

11. Практичні вправи

Вправа 1: Журнал стереотипів

• Мета: Формування усвідомлення автоматичних стереотипних думок
• Необхідний час: 5 хвилин щодня
• Необхідні матеріали: Блокнот або додаток для нотаток
• Рівень складності: Початковий
• Інструкції:
  1. Кожного вечора обміркуйте свій день
  2. Визначте 1-2 моменти, коли ви зробили припущення про когось на основі його видимої групової приналежності
  3. Запишіть: Якою була ситуація? Яку групову приналежність ви помітили? Яке припущення ви зробили?
  4. Виклик: Чи були докази вашого припущення, чи воно було стереотипним?
  5. Заміна: Яка егалітарна альтернативна думка могла б у вас виникнути?
• Питання для роздумів:
  • Щодо яких груп ви найчастіше робите припущення?
  • Чи повторюються ті самі стереотипи?
  • Чи швидше ви почали перехоплювати ці думки?
• Частота: Щодня протягом принаймні 4 тижнів

Вправа 2: Список контрстереотипних прикладів

• Мета: Створення доступних контрстереотипних ментальних асоціацій
• Необхідний час: Спочатку 30 хвилин, потім 5-хвилинні щотижневі оновлення
• Необхідні матеріали: Папір або документ
• Рівень складності: Початковий
• Інструкції:
  1. Визначте 3-5 груп, щодо яких у вас можуть бути несвідомі упередження
  2. Для кожної групи перелічіть 5-10 конкретних осіб (людей, яких ви знаєте особисто, або публічних осіб), які суперечать поширеним стереотипам
  3. Включіть яскраві деталі: Чим вони відомі? Яке конкретне досягнення вас вражає?
  4. Переглядайте цей список щотижня, додаючи нові приклади
  5. Коли ви помічаєте стереотипну думку, свідомо згадайте конкретний приклад зі свого списку
• Питання для роздумів:
  • Чи було важко навести контрприклади для будь-якої групи? Що це свідчить про ваше оточення?
  • Як би ви могли збільшити контакт з контрстереотипними особами?
  • Чи змінив перегляд цього списку ваші автоматичні асоціації?
• Частота: Створити один раз, переглядати та розширювати щотижня

Вправа 3: Щоденник зміни перспективи

• Мета: Формування емпатії та зменшення дистанції з позагруповими особами
• Необхідний час: 15 хвилин двічі на тиждень
• Необхідні матеріали: Журнал/щоденник
• Рівень складності: Середній
• Інструкції:
  1. Виберіть когось із групи, відмінної від вашої власної — когось, кого ви знаєте, або публічну особу
  2. Витратьте 15 хвилин, пишучи розповідь від першої особи про їхній день, уявляючи їхні думки, турботи, розчарування та радості
  3. Включіть: З якими викликами вони можуть зіткнутися, з якими не стикаєтеся ви? З якими мікроагресіями чи стереотипами вони можуть зіткнутися? Які їхні надії та страхи?
  4. Якщо можливо, перевірте свою зміну перспективи, поспілкувавшись з кимось із цієї групи та запитавши про їхній досвід
  5. Перегляньте свою перспективу на основі того, що ви дізналися
• Питання для роздумів:
  • Що вас здивувало в цій вправі?
  • Який досвід ви могли не врахувати?
  • Як перевірена зміна перспективи відрізнялася від ваших початкових припущень?
• Частота: Двічі на тиждень протягом 8 тижнів

Щоденна практика

Протокол паузи в рішенні

Перш ніж робити будь-яку оцінку людини (рішення про наймання, оцінка ефективності, оцінка довіри), зробіть паузу на 10 секунд і запитайте:

1. «Чи зробив би я таке ж судження, якби ця людина була з іншої групи?»
2. «Я оцінюю цю людину як індивіда чи як члена категорії?»
3. «На якій конкретній, індивідуалізувальній інформації я ґрунтую це?»

• Рекомендована тривалість: 10-30 секунд на рішення
• Найкращий час дня: Кожного разу, коли робите судження про людей
• Як відстежувати прогрес: Підраховуйте, як часто ви ловите себе на прийнятті суджень на основі категорій порівняно з індивідуалізованими оцінками

Щотижневий виклик

Виклик розширення контактів

Кожного тижня беріть участь в одній значущій взаємодії з кимось із групи, з якою у вас обмежений контакт. Це може бути:

• Обід або кава з колегою з іншого відділу або з іншим походженням
• Відвідування заходу або закладу в районі, якого ви зазвичай уникаєте
• Читання книги або перегляд фільму, створеного кимось з іншої групи, та його обговорення

Очікувані результати після 4 тижнів:

• Збільшення комфорту в міжгрупових взаємодіях
• Нові контрстереотипні приклади, додані до ментальної бібліотеки
• Більше усвідомлення раніше невидимих перспектив

Підказки для ведення журналу:

• Що я дізнався про цю людину/групу такого, чого не знав раніше?
• З якими припущеннями я підійшов до цієї взаємодії, і чи були вони точними?
• Як я можу створити більше можливостей для такого роду контактів?

12. Для цільових аудиторій

Для лідерів та менеджерів

Як несвідоме упередження впливає на лідерство:

• Рішення про наймання формуються на основі «культурної відповідності», що насправді означає демографічну подібність
• Оцінки ефективності залежать від очікувань, а не від результатів
• Шляхи просування, які втрачають різноманітні таланти на кожному рівні
• Динаміка зустрічей, де деякі голоси чують більше, ніж інші

Організаційні стратегії:

• Запровадьте структуровані співбесіди із заздалегідь визначеними критеріями
• Використовуйте сліпий розгляд резюме для початкового відбору
• Вимагайте різноманітні списки кандидатів перед прийняттям остаточних рішень
• Відстежуйте демографічні дані на кожному етапі кар'єрної драбини, щоб визначити, де виникає упередженість
• Створіть систему підзвітності: вимагайте від осіб, які приймають рішення, обґрунтувати вибір на основі критеріїв

Що не працює: Дослідження Доббіна і Калева показало, що обов'язкові тренінги з різноманітності часто дають зворотний ефект. Через п'ять років після запровадження обов'язкового навчання компанії побачили зменшення частки чорношкірих жінок та чоловіків азійського походження на керівних посадах. Обов'язкове навчання сигналізує про те, що «ви є проблемою», і викликає психологічний опір.

Що працює:

• Добровільне навчання в рамках професійного розвитку
• Програми перехресного навчання
• Програми наставництва
• Робочі групи з питань розмаїття з реальними повноваженнями
• Структурні зміни (еквіваленти сліпих прослуховувань)

Для батьків та освітян

Пояснення відповідно до віку:

Маленькі діти (4-7 років): «Наш мозок дійсно добре вміє ділити речі на групи — наприклад, 'собаки' та 'коти'. Іноді наш мозок робить це і з людьми. Але люди — це не категорії — кожна людина особлива і відрізняється від інших, навіть якщо вона виглядає схожою на інших людей».

Старші діти (8-12 років): «Наш мозок завжди вчиться з того, що ми бачимо навколо. Якщо ми здебільшого бачимо певних людей на певних роботах по телевізору, наш мозок може почати очікувати цього. Але це несправедливо, бо кожен може робити будь-що. Ми повинні навчити наш мозок, зустрічаючись і дізнаючись про багатьох різних людей».

Підлітки: Пряме залучення до науки — покажіть їм IAT, обговоріть дослідження, дослідіть, як це стосується їхнього соціального світу.

Стратегії профілактики:

• Забезпечуйте різноманітне представлення в книгах, медіа та іграшках із раннього дитинства
• Сприяйте позитивним контактам з дітьми з різного середовища
• Відкрито обговорюйте та кидайте виклик стереотипам, коли вони з'являються
• Демонструйте контрстереотипну поведінку та стосунки
• Навчайте різниці між «інакшим» і «поганим»

Для медичних працівників

Клінічні наслідки:

• Усвідомте, що дослідження показують: лікарі з вищим рівнем несвідомого упередження рідше рекомендують певні методи лікування чорношкірим пацієнтам
• Визнайте збереження хибних переконань (наприклад, про різну толерантність до болю), які впливають на надання допомоги

Діагностичні міркування:

• Використовуйте структуровані діагностичні критерії, а не інтуїтивне зіставлення зразків
• Будьте свідомі того, що ідентичні симптоми можуть інтерпретуватися по-різному в різних групах
• Уповільнюйте процес прийняття рішень, коли від них багато залежить

Комунікація з пацієнтами:

• Визнайте, що багато пацієнтів несуть у собі несвідому недовіру, що ґрунтується на історичних травмах (Таскігі, Дж. Маріон Сімс)
• Чітко пояснюйте свої міркування, щоб викликати довіру
• Активно цікавтеся занепокоєннями пацієнтів і сприймайте їх серйозно

Етичні міркування:

• Перш за все, не нашкодьте — це включає шкоду від упередженого ставлення
• Проводьте аудит результатів за демографічними показниками пацієнтів, щоб виявити диспропорції
• Підтримуйте інституційні зусилля з подолання системних упереджень

Для фінансових фахівців

Специфічні інвестиційні застосування:

• Усвідомлюйте, що несвідоме упередження може впливати на те, які підприємці отримують фінансування (зіставлення шаблонів з попередніми успіхами створює однорідність)
• Проаналізуйте, чи не маскують упередження такі поняття, як «культурна відповідність» або «інтуїтивні відчуття» щодо компаній

Комунікація з клієнтами:

• Забезпечте порівнянну якість та тип порад для клієнтів різних демографічних груп
• Проводьте аудит клієнтських портфелів за демографічними показниками, щоб перевірити наявність диференційованого підходу

Управління ризиками:

• Різноманітні команди з прийняття рішень дають більш надійні оцінки
• Однорідні команди схильні до спільних сліпих зон

Алгоритмічні міркування:

• Системи ШІ, навчені на історичних даних про кредитування або інвестиції, будуть увічнювати минулі упередження
• Перевіряйте алгоритми на предмет непропорційного впливу на різні групи

13. Взаємодія з іншими упередженнями

Упередження, які посилюють несвідоме упередження

Упередження, які протидіють несвідомому упередженню

Типові ланцюги упереджень

Каскад упередженості стрілка:

Несвідомий стереотип (Чорний = Небезпечний) → Упередження підтвердження (більше уваги до сигналів загрози) → Евристика доступності (згадування новин про злочини) → Фундаментальна помилка атрибуції (приписування неоднозначної поведінки злому наміру) → Дискримінаційна дія (стрілянина)

Точки переривання: Уповільніть процес прийняття рішень; вимагайте обдуманої оцінки замість автоматичної реакції; реструктуруйте середовище, щоб надати час Системі 2 для подолання Системи 1.

Каскад при наймі на роботу:

Несвідомий стереотип (Жінка = Не підходить для лідерства) → Ефект гало (асоціація кандидатів-чоловіків з компетентністю) → Упередження підтвердження (інтерпретація неоднозначних якостей чоловіків позитивно, а жінок негативно) → Внутрішньогрупове упередження (захист "відповідності культурі") → Дискримінаційна дія (вибір кандидата-чоловіка)

Точки переривання: Сліпий огляд резюме; стандартизовані питання на співбесіді; чітко визначені критерії до оцінки кандидатів.

14. Роль емоцій

Емоційний стан суттєво впливає на активацію та застосування несвідомих упереджень:

Тривога та стрес:

• Підвищують залежність від евристики та стереотипів
• Зменшують ємність робочої пам'яті, необхідну для придушення автоматичних реакцій
• Люди у стані тривоги частіше класифікують неоднозначні обличчя як такі, що належать до позагрупи

Огида:

• Тісно пов'язана з упередженнями проти певних груп (особливо тих, що асоціюються з порушенням норм або хворобами)
• Підвищує моральну суворість і соціальну дистанцію

Гнів:

• Збільшує використання стереотипів під час суджень
• Прискорює реакції, зменшуючи шанси на втручання Системи 2

Емпатія:

• Знижує вираженість несвідомого упередження, активуючи індивідуалізовану обробку
• Використовується в таких вправах, як «зміна перспективи», для протидії стереотипним асоціаціям

15. Культурні відмінності

Несвідоме упередження є універсальним людським механізмом, але зміст цих упереджень є специфічним для кожної культури:

Глобальні закономірності:

• Деякі упередження, як-от «наука = чоловік», постійно з'являються в багатьох країнах (наприклад, у дослідженні понад 30 країн проекту Implicit Project).
• Упередження на користь власної групи зустрічається повсюдно, але його сила варіюється.

Національний контекст:

• У США переважають расові упередження через історичну спадщину рабства та сегрегації.
• У країнах з однорідним населенням, сильнішими можуть бути упередження на основі етнічної приналежності, касти (наприклад, в Індії) або регіонального походження (наприклад, у багатьох європейських країнах).

Вплив мови:

• Мови з граматичним родом (наприклад, іспанська, німецька) можуть посилювати гендерні стереотипи, тоді як мови без роду (наприклад, фінська) демонструють слабші показники за деякими гендерними упередженнями.

16. Спільні помилки

«Ми не можемо просто змусити наш несвідомий розум забути те, чого світ навчає його щодня. Натомість ми повинні використовувати наші свідомі цінності, щоб перепроєктувати світ». — Синтез досліджень несвідомих упереджень

17. Ключові висновки

1. Несвідоме упередження є майже універсальним — переважна більшість людей, включаючи тих, хто свідомо підтримує рівність, демонструють вимірні несвідомі упередження в таких тестах, як IAT.

2. Воно діє автоматично — несвідоме упередження впливає на швидкі рішення до того, як свідоме обмірковування може втрутитися, що робить його особливо впливовим у ситуаціях з дефіцитом часу або неоднозначністю.

3. Його засвоюють із навколишнього середовища — несвідомі асоціації не є вродженими, а вбираються з культурних повідомлень, медіа-репрезентацій та статистичних закономірностей розшарованого суспільства.

4. Малі ефекти мають великі наслідки — навіть слабкі кореляції між упередженістю та поведінкою стають руйнівними, коли мільйони людей приймають тисячі рішень із плином часу.

5. Обізнаність допомагає, але не вирішує проблему — знання про упередженість дає змогу зловити та виправити її, але не усуває автоматично глибинні асоціації.

6. Структурні втручання перевершують зміну ставлення — сліпі прослуховування, анонімне оцінювання та структуровані протоколи прийняття рішень є ефективнішими, ніж намагання змінити думку безпосередньо.

7. Несвідоме упередження є пластичним, але вимагає зусиль — цілеспрямоване, постійне втручання з використанням науково обґрунтованих методів (заміна стереотипів, контрстереотипна уява, індивідуалізація, зміна перспективи, контакт) може з часом змінити несвідомі асоціації.

18. Додаткові ресурси

Академічні статті

• Greenwald, A. G., & Banaji, M. R. (1995). Implicit social cognition: Attitudes, self-esteem, and stereotypes. Psychological Review, 102(1), 4-27.

• Greenwald, A. G., McGhee, D. E., & Schwartz, J. L. K. (1998). Measuring individual differences in implicit cognition: The Implicit Association Test. Journal of Personality and Social Psychology, 74(6), 1464-1480.

• Correll, J., Park, B., Judd, C. M., & Wittenbrink, B. (2002). The police officer's dilemma: Using ethnicity to disambiguate potentially threatening individuals. Journal of Personality and Social Psychology, 83(6), 1314-1329.

• Bertrand, M., & Mullainathan, S. (2004). Are Emily and Greg more employable than Lakisha and Jamal? A field experiment on labor market discrimination. American Economic Review, 94(4), 991-1013.

• Devine, P. G., Forscher, P. S., Austin, A. J., & Cox, W. T. L. (2012). Long-term reduction in implicit race bias: A prejudice habit-breaking intervention. Journal of Experimental Social Psychology, 48(6), 1267-1278.

• Moss-Racusin, C. A., Dovidio, J. F., Brescoll, V. L., Graham, M. J., & Handelsman, J. (2012). Science faculty's subtle gender biases favor male students. Proceedings of the National Academy of Sciences, 109(41), 16474-16479.

• Green, A. R., Carney, D. R., Pallin, D. J., et al. (2007). Implicit bias among physicians and its prediction of thrombolysis decisions for Black and White patients. Journal of General Internal Medicine, 22(9), 1231-1238.

Книги

• Banaji, M. R., & Greenwald, A. G. (2013). Blindspot: Hidden Biases of Good People. Delacorte Press.

• Eberhardt, J. L. (2019). Biased: Uncovering the Hidden Prejudice That Shapes What We See, Think, and Do. Viking.

• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.

Інтернет-ресурси

• Project Implicit (implicit.harvard.edu) — Пройдіть IAT і дослідіть власні несвідомі асоціації

19. Картка-резюме

20. Глосарій використаних термінів

21. Питання для обговорення

Для книжкових клубів, класів або саморефлексії:

1. Якщо несвідомі упередження засвоюються з середовища без нашої згоди, як ми повинні думати про моральну відповідальність за упереджену поведінку?

2. Дослідження показують, що навіть люди, які рішуче підтримують рівність, демонструють вимірні несвідомі упередження. Що це означає для природи упереджень?

3. Обов'язкові тренінги з різноманітності часто дають зворотний ефект, тоді як структурні втручання (наприклад, сліпі прослуховування) працюють. Що це говорить нам про межі зміни ставлення порівняно з проєктуванням середовища?

4. Дослідження «Упередженість натовпу» (Bias of Crowds) показує, що історичні події майже столітньої давнини все ще прогнозують поточний рівень несвідомих упереджень. Як це має формувати наше розуміння того, наскільки швидко можуть змінюватися суспільства?

5. Якщо системи ШІ навчаються на даних людей і таким чином переймають людські упередження, чи повинні ми висувати до них вищі стандарти, ніж до людей, чи достатньо того, що вони «не гірші за людей»?