Имплицитна пристрасност (Имплицитни стереотипи)

Преглед

1. Кратак резиме

Ваш мозак непрестано доноси одлуке у делићу секунде о људима на основу образаца које је упио из вашег окружења — чак и када су те процене у супротности са вашим свесним вредностима. Ове аутоматске асоцијације, формиране кроз целоживотно излагање културолошким порукама, могу утицати на то кога запошљавате, коме верујете, коме помажете, па чак и кога доживљавате као претњу. Узнемирујућа истина је да већина људи који имају егалитарна уверења и даље показује мерљиве имплицитне пристрасности, а те пристрасности предвиђају стварно дискриминаторно понашање.

2. Научна позадина

2.1. Откриће и историја

Деценијама је социјална психологија функционисала под "интроспекционистичком" претпоставком — да ако желите да сазнате став неке особе према одређеној друштвеној групи, једноставно је питате. Анкете које су мериле експлицитне предрасуде показивале су сталан пад током касног 20. века, што је многе навело на претпоставку да дискриминација постаје реликт прошлости.

Међутим, "когнитивна револуција" у психологији, која је ставила нагласак на обраду информација и системе памћења, почела је да се инфилтрира у социјалну психологију. Истраживачи су схватили да памћење није један орман са картотеком, већ сложен систем у којем прошла искуства могу утицати на тренутни учинак без свесног присећања — феномен познат као имплицитно памћење.

Кључни увид догодио се када су истраживачи предложили да друштвени конструкти попут ставова и стереотипа функционишу на сличан начин. Баш као што би особа могла да допуни фрагмент речи М _ _ _ А као МАЈИЦА јер је ту реч видела раније (чак и без сећања да ју је видела), особа може другачије да оцени радну биографију јер име "Лакиша" покреће каскаду негативних семантичких асоцијација успостављених културолошким условљавањем.

Формализација ове промене парадигме уследила је 1995. године објављивањем рада "Имплицитна социјална когниција: Ставови, самопоштовање и стереотипи" у часопису Psychological Review. Аутори су тврдили да друштвено понашање обично није под потпуном свесном контролом, и да "прошло искуство утиче на расуђивање на начин који актеру није интроспективно познат". Ова дефиниција је увела узнемирујућу могућност: да "прави" став који покреће понашања у делићу секунде можда није онај који особа исказује, па чак ни онај за који верује да га има.

Кључне прекретнице:

• 1995: Теоријски оквир су успоставили Гринвалд (Greenwald) и Банаџи (Banaji)
• 1998: Увођење Теста имплицитних асоцијација (IAT)
• 1998: Оснивање Пројекта Имплицитно (Project Implicit), чиме је тестирање имплицитне пристрасности постало доступно широј јавности
• 2002: Развој задатка пуцачине из првог лица (Полицијска дилема)
• 2004: Преломна студија провере радних биографија која је демонстрирала дискриминацију при запошљавању
• 2012: Експериментално доказана родна пристрасност међу наставним кадром у СТЕМ областима
• 2012: Развој интервенције за разбијање навике предрасуда

2.2. Кључни истраживачи

2.3. Преломне студије

Тест имплицитних асоцијација (Greenwald, McGhee, & Schwartz, 1998)

IAT је из темеља променио пејзаж социјалне психологије пружањем стандардизоване, прилагодљиве метрике за имплицитну пристрасност. Тест се ослања на принцип когнитивне компатибилности: ако су два концепта снажно повезана у памћењу (нпр. "Цвет" и "Пријатно"), биће лакше и брже мапирати их на исти тастер за одговор него ако су неповезани.

У типичном расном IAT-у:

• Конгруентни блок: Учесници притискају један тастер за "Белце" или "Добре речи", а други за "Црнце" или "Лоше речи"
• Инконгруентни блок: Парови се мењају, захтевајући од учесника да упаре "Црнце" са "Добрим речима"

За особу са пристрасношћу према белцима, конгруентни блок је лак (усклађен је са унутрашњим асоцијацијама), док инконгруентни блок ствара конфликт у одговору. Разлика у просечном кашњењу одговора између блокова представља IAT ефекат, стандардизован у D-скор који представља снагу пристрасности.

Полицијска дилема (Correll и сар., 2002)

Ова симулација видео игре тестирала је узрочну везу између расних фенотипова и одлуке да се пуца. Учесницима су се изненада појављивале мете — или белци или црнци — који су држали оружје или безопасне предмете (новчанике, мобилне телефоне). Имали су милисекунде да одлуче да ли да пуцају.

Кључни налази:

• Учесници су били бржи за ~21мс при пуцању на наоружане црнце у односу на наоружане белце
• Учесници су одлучили да не пуцају на ненаоружане белце за ~73мс брже него на ненаоружане црнце
• Под временским притиском, учесници су имали већу вероватноћу да грешком пуцају на ненаоружаног црнца (лажно позитивно) и да не пуцају на наоружаног белца (лажно негативно)
• Користећи Теорију детекције сигнала, истраживачи су открили да раса није утицала на способност уочавања предмета, али је утицала на праг одлучивања — учесницима је било потребно мање доказа о оружју да би пуцали на црнца

"Да ли су Емили и Грег запошљивији?" (Bertrand & Mullainathan, 2004)

Економисти су одговорили на 1.300 огласа за посао са фиктивним радним биографијама које су биле квалитативно идентичне осим имена на врху — половина је имала имена која "звуче белачки" (Емили, Грег), а половина имена која "звуче афроамерички" (Лакиша, Џамал).

Кључни налази:

• Радне биографије са белачким именима добиле су 50% више позива од идентичних биографија са црначким именима
• Код белих кандидата, побољшање биографије довело је до повећања броја позива за 30%
• Код црних кандидата, квалитетније биографије донеле су занемарљива повећања
• Импликација: Имплицитни стереотипи не само да кажњавају — они блокирају повраћај инвестиција у развој људског капитала

Пристрасност факултета "Наука = Мушкарац" (Moss-Racusin и сар., 2012)

Научни кадар (N=127) на истраживачки интензивним универзитетима оцењивао је идентичне пријаве за позицију менаџера лабораторије, које су се разликовале само по томе да ли се кандидат зове "Џон" (John) или "Џенифер" (Jennifer).

Кључни налази:

• "Џон" је оцењен као знатно компетентнији и пожељнији за запошљавање (~4,0 наспрам ~3,3 на скали од 7 бодова)
• Факултет је Џону понудио почетну плату од 30.238 долара у поређењу са 26.508 долара за Џенифер — јаз од скоро 4.000 долара (12%) пре него што је иједно од њих уопште запослено
• Наставно особље је било спремније да пружи каријерно менторство Џону
• Оно што је критично, женско наставно особље показало је исту пристрасност као и мушко — доказујући да су имплицитни стереотипи културолошке шеме које апсорбују сви чланови друштва

2.4. Неуролошка основа

Неуролошка основа имплицитне пристрасности укључује неколико међусобно повезаних можданих система:

Активација амигдале: Студије које користе фМРИ показале су да гледање лица изван групе (нарочито када су присутне расне пристрасности) покреће активацију амигдале — центра за детекцију претњи у мозгу. Ово се дешава у року од неколико милисекунди, пре него што свесна обрада може да интервенише.

Инхибиција префронталног кортекса: Префронтални кортекс, одговоран за извршну контролу, мора активно да ради на превазилажењу аутоматских асоцијација. Када су когнитивни ресурси исцрпљени (умор, стрес, временски притисак), ова инхибиторна контрола слаби, а имплицитне пристрасности снажније утичу на понашање.

Мреже асоцијативног памћења: Имплицитне пристрасности се чувају у истим неуронским мрежама које се баве семантичким памћењем. Мозак ствара асоцијативне везе између концепата (нпр. "Црнац" и "Опасност") кроз понављано излагање. Ове везе се јачају кроз Хебово (Hebbian) учење — неурони који заједно окидају, заједно се повезују.

Модел двоструког процеса: Мозак функционише кроз два система: Систем 1 (брз, аутоматски, без напора) и Систем 2 (спор, промишљен, захтева напор). Имплицитне пристрасности функционишу првенствено кроз Систем 1, због чега могу утицати на понашање чак и када се Систем 2 (свесне вредности) не слаже.

3. Еволуционо порекло

Способност за брзу социјалну категоризацију вероватно је еволуирала као механизам преживљавања. Наши преци су живели у малим, блиско повезаним групама где је брзо разликовање између "нас" и "њих" могло значити разлику између живота и смрти. Странац из другог племена могао је представљати претњу, а постојала је вредност за преживљавање у брзој детекцији претњи.

Ова когнитивна архитектура била је адаптивна у окружењима предака која су карактерисали:

• Племенски живот: Сарадња унутар групе и такмичење са другим групама били су од суштинског значаја
• Ограничене информације: Брзе процене су биле неопходне када је детаљна процена била немогућа
• Стварне претње: Друге људске групе могле су бити истински опасне
• Стабилна окружења: Генерализације о групама су имале већу вероватноћу да буду тачне током времена

У модерним, разноликим друштвима, ова иста когнитивна машинерија постаје проблематична. Мозак наставља да брзо категорише и повезује, али сада учи из медијског окружења засићеног стереотипним приказима и друштва структурираног историјском неједнакошћу.

Сама пристрасност није ни "грешка" нити "својство" — то је високо ефикасан систем учења који функционише у окружењу за које није дизајниран. Мозак ради тачно оно за шта је еволуирао: прати статистичке правилности у окружењу. Проблем је у томе што те правилности одражавају векове дискриминације, а не инхерентне разлике између група.

Важно је напоменути да имплицитна пристрасност представља компромис између брзине и тачности. У ситуацијама које захтевају брзе одлуке (као што је детекција претњи код предака или модерно полицијско деловање), мозак аутоматски прелази на хеуристике. Ове пречице су енергетски ефикасне и често "довољно добре" — али носе цену систематске грешке када се примене на појединце.

4. Како се ова пристрасност манифестује

4.1. У свакодневном животу

Имплицитна пристрасност се инфилтрира у небројене свакодневне интеракције:

• Друштвене процене: Аутоматско перципирање одређених појединаца као поузданијих, интелигентнијих или компетентнијих на основу изгледа
• Понашање пружања помоћи: Студије показују да су људи склонији да помогну члановима своје групе у двосмисленим ситуацијама
• Међуљудска топлина: Суптилне разлике у љубазности, контакту очима и говору тела према различитим групама
• Кодирање памћења: Боље памћење информација које потврђују стереотипе; заборављање контра-стереотипних информација
• Претпоставка невиности (benefit of the doubt): Пружање блажих и благонаклонијих тумачења за понашање чланова своје групе
• Микроагресије: Мале, често ненамерне увреде вођене несвесним претпоставкама ("Одакле си заправо?")

4.2. На радном месту

Запошљавање и регрутација:

• Студија Бертранд и Мулајнатана показала је да само поседовање имена које "звучи црначки" смањује број позива на интервју за 50%
• Слични ефекти су документовани за пол, старост и статус инвалидитета

Оцењивање учинка:

• Идентичан рад се различито оцењује на основу претпостављених демографских карактеристика аутора
• Двосмислена понашања се тумаче негативније код чланова изван групе

Унапређење и лидерство:

• Жене и мањине се често оцењују као да "нису материјал за лидера" упркос идентичним квалификацијама
• Имплицитна асоцијација "помисли на менаџера, помисли на мушкарца" опстаје глобално

Преговарање о плати:

• Студија Мос-Ракусин показала је јаз од 4.000 долара у почетној плати за идентичне пријаве искључиво на основу пола
• Ови јазови се током каријере гомилају у масивне кумулативне недостатке

Клима на радном месту:

• Суптилна искључења из неформалних мрежа и менторских односа
• Различито додељивање високо видљивих задатака насупрот "канцеларијским кућним пословима"

4.3. У пословању и маркетингу

Комерцијални интереси истовремено искоришћавају и одржавају имплицитне пристрасности:

• Представљање у оглашавању: Брендови користе постојеће асоцијације (бело = чисто, премијум; црно = атлетско, урбано)
• Дизајн производа: Производи покретани вештачком интелигенцијом, обучени на пристрасним подацима, реплицирају и скалирају људске пристрасности
• Корисничка подршка: Студије показују различит третман купаца на основу перципиране расе или пола
• Алгоритам за одређивање цена: Откривено је да неки алгоритми наплаћују различите цене на основу поштанских бројева који су у корелацији са расом
• Циљани маркетинг: Стереотипне претпоставке о преференцијама група обликују ко види које производе

4.4. У политици и медијима

Медијско представљање:

• Студије показују да су црнци презаступљени у извештавању о криминалу у односу на стварне статистике криминала
• Контра-стереотипни примери (црни професионалци, научнице) су недовољно заступљени
• Овакво искривљено окружење постаје "податак за обуку" за имплицитне асоцијације гледалаца

Понашање гласача:

• Имплицитни расни ставови предвиђају понашање при гласању чак и међу гласачима који експлицитно подржавају расну једнакост
• Примењује се принцип "мали ефекти, велике последице": милиони гласача који делују на основу благих пристрасности производе значајан изборни утицај

Преференције у политици:

• Имплицитне асоцијације утичу на подршку политикама чак и када се раса не помиње
• Политике везане за криминал, социјалну помоћ и имиграцију су све под утицајем основних имплицитних расних ставова

Растући трендови у Европи: Истраживање Дедерихса (Dederichs) и Ферхеа (Verhaeghe) (2024) показало је да се имплицитна расна пристрасност у Европи смањивала све до средине 2010-их, али се од тада повећала, што је у корелацији са успоном нативистичких политичких покрета и дискурсом о "мигрантској кризи" — што сугерише да политичка реторика може брзо да обнови имплицитне стереотипе.

4.5. У здравству

Дијагностички диспаритети:

• Грин и сар. (2007) су открили да су лекари са већом имплицитном пристрасношћу знатно ређе препоручивали тромболизу (лекове за разбијање угрушака) црним пацијентима који су имали симптоме срчаног удара
• Имплицитни стереотип о црним пацијентима као "несарадљивима" навео је лекаре да несвесно просуде да се не би придржавали режима након процедуре

Лечење бола:

• Студије показују да црни пацијенти добијају мање лекова против болова од белих пацијената са идентичним стањима
• Ово је повезано са упорним имплицитним веровањем да црнци мање акутно осећају бол — стереотипом који датира из ере Џ. Марион Симса (J. Marion Sims), који је развио хируршке технике на поробљеним женама без анестезије

Неповерење пацијената:

• Историјска медицинска експлоатација (Студија сифилиса у Таскигију, 1932-1972) створила је "имплицитно неповерење" међу црним пацијентима
• Ова траума предака доводи до избегавања медицинске неге, доприносећи здравственим диспаритетима

4.6. У финансијама и инвестирању

• Одобравање кредита: Имплицитна пристрасност утиче на одлуке о кредитирању, доприносећи расним јазовима у одобравању хипотека
• Инвестиционе одлуке: Менаџери фондова могу несвесно фаворизовати компаније које воде појединци који одговарају њиховом имплицитном прототипу "успешног предузетника"
• Финансијски савети: Квалитет и врста савета могу се разликовати на основу демографије клијената
• Алгоритамско трговање: Системи вештачке интелигенције обучени на историјским подацима могу овековечити и скалирати финансијску дискриминацију

5. Студије случаја из стварног света

Студија случаја 1: Револуција слепих аудиција у симфонијском оркестру

• Контекст: Током средине 20. века, главни симфонијски оркестри били су у огромној већини састављени од мушкараца, упркос томе што су жене биле добро заступљене у музичком образовању. Многи су то приписивали "природним" разликама у способностима или интересовањима.

• Шта се десило: Почевши од 1970-их и 1980-их, оркестри су почели да спроводе "слепе" аудиције, где су музичари наступали иза паравана тако да жири није могао да их види. Неки су чак захтевали од музичара да изују ципеле како би спречили да звук потпетица открије пол.

• Пристрасност на делу: Када је жири могао да види извођаче, њихове имплицитне асоцијације (Мушкарац = Музички геније, Жена = Аматер) утицале су на њихове евалуације, чак и међу члановима жирија који су свесно веровали у родну равноправност.

• Последице: Слепе аудиције су повећале вероватноћу да жене прођу први круг за 50% и вишеструко повећале вероватноћу да буду запослене. Проценат жена у главним оркестрима порастао је са 5% у 1970. години на приближно 35% до 2000-их.

• Научене лекције: Структурне интервенције које спречавају активирање пристрасности често су ефикасније од покушаја промене мишљења. Имплицитне пристрасности чланова жирија нису нестале — једноставно нису могле да утичу на одлуку јер је покретачка информација (пол) била уклоњена.

Студија случаја 2: Скандал са алгоритмом здравствене неге компаније Optum

• Контекст: Алгоритам који је развила компанија Optum и који се користио за управљање негом за приближно 200 милиона америчких пацијената, био је дизајниран да идентификује пацијенте којима би користила додатна медицинска подршка.

• Шта се десило: Алгоритам је користио трошкове здравствене неге као замену за здравствене потребе — наизглед расно неутралну метрику. Међутим, због системских фактора (баријере у приступу, историјска дискриминација), здравствени систем троши мање на црне пацијенте чак и када имају иста здравствена стања.

• Пристрасност на делу: Алгоритам је научио да црни пацијенти "коштају мање" и стога претпоставио да су "здравији". То није била експлицитна расна варијабла — то је била имплицитна пристрасност кодирана кроз прокси варијабле.

• Последице: Црни пацијенти су морали да буду знатно болеснији од белих пацијената да би добили исти ниво интервенције у нези. Истраживачи су проценили да би исправљање ове пристрасности повећало проценат црних пацијената који примају додатну помоћ са 17,7% на 46,5%.

• Научене лекције: Имплицитна пристрасност се може "опрати" кроз наизглед неутралне податке. AI системи нису објективни — они уче из историјских података који садрже акумулирану пристрасност људских одлука. Алгоритамска ревизија у погледу дискриминаторног утицаја је од суштинског значаја.

Историјски пример: "Вечити странац" и антиазијско насиље

Азијско-страни IAT открива да многи Американци имплицитно повезују азијска лица са "страним" знаменитостима, а белачка лица са "америчким" знаменитостима. Ова имплицитна асоцијација има дубоке историјске корене (Закон о искључењу Кинеза из 1882., интернација Јапанаца, итд.) и предвиђа склоност да се доводи у питање лојалност или "американство" грађана азијског порекла.

Током пандемије COVID-19, ова имплицитна асоцијација је драматично активирана политичком реториком која је COVID-19 означила као "кинески вирус" или "Кунг флу" (Kung Flu). Истраживање је документовало скок резултата на азијско-страном IAT-у током овог периода — показујући како политички језик може брзо да обнови успаване имплицитне пристрасности.

Последице су биле опипљиве: ФБИ је пријавио повећање од 77% у злочинима из мржње против Азијата у 2020. години. Имплицитна пристрасност, појачана експлицитном реториком, преточила се директно у насиље. Овај случај илуструје да имплицитне пристрасности нису само академски куриозитети — оне чине когнитивни супстрат који омогућава дискриминацију када друштвени услови то дозвољавају.

6. Цена ове пристрасности

6.1. Лични трошкови

• Штета у односима: Имплицитне пристрасности могу суптилно да наруше међугрупна пријатељства и професионалне односе кроз нагомилане микроагресије
• Морални стрес: Људи који открију своје имплицитне пристрасности често доживљавају кривицу, срам и когнитивну дисонанцу када су њихове несвесне реакције у супротности са њиховим свесним вредностима
• Пропуштене везе: Избегавање или потцењивање потенцијалних пријатеља, ментора или партнера због несвесних просуђивања
• Самоиспуњавајућа пророчанства: Други могу да осете имплицитне пристрасности кроз невербалне сигнале, што доводи до незграпних или одбрамбених интеракција које изгледају као да "потврђују" пристрасност
• Интернализована пристрасност: Чланови стигматизованих група често интернализују имплицитне пристрасности друштва о сопственим групама, што утиче на самопоштовање и учинак (претња стереотипа)

6.2. Професионални трошкови

• Изгубљени таленат: Организације које дозвољавају да имплицитна пристрасност утиче на запошљавање пропуштају квалификоване кандидате
• Правна одговорност: Тужбе за дискриминацију на основу "обрасца и праксе" могу произаћи из акумулираних пристрасних одлука
• Смањена иновативност: Хомогени тимови (који су резултат пристрасног запошљавања) су мање креативни и мање ефикасно решавају проблеме
• Штета по репутацију: Инциденти пристрасности високог профила могу да униште вредност бренда
• "Парадокс квалитета биографије": Бертранд и Мулајнатан су открили да побољшање квалификација доноси занемарљив повраћај за црне кандидате — што значи да организације стварају подстицаје за чланове изван групе да недовољно улажу у људски капитал

6.3. Друштвени трошкови

• Кумулативни недостатак: Чак и мале пристрасности ($r \approx 0.2$) постају разорне када милиони "чувара капија" (gatekeepers) донесу хиљаде пристрасних одлука током својих каријера
• Међугенерацијска неједнакост: Пристрасност при запошљавању, кредитирању и образовању се увећава кроз генерације
• Демократска дисторзија: Имплицитна пристрасност при гласању производи изборне резултате који не одражавају декларисане вредности
• Институционална делегитимизација: Када институције (полиција, здравство, судови) систематски доводе одређене групе у неповољан положај, те групе губе веру у институционалну правичност
• Географско укорењивање: Вулетић и сар. (2023) су показали да демографски обрасци из Велике миграције (1910-1970) и данас предвиђају нивое имплицитне пристрасности — пристрасност постаје физички кодирана у местима

6.4. Статистички утицај

7. Скривене предности

Когнитивна архитектура која лежи у основи имплицитне пристрасности није инхерентно злонамерна — она одражава високо ефикасан систем учења:

Когнитивна ефикасност: Мозак свакодневно обрађује огромне количине друштвених информација. Категоризација и препознавање образаца омогућавају брзо сналажење у сложеним друштвеним светима без промишљања о свакој интеракцији. Без неког облика менталних пречица, друштвени живот би био немогуће спор.

Истинито откривање образаца: У неким случајевима, имплицитне асоцијације могу ухватити стварне статистичке обрасце (нпр. "Старији = Спори" може одражавати стварне моторичке разлике). Проблем је у томе што мозак претерано генерализује ове обрасце на појединце и на домене где они не важе.

Културолошка компетенција: Имплицитне асоцијације кодирају културолошко знање — сазнање да друштво повезује одређене групе са одређеним улогама помаже у сналажењу у друштвеним очекивањима, чак и када се особа не слаже са тим очекивањима.

Брза детекција претњи: У истински опасним ситуацијама, брза категоризација би могла да спасе живот. Еволуциона логика "боље спречити него лечити" значи да лажни позитиви (перципирање претње тамо где је нема) могу бити мање скупи од лажних негатива (пропуштање стварних претњи).

Компромис: Циљ не може бити потпуно елиминисање социјалне когниције — то би било немогуће и контрапродуктивно. Уместо тога, циљ је препознати када је брза категоризација одговарајућа (стварне хитне ситуације) наспрам тога када би је требало надвладати намерном индивидуализованом проценом (запошљавање, медицински третман, полицијско деловање у ситуацијама које нису хитне).

8. Самопроцена: Да ли имате ову пристрасност?

8.1. Контролна листа знакова упозорења

• Примећујем да сам изненађен/а када неко из одређене групе покаже стручност у неочекиваној области
• Понекад се осећам угодније или опуштеније у близини људи који деле моје демографске карактеристике
• Повремено ухватим себе како доносим претпоставке о нечијим способностима, интересовањима или пореклу на основу њихове спољашњости
• Склон/а сам да боље памтим информације које потврђују групне стереотипе него информације које су у супротности са њима
• Примећујем да примењујем различите стандарде доказа приликом процењивања људи из различитих група
• Понекад се осећам дефанзивно или ми је непријатно када се покрену теме о пристрасностима или предрасудама
• Приметио/ла сам да су моји први утисци о људима из одређених група често негативни, иако верујем у једнакост
• Лакше ми је да памтим лица људи из сопствене расне/етничке групе
• Примећујем да у двосмисленим ситуацијама неким људима више пружам "претпоставку невиности" него другима
• Други су ми рекли да се моје понашање разликује међу групама на начине које нисам приметио/ла

Бодовање:

• 0-2 означено: Ниска подложност (али запамтите — скоро сви показују имплицитну пристрасност)
• 3-5 означено: Умерена подложност
• 6-8 означено: Висока подложност
• 9-10 означено: Веома висока подложност (иако је висока самосвест заправо добар знак)

Важна напомена: Готово сви постижу резултат изнад нуле на мерама имплицитне пристрасности, а самопроцена има ограничену тачност. Полагање стварног IAT теста на Пројекту Имплицитно (implicit.harvard.edu) пружа објективнију меру.

8.2. Питања за саморефлексију

1. Када сте последњи пут били изненађени нечијом компетенцијом или улогом — и припадност којој групи је покренула то изненађење?

2. Размислите о својих пет најближих пријатељстава или професионалних односа. Колико су они демографски разнолики? Шта би то могло да сугерише о вашим имплицитним нивоима удобности?

3. Када у вестима чујете за злочин, али нисте видели детаље, како изгледа ваша ментална слика починиоца? Одакле долази та слика?

4. Присетите се недавне двосмислене ситуације (неко вам је пресекао пут у саобраћају, ученик је подбацио, колега је пропустио рок). Да ли сте понашање приписали њиховом карактеру или њиховим околностима? Да ли би се ваше приписивање разликовало да су из друге групе?

5. Да ли сте икада добили повратну информацију која сугерише да различите људе третирате различито на начине којих нисте били свесни?

8.3. Брзи дијагностички сценарио

Сценарио: Прегледате две пријаве за посао за техничку улогу. Обе имају идентичне квалификације. Један кандидат се зове "Џејмс Чен" (James Chen) и као интересовања наводи "тенис" и "шаховски клуб". Други се зове "Дешон Вилијамс" (DeShaun Williams) и наводи "кошарку" и "музичку продукцију". Морате одлучити којег кандидата ћете првог позвати на интервју.

Како бисте реаговали?

• А) Одмах прво зовете Џејмса — његова интересовања делују усклађеније са техничким начином размишљања → Висока подложност (дозволили сте да стереотипне асоцијације утичу на ирелевантну одлуку)
• Б) Осећате благу наклоност према Џејмсу, али препознајете да би то могла бити пристрасност и бацате новчић → Умерена подложност (имате пристрасност, али се активно борите против ње)
• В) Препознајете да су ваннаставна интересовања небитна за техничке способности и процењујете искључиво на основу квалификација → Ниска подложност

9. Препознавање ове пристрасности код других

9.1. Индикатори понашања

• Различита топлина: Видљиво пријатељскији, опуштенији говор тела са члановима унутар групе; формалнији, дистанциранији са другима
• Селективна пажња: Пажљивије слушање неких говорника; прекидање или одбацивање других
• Обрасци атрибуције: Приписивање успеха вештини за неке групе, а срећи за друге; приписивање неуспеха околностима за неке, а карактеру за друге
• Изрази изненађења: Видљиво изненађење када чланови изван групе покажу компетенцију ("Тако се лепо изражаваш!")
• Понашања избегавања: Избегавање насеља, предузећа или догађаја повезаних са одређеним групама
• Микроагресије: Питања попут "Одакле си заправо?" или додиривање нечије косе без дозволе

9.2. Знакови упозорења у разговору

Фразе које људи изговарају када су под утицајем ове пристрасности:

• "Ја не видим боју коже" (порицање пристрасности не елиминише је)
• "Имам пријатеље који су [X], тако да не могу бити пристрасан/на"
• "То је само стереотип, али стереотипи постоје с разлогом"
• "Нисам расиста, али..." (након чега следи стереотипна претпоставка)
• "Ти ниси као остали" (оквир изузетка који потврђује правило)
• "Није реч о раси, већ о култури"
• "Свакога процењујем као појединца" (док заправо користи менталне пречице засноване на групи)

Врсте аргумената које износе:

• Објашњавање групних диспаритета кроз недостатке групе, а не кроз системске факторе
• Захтевање "изванредних доказа" да дискриминација постоји, док некритички прихватају перспективе унутар своје групе
• Третирање изузетака који успевају упркос пристрасности као доказа да пристрасност не постоји

Питања која избегавају да поставе:

• "Са којим препрекама се ова особа можда суочила, а ја нисам?"
• "Да ли бих направио/ла исту претпоставку да је ова особа из друге групе?"

9.3. Ситуациони окидачи

Околности које активирају имплицитну пристрасност:

• Временски притисак (присиљава на ослањање на размишљање Система 1)
• Когнитивно оптерећење (обављање више задатака истовремено, умор, стрес)
• Двосмислене ситуације (када се понашање може тумачити на више начина)
• Страх или перципирана претња
• Недостатак одговорности (анонимне одлуке)

Фактори окружења:

• Хомогена окружења (недостатак излагања које је контра-стереотипно)
• Медијска исхрана пуна стереотипних приказа
• Сегрегирана насеља и друштвене мреже
• Радна места без разноликости

Емоционална стања:

• Анксиозност повећава ослањање на категоричко размишљање
• Гађење може да активира омаловажавање оних који нису део групе
• Страх појачава перцепцију претње дуж групних линија

10. Когнитивне стратегије за ублажавање пристрасности

10.1. Тренутне технике

Замена стереотипа: Када приметите стереотипну мисао (видите црнца и помислите на "опасност"), експлицитно је означите као стереотип, одбаците је и свесно је замените егалитарном мишљу.

Контра-стереотипно замишљање: Активно визуализујте специфичне, живописне примере људи који пркосе стереотипу. Немојте мислити "неки црнци су научници" — помислите "Нил Деграс Тајсон (Neil deGrasse Tyson) објашњава астрофизику".

Индивидуализација: Присилите себе да се фокусирате на специфичне личне детаље о особи — њихове ципеле, наочаре, специфичне вештине, јединствене хобије. Ово спречава да доминира обрада заснована на категоријама.

Узимање перспективе: Намерно усвојите перспективу из првог лица члана изван групе. "Шта ова особа тренутно осећа? Какве би бриге могла имати улазећи у ову собу?"

Успорите: Када је одлука важна, намерно успорите процес доношења одлука. Имплицитна пристрасност је најутицајнија када сте приморани да се ослоните на брзу, аутоматску обраду.

10.2. Дугорочне стратегије

Модел разбијања навике предрасуда (Devine и сар., 2012): Ово је најемиријскији подржана интервенција. Она оквирује предрасуде као нежељену навику која захтева недеље активне праксе коришћењем горе наведеног скупа стратегија.

Резултати: У лонгитудиналним студијама, учесници који су користили ове алате показали су знатно ниже IAT резултате 8 недеља након интервенције и пријавили већу "забринутост због дискриминације", што сугерише успешну интернализацију егалитарне мотивације.

Повећање контакта: Тражите прилике за позитивну интеракцију са једнаким статусом са члановима изван групе. Мозак учи из искуства — дајте му нове податке.

Диверзификација медија: Намерно конзумирајте медије (књиге, филмове, изворе вести) који представљају контра-стереотипне репрезентације.

Едукација и подизање свести: Само сазнање о имплицитној пристрасности не елиминише је, али вам омогућава да препознате када би могла утицати на вас и да предузмете корективне мере.

10.3. Дизајн окружења

Слепе аудиције/Анонимизована евалуација: Уклоните идентификационе информације из пријава, прегледа учинка или других евалуација. Студија са оркестром је показала да су слепе аудиције повећале запошљавање жена за 50% без промене основних пристрасности жирија.

Структурирани протоколи за доношење одлука: Користите унапред одређене критеријуме и рубрике за евалуацију. Када је процена субјективна, пристрасност попуњава празнину.

Разнолика тела за доношење одлука: Појединачни доносиоци одлука склонији су индивидуалној пристрасности. Разнолики комитети са експлицитном дискусијом о забринутостима због пристрасности дају праведније резултате.

Структуре одговорности: Захтевајте од доносиоца одлука да оправдају своје изборе. Очекивање одговорности активира промишљену обраду.

Окружења богата контактом: Дизајнирајте физичке просторе и организационе структуре које олакшавају међугрупну интеракцију.

10.4. Када тражити спољни допринос

Тражите спољне перспективе када:

• Доносите одлуке са високим улозима о појединцима (запошљавање, унапређење, дисциплина)
• Приметите да имате снажне реакције на некога кога не познајете добро
• Сте под временским притиском или стресом, али одлука има трајне последице
• Процењујете некога из групе са којом имате ограничен контакт
• Су вам други сугерисали да бисте могли имати слепе тачке у овој области

Кога питати:

• Колеге из различитих демографских средина
• Формалне службенике за разноликост или омбудсмане
• Спољне рецензенте који не познају укључене појединце
• Структуриране алате за прекид пристрасности (нпр. анонимизација, контролне листе критеријума)

11. Практичне вежбе

Вежба 1: Дневник стереотипа

• Циљ: Изградња свести о аутоматским стереотипним мислима
• Потребно време: 5 минута дневно
• Потребни материјали: Свеска или апликација за белешке
• Ниво тежине: Почетни
• Упутства:
  1. Сваке вечери размислите о свом дану
  2. Идентификујте 1-2 тренутка када сте донели претпоставку о некоме на основу њихове очигледне припадности групи
  3. Запишите: Каква је била ситуација? Коју сте припадност групи приметили? Коју сте претпоставку направили?
  4. Преиспитајте: Да ли је било доказа за вашу претпоставку, или је била стереотипна?
  5. Замените: Коју егалитарну алтернативну мисао сте могли имати?
• Питања за размишљање:
  • О којим групама најчешће доносите претпоставке?
  • Да ли се исти стереотипи понављају?
  • Да ли постајете бржи у хватању ових мисли?
• Учесталост: Дневно током најмање 4 недеље

Вежба 2: Листа контра-стереотипних примера

• Циљ: Изградња доступних контра-стереотипних менталних асоцијација
• Потребно време: У почетку 30 минута, затим 5-минутна недељна ажурирања
• Потребни материјали: Папир или документ
• Ниво тежине: Почетни
• Упутства:
  1. Идентификујте 3-5 група према којима можда имате имплицитне пристрасности
  2. За сваку групу наведите 5-10 специфичних појединаца (људи које лично познајете или јавне личности) који су у супротности са уобичајеним стереотипима
  3. Укључите живописне детаље: По чему су познати? Које њихово специфично достигнуће вас импресионира?
  4. Прегледајте ову листу недељно, додајући нове примере
  5. Када приметите стереотипну мисао, намерно се присетите одређеног примера са ваше листе
• Питања за размишљање:
  • Да ли је било тешко генерисати контра-примере за било коју групу? Шта то сугерише о вашој изложености?
  • Како бисте могли повећати изложеност контра-стереотипним појединцима?
  • Да ли је прегледање ове листе променило ваше аутоматске асоцијације?
• Учесталост: Направите једном, прегледајте и проширујте недељно

Вежба 3: Дневник узимања перспективе

• Циљ: Изградња емпатије и смањење дистанце према онима изван групе
• Потребно време: 15 минута, два пута недељно
• Потребни материјали: Дневник
• Ниво тежине: Средњи
• Упутства:
  1. Изаберите некога из групе која се разликује од ваше — било некога кога познајете или јавну личност
  2. Проведите 15 минута пишући наратив у првом лицу о њиховом дану, замишљајући њихове мисли, бриге, фрустрације и радости
  3. Укључите: Са којим изазовима би могли да се суоче, а ви не? Са којим микроагресијама или стереотипима би могли да се сусретну? Које су њихове наде и страхови?
  4. Ако је могуће, проверите своје преузимање перспективе кроз разговор са неким из те групе и распитујући се о њиховим искуствима
  5. Ревидирајте своју перспективу на основу онога што сазнате
• Питања за размишљање:
  • Шта вас је изненадило у овој вежби?
  • Која искуства сте можда превидели?
  • Како се проверено преузимање перспективе разликовало од ваших почетних претпоставки?
• Учесталост: Два пута недељно током 8 недеља

Дневна пракса

Протокол паузирања при одлучивању

Пре него што донесете било какву процену о особи (одлука о запошљавању, оцена учинка, процена кредибилитета), паузирајте на 10 секунди и запитајте се:

1. "Да ли бих донео/ла исту процену да је ова особа из друге групе?"
2. "Да ли процењујем ову особу као појединца или као члана категорије?"
3. "На којим специфичним, индивидуализујућим информацијама ово заснивам?"

• Препоручено трајање: 10-30 секунди по одлуци
• Најбоље доба дана: Кад год доносите процене о људима
• Како пратити напредак: Бележите колико често ухватите себе како доносите процене засноване на категоријама у односу на индивидуализоване процене

Недељни изазов

Изазов проширења контаката

Сваке недеље, укључите се у једну смислену интеракцију са неким из групе са којом имате ограничен контакт. То би могло бити:

• Ручак или кафа са колегом из другог одељења или са другачијим пореклом
• Присуствовање догађају или посета предузећу у насељу које обично избегавате
• Читање књиге или гледање филма који је створио неко из друге групе и разговор о томе

Очекивани резултати након 4 недеље:

• Повећана удобност у међугрупним интеракцијама
• Нови контра-стереотипни примери додати у менталну библиотеку
• Већа свест о претходно невидљивим перспективама

Теме за вођење дневника:

• Шта сам сазнао/ла о овој особи/групи што раније нисам знао/ла?
• Какве сам претпоставке унео/ла у ову интеракцију и да ли су биле тачне?
• Како могу да створим више прилика за овакву врсту контакта?

12. За специфичне публике

За лидере и менаџере

Како имплицитна пристрасност утиче на лидерство:

• Одлуке о запошљавању обликоване "културним уклапањем" што заправо значи демографску сличност
• Евалуације учинка под утицајем очекивања, а не стварног учинка
• Процеси унапређења кроз које се губе разноврсни таленти на сваком нивоу
• Динамика састанака где се неки гласови чују више од других

Организационе стратегије:

• Уведите структуриране интервјуе са унапред одређеним критеријумима
• Користите слепи преглед биографија за почетну селекцију
• Захтевајте разноврсне листе кандидата пре коначних одлука
• Пратите демографске податке у свакој фази процеса да бисте идентификовали где пристрасност улази
• Створите одговорност: захтевајте од доносилаца одлука да оправдају изборе на основу критеријума

Шта не функционише: Истраживање Добина и Калева открило је да обавезна обука о разноликости често има контраефекат. Пет година након увођења обавезне обуке, компаније су забележиле пад у проценту црних жена и азијских мушкараца у менаџменту. Обавезна обука шаље сигнал "ви сте проблем" и покреће психолошки отпор (реактанцу).

Шта функционише:

• Добровољна обука конципирана као професионални развој
• Програми унакрсне обуке
• Менторски програми
• Радне групе за разноликост са стварним ауторитетом
• Структурне промене (еквиваленти слепих аудиција)

За родитеље и едукаторе

Објашњења прилагођена узрасту:

Мала деца (4-7 година): "Наши мозгови су стварно добри у стављању ствари у групе — као 'пси' и 'мачке'. Понекад наши мозгови то раде и са људима. Али људи нису као категорије — свака особа је посебна и другачија, чак и ако изгледа слично другим људима."

Старија деца (8-12 година): "Наши мозгови увек уче из онога што видимо око себе. Ако на телевизији углавном видимо одређене врсте људи како раде одређене послове, наши мозгови би могли почети то да очекују. Али то није фер, јер свако може све. Морамо да подучимо наше мозгове тако што ћемо упознавати и учити о пуно различитих људи."

Тинејџери: Директно укључивање у науку — покажите им IAT, дискутујте о истраживањима, истражите како се то примењује на њихов друштвени свет.

Стратегије превенције:

• Обезбедите разноврсну репрезентацију у књигама, медијима и играчкама од најранијег детињства
• Омогућите позитиван контакт са децом из различитих средина
• Експлицитно разговарајте о стереотипима и оспоравајте их када се појаве
• Будите модел за контра-стереотипно понашање и односе
• Научите их разликама између "другачијег" и "лошег"

За здравствене раднике

Клиничке импликације:

• Будите свесни да истраживања показују да лекари са већом имплицитном пристрасношћу ређе препоручују одређене третмане црним пацијентима
• Препознајте упорност лажних уверења (нпр. различита толеранција на бол) која утичу на негу

Дијагностичка разматрања:

• Користите структуриране дијагностичке критеријуме уместо препознавања образаца на основу инстинкта
• Будите свесни да се идентични симптоми могу различито тумачити међу групама
• Успорите када доносите одлуке са високим улозима

Комуникација са пацијентима:

• Препознајте да многи пацијенти носе имплицитно неповерење засновано на историјској трауми (Таскиги, Џ. Марион Симс)
• Јасно објасните своје резоновање да бисте изградили поверење
• Активно тражите од пацијената да изнесу своје бриге и схватите их озбиљно

Етичка разматрања:

• Прво, не нашкоди — ово укључује и штету од пристрасног лечења
• Вршите ревизију исхода по демографији пацијената да бисте идентификовали диспаритете
• Подржите институционалне напоре за решавање системске пристрасности

За финансијске стручњаке

Специфичне примене за инвестирање:

• Будите свесни да имплицитна пристрасност може утицати на то који предузетници добијају финансирање (препознавање образаца претходних успеха ствара хомогеност)
• Испитајте да ли "културно уклапање" или "интуитивни осећај" о компанијама маскирају пристрасност

Комуникација са клијентима:

• Обезбедите упоредив квалитет и врсту савета за све демографске групе клијената
• Извршите ревизију портфеља клијената по демографији да бисте проверили да ли постоји различит третман

Управљање ризицима:

• Разнолики тимови за доношење одлука производе робусније процене
• Хомогени тимови су склони заједничким слепим тачкама

Алгоритамска разматрања:

• Системи вештачке интелигенције обучени на историјским подацима о кредитирању или инвестирању овековечиће пристрасност из прошлости
• Извршите ревизију алгоритама у погледу несразмерног утицаја на различите групе

13. Интеракције са другим пристрасностима

Пристрасности које појачавају имплицитну пристрасност

Пристрасности које се супротстављају имплицитној пристрасности

Уобичајени ланци пристрасности

Каскада пристрасности при пуцању:

Имплицитни стереотип (Црнац = Опасан) → Пристрасност потврђивања (више примећивања знакова претње) → Хеуристика доступности (присећање вести о криминалу) → Основна грешка атрибуције (приписивање двосмисленог понашања злонамерности) → Дискриминаторна акција (пуцање)

Тачке прекида: Успорите процес одлучивања; захтевајте промишљену процену уместо аутоматског одговора; реструктурирајте окружења како бисте обезбедили време да Систем 2 надвлада Систем 1.

Каскада при запошљавању:

Имплицитни стереотип (Жена = Неподобна за лидерство) → Хало ефекат (повезивање мушких кандидата са компетенцијом) → Пристрасност потврђивања (тумачење двосмислених елемената биографије повољно за мушкарце) → Исход: Идентичне биографије, различити исходи

Тачке прекида: Слепи преглед биографија; структурирани интервјуи; разнолики комитети за запошљавање; експлицитни критеријуми постављени пре прегледа кандидата.

14. Културолошке перспективе

Истраживања показују да се имплицитна пристрасност манифестује различито у различитим културама, иако се неки облици чине готово универзалним.

Међународни IAT подаци (Пројекат Имплицитно):

IAT за пол-науку показује изузетну доследност у различитим културама — приближно 70% испитаника глобално имплицитно повезује "Мушкарца" са "Науком" и "Жену" са "Уметношћу". Ово сугерише дубоку међукултуралну пенетрацију овог специфичног стереотипа.

Међутим, обрасци расне пристрасности значајно се разликују по географији:

Теорија "Пристрасности гомиле":

Истраживање Вулетића и сар. (2023) показује да имплицитна пристрасност није само својство појединаца већ и места и историје. Амерички окрузи који су забележили већи прилив црних становника током Велике миграције (1910-1970) данас показују знатно више нивое имплицитне антицрначке пристрасности међу белим становницима — генерацијама касније. Историјски догађаји остављају "когнитивне отиске" на популацијама.

Индивидуализам наспрам колективизма:

Пристрасност према вечитом странцу:

Истраживања показују да чак и Американце азијског порекла рођене у САД-у многи други Американци имплицитно повезују са "Страним", а не са "Америчким" — укључујући често и саме Американце азијског порекла. Ово показује колико дубоко културолошке поруке могу бити интернализоване чак и код стигматизованих група.

15. Митови и заблуде

16. Увиди стручњака

"Прошло искуство утиче на расуђивање на начин који актеру није интроспективно познат." — Ентони Гринвалд и Мазарин Банаџи, Psychological Review (1995)

"Имплицитни стереотипи су когнитивни остатак живота у стратификованом друштву. Они су статистичке лекције које је мозак научио из окружења — лекције које су често у супротности са експлицитним вредностима онога ко учи." — Синтеза из истраживања имплицитне когниције

"Питање није 'да ли' имамо пристрасност, већ 'како' наша пристрасност утиче на наше понашање и 'шта' радимо да бисмо смањили утицај пристрасности на наше одлуке и наше поступке." — Мазарин Банаџи

"Не можемо једноставно натерати наш несвесни ум да одучи оно што га свет учи сваког дана. Уместо тога, морамо користити наше свесне вредности да бисмо редизајнирали свет." — Синтеза истраживања о имплицитној пристрасности

17. Кључни закључци

1. Имплицитна пристрасност је готово универзална — огромна већина људи, укључујући и оне који свесно подржавају једнакост, показује мерљиве имплицитне пристрасности на тестовима као што је IAT.

2. Делује аутоматски — имплицитна пристрасност утиче на одлуке у делићу секунде пре него што свесно размишљање може да интервенише, чинећи је посебно утицајном у ситуацијама временског притиска или двосмислености.

3. Учи се из окружења — имплицитне асоцијације нису урођене већ се апсорбују из културолошких порука, медијских репрезентација и статистичких образаца стратификованог друштва.

4. Мали ефекти имају велике последице — чак и слабе корелације између пристрасности и понашања постају разорне када милиони људи током времена донесу хиљаде одлука.

5. Свест помаже, али не решава проблем — знање о пристрасности вам омогућава да је ухватите и исправите, али не елиминише аутоматски основне асоцијације.

6. Структурне интервенције су успешније од промене ставова — слепе аудиције, анонимизоване евалуације и структурирани протоколи за доношење одлука су ефикаснији од покушаја директне промене мишљења.

7. Имплицитна пристрасност је подложна промени, али захтева труд — намерна, континуирана интервенција коришћењем техника заснованих на доказима (замена стереотипа, контра-стереотипно замишљање, индивидуализација, преузимање перспективе, контакт) може током времена да промени имплицитне асоцијације.

18. Додатни ресурси

Академски радови

• Greenwald, A. G., & Banaji, M. R. (1995). Implicit social cognition: Attitudes, self-esteem, and stereotypes. Psychological Review, 102(1), 4-27.

• Greenwald, A. G., McGhee, D. E., & Schwartz, J. L. K. (1998). Measuring individual differences in implicit cognition: The Implicit Association Test. Journal of Personality and Social Psychology, 74(6), 1464-1480.

• Correll, J., Park, B., Judd, C. M., & Wittenbrink, B. (2002). The police officer's dilemma: Using ethnicity to disambiguate potentially threatening individuals. Journal of Personality and Social Psychology, 83(6), 1314-1329.

• Bertrand, M., & Mullainathan, S. (2004). Are Emily and Greg more employable than Lakisha and Jamal? A field experiment on labor market discrimination. American Economic Review, 94(4), 991-1013.

• Devine, P. G., Forscher, P. S., Austin, A. J., & Cox, W. T. L. (2012). Long-term reduction in implicit race bias: A prejudice habit-breaking intervention. Journal of Experimental Social Psychology, 48(6), 1267-1278.

• Moss-Racusin, C. A., Dovidio, J. F., Brescoll, V. L., Graham, M. J., & Handelsman, J. (2012). Science faculty's subtle gender biases favor male students. Proceedings of the National Academy of Sciences, 109(41), 16474-16479.

• Green, A. R., Carney, D. R., Pallin, D. J., et al. (2007). Implicit bias among physicians and its prediction of thrombolysis decisions for Black and White patients. Journal of General Internal Medicine, 22(9), 1231-1238.

Књиге

• Banaji, M. R., & Greenwald, A. G. (2013). Blindspot: Hidden Biases of Good People. Delacorte Press.

• Eberhardt, J. L. (2019). Biased: Uncovering the Hidden Prejudice That Shapes What We See, Think, and Do. Viking.

• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.

Онлајн ресурси

• Пројекат Имплицитно (Project Implicit) (implicit.harvard.edu) — Урадите IAT тест и истражите сопствене имплицитне асоцијације

19. Резиме картица

20. Речник коришћених термина

21. Питања за дискусију

За читалачке клубове, учионице или саморефлексију:

1. Ако се имплицитне пристрасности уче из окружења без нашег пристанка, како би требало да размишљамо о моралној одговорности за пристрасно понашање?

2. Истраживања сугеришу да чак и људи који снажно подржавају једнакост показују мерљиве имплицитне пристрасности. Шта то значи за природу предрасуда?

3. Обавезна обука о разноликости често има контраефекат, док структурне интервенције (попут слепих аудиција) функционишу. Шта нам то говори о границама промене ставова у односу на дизајн окружења?

4. Истраживање "Пристрасност гомиле" показује да историјски догађаји од пре скоро једног века и даље предвиђају тренутне нивое имплицитне пристрасности. Како би то требало да обликује наше разумевање о томе колико брзо друштва могу да се промене?

5. Ако се системи вештачке интелигенције обучавају на људским подацима и тиме уче људске пристрасности, да ли би требало да их држимо према вишим стандардима од људи, или је довољно да "нису гори од људи"?