Avtomatlaşdırma qərəzi

Bir baxışda

1. Qısa xülasə

Avtomatlaşdırma qərəzi – hətta kompüter tamamilə yanlış olduqda belə, öz mühakiməmizdən və ya digər məlumat mənbələrindən daha çox kompüter tərəfindən yaradılan tövsiyələrə etibar etmək meylimizdir. Bir maşın bizə nəyisə deyəndə biz çox vaxt onu yoxlamadan həqiqət kimi qəbul edirik və əslində tənqidi təfəkkürümüzü alqoritmə təslim edirik. Bu zehni qısayol idrak enerjisinə qənaət etmək üçün təkamül etmişdir, lakin qeyri-kamil avtomatlaşdırılmış sistemlərə tətbiq edildikdə təhlükəli olur, aviasiya, səhiyyə, məhkəmə prosesləri və gündəlik qərarlarda səhvlərə səbəb olur.

2. Bunun arxasındakı elm

2.1. Kəşf və tarix

Baxmayaraq ki, "avtomatlaşdırma arxayınlığı" ilə bağlı tək-tük sübutlar onilliklər ərzində aviasiya dairələrində mövcud idi, avtomatlaşdırma qərəzinin rəsmi elmi tədqiqi 1990-cı illərin sonlarında başladı. Linda Skitka, Kathleen Mosier və Mark Burdick-in 1999-cu ildə dərc olunmuş "Avtomatlaşdırma qərar qəbuletməni qərəzli edirmi?" (Does automation bias decision-making?) adlı əhəmiyyətli tədqiqatı, bu fenomeni sadəcə yorğunluq və ya qeyri-kompetentlikdən asılı olmayan fərqli bir idrak qərəzi kimi ayırd etdi. "International Journal of Human-Computer Studies" jurnalında dərc olunan bu məqalə insan-kompüter qarşılıqlı əlaqəsi tədqiqatlarının trayektoriyasını kökündən dəyişdi.

Bu konsepsiya avtomatlaşdırılmış sistemlərin etibarlılığına baxmayaraq, yeni növ insan səhvləri gətirdiyi barədə artan məlumatlılıqdan yaranmışdır. Erkən aviasiya insidentləri pilotların avtopilot sistemlərindən təhlükəli dərəcədə asılı vəziyyətə düşdüyünü göstərirdi, lakin yalnız ciddi eksperimental tədqiqatlarla alimlər bu asılılığı kəmiyyətcə ölçə və xarakterizə edə bildilər.

1999-cu ildən bəri bizim anlayışımız əhəmiyyətli dərəcədə inkişaf etmişdir. Tədqiqatçılar avtomatlaşdırma qərəzini əlaqəli, lakin fərqli konsepsiya olan avtomatlaşdırma arxayınlığından fərqləndiriblər. Bu sahə aviasiyadan səhiyyə, avtonom avtomobillər, hüquq sistemləri və ən son olaraq süni intellekt və Böyük Dil Modellərinə (LLM) qədər genişlənmişdir. Generativ süni intellektin yüksəlişi qərəzin yeni təzahürlərini, o cümlədən "hallüsinasiyanın qəbul edilməsini" - ağlabatan səslənən, lakin uydurulmuş süni intellekt nəticələrinə inanmaq meylini təqdim etdi.

Tədqiqatdakı əsas mərhələlər bunlardır:

• 1999: Skitka, Mosier və Burdick-in təməlqoyucu eksperimental tədqiqatı
• 2004: Lee və See-nin inamın kalibrlənməsi çərçivəsi
• 2010: Parasuraman və Manzeyin arxayınlığı qərəzdən fərqləndirən "Diqqət İnteqrasiyası" xülasəsi
• 2017: Lyell və Coiera-nın "Yoxlama Mürəkkəbliyi" modeli
• 2023–2025: LLM tərəfindən törədilən avtomatlaşdırma qərəzi və hallüsinasiyanın qəbul edilməsi üzrə tədqiqatların partlayışı

2.2. Əsas tədqiqatçılar

2.3. Əhəmiyyətli tədqiqatlar

"Avtomatlaşdırma Qərar Qəbuletməni Qərəzli Edirmi?" (Skitka, Mosier & Burdick, 1999)

Tədqiqatçılar avtomatlaşdırılmış qərarlara dəstək sistemi tərəfindən kömək edildikdə insan operatorlarının sistem vəziyyətlərini necə izlədiyini empirik şəkildə yoxlamaq üçün aşağı dəqiqlikli uçuş simulyasiyası tapşırığını tərtib etdilər. İştirakçılara cihazları izləmək və simulyasiyanı "uçurmaq" tapşırığı verilmişdi. Eksperimental dizayn etibarlı, lakin qeyri-kamil avtomatlaşdırılmış monitorinq köməkçisini tətbiq etdi, bu da tədqiqatçılara inam və səhvin kəsişməsində insan davranışını müşahidə etməyə imkan verdi.

Əsas Nəticələr:

• Avtomatlaşdırılmış köməkçiləri olan iştirakçıların, əllə idarə edən operatorlarla müqayisədə ayıq şəkildə məlumat axtarışına cəlb olunma ehtimalı əhəmiyyətli dərəcədə az idi
• Avtomatlaşdırma insanın diqqətini sadəcə tamamlamadı — onu effektiv şəkildə əvəz etdi
• Avtomatlaşdırılmış köməkçi yanlış bir hərəkət tövsiyə etdikdə, operatorların əhəmiyyətli bir faizi xam məlumatların aydın şəkildə bunun səhv olduğunu göstərməsinə baxmayaraq, həmin tövsiyəyə əməl etdi
• Tədqiqat iki növ səhvi müəyyən etdi: buraxılma səhvləri (avtomatlaşdırma xəbərdarlıq etmədiyi üçün hadisələri qaçırmaq) və komissiya səhvləri (yanlış avtomatlaşdırılmış tövsiyələrə əməl etmək)

Müəlliflər belə nəticəyə gəldilər ki, avtomatlaşdırma qərəzi "ayıq məlumat axtarışı və emalı üçün evristik əvəzləyici", "vəziyyətin qiymətləndirilməsini vaxtından əvvəl dayandıran" idrak qısayolu kimi çıxış edir.

Yaddaş Təhrifi Tədqiqatı (Mosier, Davam Tədqiqatı)

Pilotların iştirak etdiyi sonrakı tədqiqatlarda avtomatlaşdırma qərəzinə məruz qalanların 67%-i daha sonra hadisənin "yalançı yaddaşını" nümayiş etdirdi. Onlar xam məlumatlarda avtomatlaşdırmanın yanlış qərarını dəstəkləyən ipuclarını gördüklərini xatırladılar — əslində heç vaxt mövcud olmayan ipuclarını. Bu onu göstərir ki, avtomatlaşdırma qərəzi qavrayışı geriyə doğru dəyişdirə bilər; beyin, avtomatlaşdırmanın nəticəsini qəbul etdikdən sonra onu dəstəkləmək üçün sübutlar uydurur.

İnamın Kalibrlənməsi Tədqiqatı (Lee & See, 2004)

Avtomatlaşdırmaya inamı "bir agentin qeyri-müəyyənlik və həssaslıqla xarakterizə olunan bir vəziyyətdə fərdin məqsədlərinə çatmasına kömək edəcəyi münasibəti" kimi təyin etdi. İnamın üç əsasını müəyyən etdi: Performans (tarixi etibarlılıq), Proses (alqoritmləri anlamaq) və Məqsəd (dizaynerin niyyəti). Göstərdi ki, Prosesi anlamadan yalnız Performansa güvənmək, ekstremal hallarda (kənar hallarda) fəlakətli qərəzliyə gətirib çıxarır.

Yoxlama Mürəkkəbliyi Sistematik Xülasəsi (Lyell & Coiera, 2017)

Avtomatlaşdırma qərəzinin hətta tək tapşırıqlı mühitlərdə belə tüğyan etdiyini nümayiş etdirdi (tapşırığın kifayət qədər mürəkkəb olması şərti ilə). Yoxlama Mürəkkəbliyi (Verification Complexity) anlayışını təqdim etdi: avtomatlaşdırma qərəzinin ehtimalı, avtomatlaşdırmanın nəticəsini yoxlamaq üçün tələb olunan koqnitiv səylə düz mütənasibdir. Bu model müasir "qara qutu" süni intellekt sistemlərini anlamaq üçün vacibdir.

2.4. Nevroloji əsas

Avtomatlaşdırma qərəzinin nevroloji əsasları beynin fundamental enerjiyə qənaət mexanizmləri ilə əlaqədardır:

İdrak Yükü və Prefrontal Korteoks: Beyin enerjini qoruyan bir orqandır. Qərar qəbuletmə və yoxlama kimi icraedici funksiyalara cavabdeh olan prefrontal korteks əhəmiyyətli dərəcədə metabolik resurslar tələb edir. Avtomatlaşdırma ağlabatan bir cavab verdikdə beynin standart rejimi onu yüksək enerjili yoxlama proseslərini cəlb etmədən qəbul etməkdir.

"Zehni Xəsis" Mexanizmi: Əvvəlcə Fiske və Taylor (1984) tərəfindən təklif edilən bu prinsip, insanların təkamül nəticəsində koqnitiv səyləri minimuma endirməyə motivasiya edildiyini irəli sürür. Ətraf mühit imkan verdiyi zaman beyin evristik emala (zehni qısayollara) keçir. Avtomatlaşdırma "super-evristik" kimi fəaliyyət göstərərək bundan istifadə edir.

Diqqət Şəbəkələri və Sayıqlığın Azalması: Parasuraman-ın beyin görüntüləmədən istifadə edən neyroerqonomik tədqiqatları beynin monitorinq tapşırıqlarından nə vaxt ayrıldığını aşkar etdi. Etibarlı avtomatlaşdırılmış sistemlərin passiv monitorinqi zamanı diqqət şəbəkələri (xüsusən arxa diqqət şəbəkəsi) zaman keçdikcə aktivliyin azaldığını göstərir — bu "sayıqlığın azalmasıdır".

Yaddaş Uydurması (Confabulation): Avtomatlaşdırmanın yaratdığı səhvlərdən sonra pilotların 67%-nin yalançı xatirələr nümayiş etdirməsi faktı yaddaşın möhkəmləndirilməsi proseslərinin iştirakını göstərir. Beyin avtomatlaşdırılmış nəticəni qəbul etdikdə hipokampal yaddaş sistemləri möhkəmlənmə zamanı dəstəkləyici "sübutlar" qura, yanlış qərarı tutarlı bir hekayəyə inteqrasiya edə bilər.

Dopaminerjik Mükafat Yolları: Avtomatlaşdırmaya inanmaq və haqlı olmaq mükafat yollarını tətikləyir. Bu müsbət möhkəmləndirmə zaman keçdikcə avtomatlaşdırmanın qəbulu evristikini gücləndirir və onu ləğv etməyi getdikcə daha da çətinləşdirir.

3. Təkamül mənşəyi

Avtomatlaşdırma qərəzi texnologiyadan əvvəlki mühitlərdə sağ qalmağı artırmaq üçün təkamül etmiş koqnitiv mexanizmlərin uyğunsuz tətbiqini təmsil edir.

Qıtlıq Dünyasında Enerjiyə Qənaət: Əcdadlarımız kalorilərin qiymətli olduğu mühitlərdə yaşayırdılar. Beyin bədənin enerjisinin təxminən 20%-ni istehlak edir. Təkamül, fiziki sağqalma fəaliyyətləri üçün enerjiyə qənaət edərkən "kifayət qədər yaxşı" qərarlar çıxaran idrak qısayollarının xeyrinə işləyirdi. İdrak işini etibarlı mənbələrə həvalə etmək uyğunlaşma idi.

Sosial Tabeçilik və Ekspertiza: İnsanlar mütəxəssislərə (yaşlılara, bacarıqlı ovçulara, təbiblərə) tabe olmağın sağ qalmaqda üstünlük verdiyi sosial qruplarda təkamül etmişlər. Biz etibarlı məlumat mənbələrini müəyyən etmək və onlara tabe olmaq üçün evristika inkişaf etdirmişik. Avtomatlaşdırılmış sistemlər, xüsusən də 99% etibarlı olanlar, eyni tabeçilik mexanizmlərini tətikləyir.

Alətə İnamın Sağ Qalma Kimi Qiymətləndirilməsi: İnsanın öz alətlərinə güvənməsi təkamül baxımından vacib idi. Nizəsinin düzgün uçacağına daim şübhə edən ovçu iflic vəziyyətində qalardı. Təkamül etibarlı alətlərə inamı seçmişdir. Müasir avtomatlaşdırma bu dərin kök salmış alətə güvənmə mexanizmini ələ keçirir.

Qüsur, Yoxsa Xüsusiyyət? Avtomatlaşdırma qərəzi əsas etibarı ilə səhv tətbiq edilən bir xüsusiyyətdir. Koqnitiv səmərəlilik strategiyası rəylərin dərhal verildiyi və nəticələrin mütənasib olduğu təbii mühitlərdə yaxşı işləyir. O, səhvlərin nadir, lakin dağıdıcı olduğu, rəylərin gecikdirildiyi və nəticələrin asimmetrik olduğu yüksək riskli texnoloji mühitlərdə fəlakətli şəkildə uğursuz olur.

Ətraf Mühit Uyğunsuzluğu: Bu qərəzin uyğun olduğu mühitlər müasir texnoloji kontekstlərdən çox fərqlidir. Daş alətlərlə işləyərkən faydalı olan bir evristika nüvə reaktorlarına, təyyarələrə və ya tibbi diaqnozlara nəzarət edən sistemlərə tətbiq edildikdə təhlükəli olur. Bizim koqnitiv arxitekturamız etibarlılıq-təhlükə paradoksunu (maşın nə qədər etibarlıdırsa, insan səhvi bir o qədər təhlükəli olur) idarə etmək üçün təkamül etməmişdir.

4. Bu qərəz necə özünü göstərir

4.1. Gündəlik həyatda

• GPS Naviqasiyası: Sürücülər istiqamətlərə zidd olan vizual sübutlara baxmayaraq, GPS təlimatlarını izləyərək göllərə, bağlı yollara və ya yararsız marşrutlara daxil olurlar. Naviqasiya sisteminin səlahiyyəti birbaşa sensor müşahidəsini üstələyir.

• Orfoqrafiya və Qrammatika Alətləri: Yazıçılar son sənədlərə səhvlər daxil edərək, yanlış avtomatik düzəlişləri və ya qrammatik təklifləri yoxlamadan qəbul edirlər. Yaşıl işarə təsdiq möhürünə çevrilir.

• Ağıllı Ev Cihazları: Şəxsi rahatlığı və ya xüsusi ev şəraitini nəzərə almadan ağıllı termostatın enerji tövsiyələrini qəbul etmək.

• Onlayn Tövsiyələr: Satınalmalar, əyləncələr və ya sosial əlaqələr üçün alqoritm əsaslı tövsiyələri niyə məhz xüsusi seçimlərin təqdim edildiyini sorğulamadan qeyd-şərtsiz qəbul etmək.

• Kalkulyatordan Asılılıq: Hətta təxmin etməyin bariz səhvləri aşkar edəcəyi sadə hesablamalar üçün belə nəticənin ağlabatan olub-olmadığını yoxlamadan kalkulyator nəticələrini qəbul etmək.

4.2. İş yerində

• Elektron Cədvəllərə Həddindən Artıq İnam: Maliyyə modellərində və hesabatlarda təkrarlanan səhvlərə səbəb olan Excel-də düstur nəticələrini əsas hesablamaları yoxlamadan qəbul etmək.

• Avtomatlaşdırılmış Cədvəl Tərtibatı: Komanda dinamikası, səyahət vaxtı və ya fərdi iş nümunələri kimi insan faktorlarını nəzərə almayan, süni intellekt tərəfindən yaradılmış qrafiklərə əməl etmək.

• İnsan Resurslarının (HR) Skrininq Proqramı: İşə qəbul edən menecerlər tamamilə avtomatlaşdırılmış CV skrininqinə etibar edir, uyğun olmayan kimi işarələnmiş ixtisaslı namizədləri qaçırır və ya alqoritmin bəyəndiyi ixtisassız namizədləri qəbul edirlər.

• Performans Analitikası: İşçilərin töhfəsinin keyfiyyət aspektlərini əks etdirməyən avtomatlaşdırılmış performans göstəricilərinə həddindən artıq güvənmək.

• E-poçtun Filtrasiyası: Spam filtrləri vacib kommunikasiyaları yanlış kateqoriyalaşdırdığına görə, filtrlənmiş mesajların dövri yoxlanılması aparılmadan onları əldən vermək.

• Avtomatlaşdırılmış Hesabatlar: "Sistem belə dedi"yi üçün onların düzgünlüyünü fərz edərək, anomaliyalar və ya səhvlər üçün yoxlamadan sistem tərəfindən yaradılan hesabatları yaymaq.

4.3. Biznes və marketinqdə

• Alqoritmik Ticarət: Maliyyə şirkətlərinin insan nəzarəti olmadan ticarət alqoritmlərinə etibar etməsi sürətli çökmələrə və ardıcıl uğursuzluqlara səbəb olur.

• Dinamik Qiymətləndirmə: Fövqəladə hallar və ya təchizat fasilələri zamanı müştəriləri uzaqlaşdıran avtomatlaşdırılmış qiymətlərin tətbiqi ilə şirkətlərin brend reputasiyasına zərər vurması.

• Marketinq Avtomatlaşdırılması: Demoqrafik və ya davranış tətikləri yanlış işə düşdüyü üçün uyğun olmayan avtomatlaşdırılmış mesajların göndərilməsi.

• Müştəri Xidmətləri Çatbotları: Bizneslərin köməksiz dövrlərdə ilişib qalan məyus müştərilərə nəzarət etmədən çatbot qarşılıqlı əlaqələrinin qənaətbəxş olduğunu fərz etməsi.

• İnventarlaşdırmanın İdarə Edilməsi: Pərakəndə satıcıların yerli dəyişiklikləri, mövsümi dəyişiklikləri və ya qarşıdan gələn hadisələri nəzərə ala bilməyən avtomatlaşdırılmış yenidən sifariş sistemlərinə etibar etməsi.

• Dələduzluğun Aşkarlanması: Banklar həm dələduzluq hallarını əldən verir (buraxılma səhvləri), həm də qanuni əməliyyatları işarələyir (sonradan nəzərdən keçirilmədən qəbul edilən yalançı müsbət hallar).

4.4. Siyasət və mediada

• Sosial Media Alqoritmləri: Vətəndaşların dünyagörüşü onların sorğulamadığı və ya anlamadığı məzmun tövsiyə alqoritmləri tərəfindən formalaşır.

• Faktları Yoxlama Alətləri: Jurnalistlərin doğrulamadan avtomatlaşdırılmış fakt yoxlanışına etibar etməsi, səhvləri yaya və ya nüanslı iddiaları qaçıra bilər.

• Sorğu Aqreqasiyası: Siyasi şərhçilər modelin məhdudiyyətlərinə və fərziyyələrinə baxmayaraq alqoritmik sorğu aqreqatorlarını nüfuzlu mənbə kimi qəbul edirlər.

• Məzmun Moderasiyası: Avtomatlaşdırılmış məzmun moderasiyası qərarlarını düzgün kimi qəbul edərək qanuni çıxışları boğmaq və ya zərərli məzmunun davam etməsinə icazə vermək.

• Seçki Texnologiyası: Seçicilər və rəsmilər adekvat yoxlama mexanizmləri olmadan elektron səsvermə və sayma sistemlərinə etibar edirlər.

• Proqnozlaşdırıcı Polis Fəaliyyəti: Hüquq-mühafizə orqanları resursları faktiki riskdən çox tarixi qərəzləri əks etdirə bilən alqoritmik proqnozlar əsasında yerləşdirirlər.

4.5. Səhiyyədə

• Klinik Qərarların Dəstəklənməsi Sistemləri (CDSS): 2025-ci ildə aparılmış randomizə edilmiş klinik sınaq müəyyən etdi ki, "yanlış LLM tövsiyələri avtomatlaşdırma qərəzliyini stimullaşdırmaqla həkimlərin diaqnostik fəaliyyətini əhəmiyyətli dərəcədə pisləşdirir." Hətta ekspert həkimlər də diaqnozları hallüsinasiya edən maşınlara tabe olurdular.

• Elektron Sağlamlıq Qeydləri: Həddindən artıq sistem xəbərdarlıqlarından yaranan xəbərdarlıq yorğunluğu klinisistlərin kritik xəbərdarlıqlar da daxil olmaqla bütün xəbərdarlıqları rədd etməsinə səbəb olur. Və ya əksinə, EHR (Elektron Sağlamlıq Qeydləri) sistemlərinin tövsiyələrini klinik yoxlama olmadan qəbul etmək.

• Tibbi Təsvirlərin Süni İntellekti: Radioloqlar süni intellekt tərəfindən qeyd olunan tapıntıları müstəqil yoxlama olmadan qəbul edir və ya rədd edir, bu isə xərçəngin qaçırılmasına və ya xoşxassəli tapıntıların həddən artıq diaqnoz qoyulmasına səbəb ola bilər.

• Dərman Qarşılıqlı Təsirlərinin Yoxlayıcıları: Əczaçıların fərdi xəstə şərtləri haqqında klinik mühakimə yürütmədən avtomatlaşdırılmış dərman qarşılıqlı təsiri xəbərdarlıqlarını rədd etməsi və ya qəbul etməsi.

• Həyati Göstəricilərin Monitorları: Tibb bacılarının və həkimlərin "normal" avtomatlaşdırılmış həyati göstəricilərə zidd olan klinik müşahidələrə məhəl qoymaması.

• Diaqnostik Alqoritmlər: Xəstənin təqdimatı insan intuisiyası tələb edən qeyri-tipik bir hal təklif etsə belə alqoritmik diaqnostik yolları izləmək.

4.6. Maliyyə və investisiyada

• Robo-Məsləhətçilər: Şəxsi şərtləri, risk dözümlülüyünün dəyişməsini və ya alqoritmlər tərəfindən tutulmayan həyat hadisələrini nəzərə almadan avtomatlaşdırılmış portfel tövsiyələrini izləyən investorlar.

• Kredit Skorinqi: Kreditorların müraciətləri fərdi halları araşdırmadan və ya kredit hesabatlarındakı səhvləri nəzərə almadan yalnız avtomatlaşdırılmış kredit ballarına əsaslanaraq qəbul etməsi və ya rədd etməsi.

• Riskin Qiymətləndirilməsi Modelləri: 2008-ci il maliyyə böhranı zamanı fəlakətli şəkildə uğursuzluğa düçar olmuş riskli dəyər və digər avtomatlaşdırılmış risk modellərinə inanan maliyyə institutları.

• Alqoritmik Ticarət Qərarları: Əsas strategiyanı və ya bazar şərtlərini başa düşmədən alqoritmik ticarət siqnallarını kopyalayan fərdi investorlar.

• Avtomatlaşdırılmış Maliyyə Planlaşdırılması: İnflyasiya, gəlirlər və ya ömür uzunluğu haqqında fərziyyələri sorğulamadan proqram təminatından pensiya proqnozlarını və qənaət tövsiyələrini qəbul etmək.

• Dələduzluq Xəbərdarlıqları: Ya tez-tez təkrarlanan yalançı müsbət nəticələrə görə həqiqi dələduzluq xəbərdarlıqlarına məhəl qoymamaq, ya da işarələnmiş bütün əməliyyatları araşdırma aparmadan dələduzluq kimi qəbul etmək.

5. Real dünyadan nümunələr (keyslər)

Nümunə 1: "Patriot" Raketinin Dost Atəşi İnsidentləri (2003)

• Kontekst: "İraq Azadlığı" əməliyyatı zamanı ABŞ Ordusunun "Patriot" Raket sistemi mexanikidən tutmuş tam avtomatlaşdırılmışa qədər müxtəlif rejimlərdə fəaliyyət göstərirdi. İraq ballistik raketləri qorxusu ilə xarakterizə olunan yüksək təhlükə mühiti hücuma meylli sistem konfiqurasiyalarına gətirib çıxardı.

• Nə baş verdi: İki məşhur "dost atəşi" insidenti baş verdi: Böyük Britaniya Kral Hərbi Hava Qüvvələrinə məxsus "Tornado GR4" və ABŞ Hərbi Dəniz Qüvvələrinə aid "F/A-18 Hornet"in vurulması. Hər iki heyət həlak oldu. Hər iki hadisədə Patriot-un radar alqoritmi dost təyyarəsini daxil olan Anti-Radiasiya Raketi (ARM) kimi səhv təsnif etmişdi.

• Buradakı qərəz: Sistem öz yanlış təsnifatını insan operatorlarına fakt kimi təqdim edirdi. Operatorların hədəfi digər parametrlərdən (hava sürəti, hündürlük, Dost və ya Düşmən İdentifikasiyası) istifadə etməklə yoxlamaq üçün saniyələri olsa da, onlar bunu effektiv edə bilmədilər. Müdafiə Elm Şurasının hesabatı göstərdi ki, istifadəçilər döyüş meydanının reallığından daha çox maşının mühakiməsinə üstünlük verərək, "xeyli əks sübutlara baxmayaraq sistem səhvlərini həvəslə qəbul etdilər".

• Nəticələr: Dörd hərbçi həlak oldu. Hesabat müəyyən etdi ki, qərəzlilik təkcə fərdi deyil, həm də institusional idi — operatorlara sistemə etibar etmək öyrədilirdi; texnologiyanı əhatə edən "yanılmazlıq mədəniyyəti" "insan vetosu"nun əsasən nəzəri xarakter daşıdığı mənasına gəlirdi.

• Çıxarılan dərslər: Avtomatlaşdırma qərəzi təlim, mədəniyyət və sistem dizaynı vasitəsilə təşkilati olaraq yerləşə bilər. "İsveç Pendiri" (Swiss Cheese) modeli göstərdi ki, potensial insan müdaxiləsinin bir neçə təbəqəsi eyni vaxtda necə uğursuz oldu, çünki hər biri avtomatlaşdırmanın düzgün olduğunu güman edirdi.

Nümunə 2: Böyük Britaniya Poçt İdarəsinin Horizon Qalmaqalı (1999–2015)

• Kontekst: Fujitsu tərəfindən hazırlanmış Horizon İT sistemi Böyük Britaniya Poçt İdarəsi üçün uçotu idarə etmək üçün tətbiq edildi. Demək olar ki, dərhal kiçik poçt rəisləri öz hesablarında izaholunmaz kəsirlər barədə məlumat verməyə başladılar.

• Nə baş verdi: Poçt İdarəsinin rəhbərliyi və Britaniya məhkəmələri "kompüterlər etibarlıdır" qanuni prezumpsiyası altında fəaliyyət göstərirdi — avtomatlaşdırma qərəzinin kodlaşdırılmış forması. Kiçik poçt rəisləri sistemin səhv olduğunu iddia etdikdə onlar oğurluqda ittiham olunurdular. Yüzlərlə dürüst vətəndaşın ifadəsi Horizon jurnallarının xeyrinə sistemli şəkildə rədd edildi.

• Buradakı qərəz: Kompüterin çıxışı müqəddəs bir həqiqət kimi, insanın müdaxiləsindən toxunulmaz qəbul edilirdi. "Qeyri-avtomatlaşdırılmış mənbələrdən ziddiyyətli məlumatlar" - insan ifadəsi - eqoist yalanlar və ya qabiliyyətsizlik kimi rədd edildi. Menecerlər və hakimlər uzunmüddətli, çoxillik komissiya avtomatlaşdırma qərəzinə yol verdilər.

• Nəticələr: 700-dən çox insan haqsız yerə mühakimə olundu, müflis oldu və həbs edildi. Evliliklər dağıldı, karyeralar məhv oldu və bir neçə kiçik poçt rəisi intihar etdi. Sonradan sübut olundu ki, sistem boşluqlarla (bug) doludur. Bu, Böyük Britaniya tarixində ədalətin ən geniş yayılmış səhvidir.

• Çıxarılan dərslər: Avtomatlaşdırma qərəzi sadəcə bir saniyəlik reaksiya deyil — bu, davamlı təşkilati aldanma ola bilər. Kompüterin etibarlılığını fərz edən hüquqi və institusional çərçivələr fərdlərin meydan oxuması üçün son dərəcə çətin olan sistemli qərəzlilik yaradır.

Nümunə 3: Air France Uçuş 447 (2009)

• Kontekst: Atlantik okeanı üzərində hərəkət edərkən Airbus A330-un pito boruları (hava sürəti sensorları) buz kristalları ilə tıxandı və uçuş kompüterini etibarlı hava sürəti məlumatından məhrum etdi. Avtopilot ayrıldı və nəzarəti illər boyu yüksək avtomatlaşdırılmış uçuşa öyrəşmiş pilotlara verdi.

• Nə baş verdi: Dayanmaların (stall) qarşısını alan "uçuş zərfi mühafizəsi"nə (flight envelope protection) öyrəşmiş pilotlar qəfildən həmin müdafiələrin olmadığı "Alternativ Qanun" rejiminə atıldılar. Ziddiyyətli həyəcan siqnallarından çaşqın qalan (sükut xəbərdarlığı 75 dəfə səsləndi) idarəedici pilot lövyəni (stick) geri çəkdi - bu, qorunmayan uçuş rejimlərində dayanmaya (stall) səbəb olan bir manevrdir.

• Buradakı qərəz: Ekipaj avtomatlaşdırma kontekstinin əsaslı şəkildə dəyişdiyinə inana bilməməkdən əziyyət çəkirdi. Onlar xam aerodinamik reallığa (təyyarə düşürdü) məhəl qoymadılar, çünki onların zehni modeli normal avtomatlaşdırılmış əməliyyatla bağlı idi. FAA analizinin qeyd etdiyi kimi, ekipaj "oyundankənar" idi və "avtomatlaşdırmanın nə cəhənnəm etdiyini" anlaya bilmirdi. Onlar effektiv olaraq avtomatlaşdırmanın onları xilas etməsini gözlədilər — bu təsirə qədər davam edən evristik asılılıq idi.

• Nəticələr: Təyyarədə olan 228 nəfərin hamısı həlak olub. Qəza, "avtomatlaşdırma sürprizi"nə və əllə idarəetməyə (koqnitiv fəaliyyətə) qayıda bilməməyə gətirib çıxaran avtomatlaşdırma qərəzinin qəti nümunəsi olaraq qalır.

• Çıxarılan dərslər: Avtomatlaşdırmaya həddindən artıq etibar etmək mexaniki bacarıqları o dərəcədə pisləşdirə bilər ki, pilotlar avtomatlaşdırma uğursuz olduqda bərpa edə bilməzlər. İnsanlar koqnitiv dövrədən sistemli şəkildə xaric edildikdə "insan ehtiyatı" (insan müdaxiləsi) fərziyyəsi qüsurludur.

Tarixi Nümunə: Stanislav Petrov (1983)

Avtomatlaşdırma qərəzini tam başa düşmək üçün onun müvəffəqiyyətlə qırıldığı nadir halları araşdırmaq lazımdır. 26 sentyabr 1983-cü ildə Sovet nüvə erkən xəbərdarlıq sistemi (Oko) ABŞ-dan beş qitələrarası ballistik raketin buraxıldığı barədə məlumat verdi.

Növbətçi zabit polkovnik-leytenant Stanislav Petrov həyəcan siqnalının yalançı olduğuna qərar verdi. Onun mühakiməsi kontekstual və insani idi: "İnsanlar müharibəyə başlayanda ona cəmi beş raketlə başlamırlar". O, həmçinin yeni peyk texnologiyasına da güvənmirdi. Petrov xəbərdarlığı komandanlıq zənciri ilə yuxarı ötürməkdən imtina etdi və potensial cavab nüvə zərbəsinin qarşısını aldı.

Petrovun uğuru onun skeptisizmi və sahə təcrübəsi ilə bağlı idi — o bilirdi ki, siyasi və strateji kontekst (insan kəşfiyyatı) sensor məlumatları ilə (avtomatlaşdırılmış kəşfiyyat) ziddiyyət təşkil edir. O, "Patriot" operatorlarının istifadə edə bilmədiyi "insan vetosu"ndan istifadə etdi. Bu keys nümayiş etdirir ki, avtomatlaşdırma qərəzini qırmaq üçün həm etiraz etmək cəsarəti, həm də avtomatlaşdırılmış nəticələrin ağlasığmaz olduğunu tanımaq üçün sahə bilikləri tələb olunur.

6. Bu qərəzin bədəli

6.1. Şəxsi bədəllər

• Tənqidi Düşüncənin Aşınması: Avtomatlaşdırılmış sistemlərə müntəzəm tabe olmaq, yoxlama və müstəqil analizin koqnitiv əzələlərini zəiflədir. Zamanla fərdlər avtomatlaşdırılmış rəhbərlik olmadan işləmək qabiliyyətini itirirlər.

• Ekspertizanın İtirilməsi: Avtomatlaşdırılmış alətlərə çox etibar edən peşəkarlar bacarıqların pisləşməsini yaşaya bilərlər. Nadir hallarda əl ilə uçan pilotlar, həmişə süni intellekt köməyindən istifadə edən radioloqlar və heç vaxt əllə hesablamayan mühasiblər onları mütəxəssis edən qabiliyyətlərini itirirlər.

• Qərar İflici: Avtomatlaşdırılmış sistemlər sıradan çıxdıqda və ya əlçatmaz olduqda, fərdlər qərar qəbul etmək iqtidarında olmadıqlarını hiss edə bilər ki, bu da kritik anlarda iflic vəziyyətinə səbəb olur.

• Saxta İnam: Avtomatlaşdırılmış nəticələrə inanmaq əsassız bir əminlik hissi yaradır və avtomatlaşdırmanın yanlış olduğu ssenarilərə lazımi qədər hazırlaşmamağa səbəb olur.

• Münasibətlərin Gərginləşməsi: Şəxsi kontekstlərdə avtomatlaşdırılmış tövsiyələrə (tanışlıq proqramları, sosial media təklifləri) həddindən artıq etibar orijinal insan mühakiməsi və əlaqəni əvəz edə bilər.

6.2. Peşəkar bədəllər

• Karyera Məsuliyyəti: Avtomatlaşdırılmış tövsiyələrə tabe olaraq səhvlərə yol verən peşəkarlar nizam-intizam tənbehləri, səhlənkarlıq iddiaları və ya cinayət ittihamları ilə üzləşə bilərlər - Mata Avianca-ya qarşı işindəki hüquqşünaslar kimi, onlar süni intellektin hallüsinasiya etdiyi hüquqi presedentlərə istinad etdiklərinə görə sanksiyalarla üzləşiblər.

• Reputasiyaya Zərər: Avtomatlaşdırma nəticəsində yaranan uğursuzluqları (məsələn, Böyük Britaniya Poçt İdarəsi) ilə tanınan təşkilatlar işə qəbul, tərəfdaşlıq və ictimai etimada təsir edən davamlı reputasiya zərərinə məruz qalırlar.

• Bacarıqların Zəifləməsi: Avtomatlaşdırma adi halları idarə etdiyi üçün bütün peşəkar icmalar kollektiv bacarıq deqradasiyasını yaşaya bilər və mütəxəssisləri mürəkkəb və ya qeyri-adi vəziyyətlərə hazırlıqsız qoya bilər.

• İnnovasiyaların Durğunluğu: "Sistemin necə işlədiyinə" həddindən artıq inam peşəkarların prosesləri sorğulamasının və ya təkmilləşdirmələrin qarşısını ala bilər.

• Pis Nəticələr: Tibbi yanlış diaqnozlar, haqsız məhkumiyyətlər, maliyyə itkiləri və əməliyyat uğursuzluqları birbaşa olaraq avtomatlaşdırma qərəzi ilə izlənilə bilər.

6.3. İctimai bədəllər

• Sistem Risklərinin Yığılması: Bütün sənayelər avtomatlaşdırılmış sistemlərə tabe olduqda, səhvlər müstəqil deyil, bir-biri ilə əlaqəli olur. Tək bir alqoritmik qüsur eyni vaxtda bütün bir sektora yayıla bilər.

• Demokratik Aşınma: Siyasi diskurs, məzmunun görünməsi və məlumat əldə etməyi formalaşdıran alqoritmik sistemlər - şübhəsiz qəbul edildikdə - məlumatlı demokratik iştirakı sarsıda bilər.

• Ədalət Sisteminin Korrupsiyası: Kompüterin etibarlılığını nəzərdə tutan hüquqi sistemlər (Horizon qalmaqalında olduğu kimi) fərdlərin etiraz etməsi demək olar ki, qeyri-mümkün olan struktur ədalətsizliyi yaradır.

• Təhlükəsizliyin Pisləşməsi: Avtonom avtomobillərin, avtomatlaşdırılmış hava hərəkəti idarəetməsinin və digər kritik sistemlərin əsasını təşkil edən "insan ehtiyatı" (insan müdaxiləsi) fərziyyəsi əsaslı şəkildə qüsurludur. İnsanlar etibarlı sistemlərin uzunmüddətli passiv monitorinqi zamanı sayıqlığı qoruya bilmirlər.

• İqtisadi Dağıntılar: Sürətli çökmələr, alqoritmik kaskadlar və bir-biri ilə əlaqəli səhvlər edən avtomatlaşdırılmış sistemlər iqtisadi qeyri-sabitliyə səbəb ola bilər.

6.4. Statistik təsir

• Aviasiya: Tədqiqatlar göstərir ki, avtomatlaşdırılmış köməkçiləri olan pilotlar sistemi əl ilə izləyənlərə nisbətən əhəmiyyətli dərəcədə daha çox anomaliyaları əldən verirlər. Air France 447 ekipajı 75 dayanma xəbərdarlığına məhəl qoymadı.

• Səhiyyə: Tədqiqatlar göstərir ki, yanlış süni intellekt tövsiyələri həkimlərin diaqnostik dəqiqliyini əhəmiyyətli dərəcədə aşağı salır. Xəbərdarlıq yorğunluğu klinisistlərin avtomatlaşdırılmış xəbərdarlıqların 49-96%-nə məhəl qoymamasına səbəb olur.

• Yaddaş Təhrifi: Avtomatlaşdırma qərəzinə tabe olan pilotların 67%-i sonradan hadisələrin yalançı xatirələrini nümayiş etdirərək, qəzaların araşdırılmasını və öyrənilməsini çətinləşdirdi.

• Hüquq: Horizon qalmaqalı 700+ haqsız məhkumiyyətlə nəticələndi — bu, Böyük Britaniya tarixində ədalətin ən böyük səhvidir.

• Hərb: İraqdakı dost atəşi insidentləri ziddiyyətli sübutlara baxmayaraq, sistem səhvlərini qəbul etmək istəyini nümayiş etdirdi.

7. Gizli faydalar

Avtomatlaşdırma qərəzi tamamilə mənfi deyil — əsas koqnitiv mexanizm vacib məqsədlərə xidmət etmişdir:

• Koqnitiv Səmərəlilik: Koqnitiv tapşırıqları etibarlı xarici mənbələrə həvalə etmək bacarığı digər çağırışlar üçün zehni resursları boşaldır. Avtomatlaşdırma düzgün olduqda (bu vaxtın çox hissəsidir) onun nəticəsini qəbul etmək həqiqətən səmərəlidir.

• Davamlılıq: Avtomatlaşdırılmış sistemlər eyni meyarları vahid şəkildə tətbiq edirlər. Onlara tabe olmaq qərar qəbul etmə prosesində insan dəyişkənliyini və müəyyən qərəz növlərini azalda bilər.

• Sürət: Zamanın kritik olduğu vəziyyətlərdə, avtomatlaşdırılmış tövsiyələri uzunmüddətli yoxlama olmadan tez qəbul etmək bacarığı — avtomatlaşdırmanın doğru olması şərti ilə — həyat qurtaran ola bilər.

• Ekspertizanın Genişləndirilməsi: Avtomatlaşdırma mütəxəssis olmayanlara kodlanmış ekspertizadan faydalanmağa imkan verir. Klinik qərar dəstəyindən istifadə edən kiçik bir klinisist mütəxəssislərin onilliklər ərzində əldə etdiyi biliklərə daxil ola bilər.

• Narahatlığın Azalması: Qeyri-müəyyən vəziyyətlərdə avtomatlaşdırılmış tövsiyənin olması qərarın keyfiyyəti dəyişməz qalsa belə, qərar narahatlığını və koqnitiv yükü azalda, rifahı yaxşılaşdıra bilər.

• Miqyas: Bir çox müasir sistemlər sadəcə olaraq avtomatlaşdırılmış nəticələri qəbul edən insanlar olmadan işləyə bilməz. Bir insanın spam üçün hər bir e-poçtu, saxtakarlıq üçün hər bir maliyyə əməliyyatını və ya qayda pozuntuları üçün hər sosial media postunu nəzərdən keçirməsi qeyri-mümkün olardı.

Güzəşt aydındır: avtomatlaşdırma qərəzi yalnız (1) avtomatlaşdırma yanlış olduqda, (2) risklər yüksək olduqda və (3) insan səhvi tuta bildiyi halda problemli olur. Avtomatlaşdırma qərəzini tamamilə aradan qaldırmaq həm qeyri-mümkün, həm də arzuolunmaz olardı — bu, avtomatlaşdırmanın faydalarını rədd edəcək qeyri-mümkün ayıqlıq tələb edəcəkdir. Məqsəd sıfır inam deyil, kalibrlənmiş inamdır.

8. Özünü qiymətləndirmə: Sizdə bu qərəz varmı?

8.1. Xəbərdarlıq əlamətləri siyahısı

• Tez-tez GPS təlimatlarını təyinat yerim üçün mənalı olub-olmadığını yoxlamadan qəbul edirəm
• Orfoqrafiya və qrammatika alətlərinə onların təkliflərini nəzərdən keçirmədən güvənirəm
• Kalkulyator cavab verəndə onun məntiqli görünüb-görünmədiyini nadir hallarda təxmin edirəm
• Axtarış motorunun nəticələrini birinci səhifədə niyə bu cür sıralandıqlarını düşünmədən qəbul edirəm
• Mən onları yoxlamadığım üçün yanlış olduğu ortaya çıxan avtomatlaşdırılmış tövsiyələrə əməl etmişəm
• Proqram xəta mesajı verəndə fərz edirəm ki, proqram nəyin səhv getdiyi barədə haqlıdır
• Adi avtomatlaşdırılmış alətlərim əlçatmaz olduqda tapşırıqları yerinə yetirməkdə çətinlik çəkirəm
• Mənim mühakiməm fərqli olsa belə, avtomatlaşdırılmış təklifləri ləğv etməkdə özümü narahat hiss edirəm
• Mən "amma sistem bunu etməyi söylədi" deyərək pis nəticəyə bəraət qazandırmışam
• Süni intellekt çatbotlarından gələn məlumatlara onların iddialarını faktlarla yoxlamadan güvənirəm

Nəticələrin qiymətləndirilməsi:

• 0-2 işarələnib: Aşağı həssaslıq
• 3-5 işarələnib: Orta həssaslıq
• 6-8 işarələnib: Yüksək həssaslıq
• 9-10 işarələnib: Çox yüksək həssaslıq

8.2. Özünü təhlil sualları

1. Avtomatlaşdırılmış tövsiyə əsasında verdiyiniz son qərarı düşünün. Hərəkətə keçməzdən əvvəl bu tövsiyənin hər hansı aspektini yoxladınızmı? Niyə və ya niyə yox?

2. Avtomatlaşdırmanın səhv olduğu halda onu izlədiyiniz vaxtı xatırlaya bilərsinizmi? Öz mühakimənizə güvənməyə sizə nə mane oldu?

3. ChatGPT kimi süni intellekt alətlərindən istifadə edərkən təqdim olunan məlumatın düzgünlüyünü necə yoxlayırsınız? Heç səhv tutmusunuzmu?

4. Əsas avtomatlaşdırılmış alətləriniz (GPS, orfoqrafiya yoxlaması, axtarış sistemləri, kalkulyatorlar) bir həftə ərzində əlçatmaz olsa, iş prosesiniz necə dəyişərdi?

5. Həmkarlarınız, dostlarınız və ya ailəniz özünüz qəbul edə biləcəyiniz qərarlar üçün texnologiyadan həddindən artıq asılı olduğunuzu heç vaxt diqqətinizə çatdırıbmı?

8.3. Qısa diaqnostik ssenari

Ssenari: Vacib hesabatı tərtib etməyə kömək etmək üçün süni intellekt köməkçisindən istifadə edirsiniz. Süni intellekt arqumentinizi mükəmməl şəkildə dəstəkləyən bir statistika təqdim edir: "Tədqiqatlar göstərir ki, bu yanaşmanı tətbiq edən təşkilatların 78%-i nəticələrin 40% yaxşılaşdığını görüb." Statistika inandırıcı səslənir və hekayənizə yaxşı uyğun gəlir. Sizin isə vaxtınız azdır.

Siz necə reaksiya verərdiniz?

• A) Statistikanı birbaşa daxil edərəm - o, nüfuzlu səslənir və süni intellekt əvvəllər də etibarlı olub → Yüksək həssaslıq
• B) Statistikanı daxil edərəm, lakin yoxlamadan "tədqiqatlar təklif edir" kimi qeyri-müəyyən bir dil əlavə edərəm → Orta həssaslıq
• C) Müddəti uzatmağı qəbul edərək, statistikanı daxil etməzdən əvvəl yoxlamaq üçün orijinal mənbəni axtararam → Aşağı həssaslıq

9. Başqalarında bu qərəzi müəyyən etmək

9.1. Davranış göstəriciləri

Danışıqda müşahidə olunan əlamətlər:

• Tez-tez əsaslandırma kimi "sistem deyir" və ya "alqoritm tövsiyə edir" istinad gətirmək
• Avtomatlaşdırılmış təklifləri ləğv etmək istənildikdə narahatlıq ifadə etmək
• Özlərinin ekspertizasına daxil olan qərarlar üçün "icazə verin kompüterin nə dediyini yoxlayım" fikrinə üstünlük vermək

Qərar qəbuletmə qanunauyğunluqları:

• Avtomatlaşdırılmış tövsiyələrə ardıcıl olaraq sual vermədən əməl etmək
• Avtomatlaşdırılmış alətlər mövcud olmadıqda qərarlarla bağlı mübarizə aparmaq
• Öz yoxlama proseslərini yoxlamaq əvəzinə sistem xətalarını günahlandırmaq

Bədən dili ipucları:

• Hətta təkbətək müzakirələr zamanı belə təsdiq üçün ekranlara müraciət etmək
• Avtomatlaşdırılmış məsləhətə zidd hərəkət etmək istənildikdə fiziki gərginlik
• Avtomatlaşdırılmış sistemlər qərarlarını təsdiqlədikdə rahatlaşmaq

Söhbətlərdə təkrarlanan mövzular:

• Texnologiyanın dəqiqliyinə yüksək inam ifadə etmək
• Avtomatlaşdırma xətaları ilə bağlı narahatlıqları nadir kənar hallar kimi minimuma endirmək
• İnsan mühakiməsini "obyektiv" alqoritmlərlə müqayisədə "qərəzli" olaraq rədd etmək

9.2. Danışıqda xəbərdarlıq siqnalları (qırmızı bayraqlar)

Bu qərəz altında olduqda insanların işlətdiyi ifadələr:

• "Kompüter səhv etmir"
• "Mən sadəcə sistemin tövsiyə etdiyini edirəm"
• "Məlumatlar göstərir ki..." (məlumatı yoxlamadan)
• "Mən niyə AI-ı sorğulamalıyam? O, milyonlarla nümunə üzərində öyrədilib"
• "Bu doğru olmalıdır — görün nəticə necə əmindir"

Onların gətirdiyi arqument növləri:

• Mövcud dəqiqliyin sübutu olaraq sistemin keçmiş etibarlılığına müraciət
• Ziddiyyətli məlumatları "anomaliyalar" və ya "istifadəçi xətası" kimi rədd etmək
• Avtomatlaşdırma nəticələrinə ehtimal qiymətləndirmələri deyil, obyektiv faktlar kimi yanaşmaq

Vermekdən qaçındıqları suallar:

• "Bu sistemin məhdudiyyətləri nələrdir?"
• "Hansı hallarda bu tövsiyə yanlış ola bilər?"
• "Məndə bu avtomatlaşdırılmış alət olmasaydı nə qərar verərdim?"

9.3. Situasiya tətikləyiciləri

Bu qərəzi aktivləşdirən hallar:

• Yoxlama həvəsini azaldan zaman təzyiqi
• Çoxsaylı tapşırıqların yaratdığı yüksək koqnitiv yük
• Yorğunluq və ya qərar yorğunluğu
• Yoxlama üçün xüsusi bilik tələb olunduqda
• Avtomatlaşdırma keçmişdə etibarlı olduqda

Ətraf mühit faktorları:

• Avtomatlaşdırma və səmərəliliyi qeyd edən iş yeri mədəniyyətləri
• Mühakimədən çox prosedurlara riayət etməyi vurğulayan təlim proqramları
• Avtomatlaşdırmanın nə vaxt yanlış olduğunu göstərən geridönüş dövrələrinin olmaması
• Güvən səviyyələri haqqında şəffaflıq olmadan hazırlanmış sistemlər

Həssaslığı artıran emosional vəziyyətlər:

• Stres və narahatlıq (əminlik axtarmaq)
• Çarəsizlik vəziyyəti (idrak üçün rahatlıq axtarmaq)
• İmposter sindromu ("ekspert" sistemlərinə özündən daha çox inanmaq)
• Rahatlıq və arxayınlıq (işlər yaxşı gedirdi)

Qərəzləri gücləndirən sosial kontekstlər:

• Avtomatlaşdırmanı sorğulamağın işləri ləngidən kimi göründüyü qrup mühitləri
• Avtomatlaşdırmanın idarəetmə qərarlarını təmsil etdiyi iyerarxiyalar
• Avtomatlaşdırmanın "ən yaxşı təcrübə" kimi göründüyü peşəkar kontekstlər

Vəziyyəti daha da pisləşdirən zaman təzyiqləri:

• Yoxlanmağa imkan verməyən son tarixlər
• Real vaxt qərarları (ticarət, tibbi fövqəladə hallar, aviasiya)
• Fərdi rəyin qeyri-mümkün olduğu yüksək həcmli emal

10. İdrak qərəzindən qurtulma strategiyaları

10.1. Dərhal tətbiq olunan texnikalar

Avtomatlaşdırılmış tövsiyələri qəbul etməzdən əvvəl sürətli zehni yoxlamalar:

• "Bu nəticə inandırıcı gəlirmi?" Tövsiyənin intuisiyanıza uyğun olub-olmadığını düşünmək üçün fasilə verin.
• "Səhv etməyin bədəli nədir?" Daha yüksək risklər daha çox yoxlamaya zəmanət verir.
• "Bu sistemin yaxşı olduğu bir sahədirmi?" Avtomatlaşdırmanın domen məhdudiyyətləri var.

O anda özünüzə verəcəyiniz suallar:

• "Bu avtomatlaşdırma olmadan nə qərar verərdim?"
• "Hansı sübutlar bu tövsiyə ilə ziddiyyət təşkil edir?"
• "Sistemin etibarlılıq dərəcəsi nədir və o, qeyri-müəyyənliyi ifadə edirmi?"
• "Sonuncu dəfə nə vaxt avtomatlaşdırılmış bir tövsiyəni yoxlamışdım?"

Qərəzi qırmaq üçün şablon fasilələri:

• Qəbul etməzdən əvvəl, avtomatlaşdırmanın yanlış ola biləcəyi bir səbəbi ucadan deyin
• Davam etməzdən əvvəl bir alternativ mənbəni yoxlayın
• Tövsiyə almaqla hərəkətə keçmək arasında qısa "soyuma" (düşünmə) müddəti təyin edin
• Qərarı nəzərdən keçirmək üçün fiziki olaraq ekrandan üz döndərin

Sadə praktiki qaydalar:

• 5 saniyəlik qayda: Qəbul etməzdən əvvəl alternativləri nəzərdən keçirmək üçün ən azı 5 saniyə sərf edin
• "100x nəticə" qaydası: Əgər səhv etmək yoxlama səyindən 100 dəfə baha başa gələcəksə, yoxlayın
• "Skeptikə izah et" qaydası: Bu qərarı avtomatlaşdırmaya güvənməyən birinə müdafiə edə bilərsinizmi?

10.2. Uzunmüddətli strategiyalar

Zamanla inkişaf etdiriləcək vərdişlər:

• Bacarıqlarınızı saxlamaq üçün mütəmadi olaraq avtomatlaşdırılmış kömək olmadan tapşırıqları yerinə yetirin
• Tutduğunuz avtomatlaşdırma səhvlərinin qeydini aparın (bu, yanılmazlığı bariz edir)
• Təsadüfi bir nümunəni yoxlamaqla avtomatlaşdırılmış tövsiyələri dövri olaraq audit edin
• Yoxlamaya seçim kimi deyil, standart iş axınlarına daxil edilmiş bir proses kimi baxın

Tələb olunan düşüncə tərzi dəyişiklikləri:

• Avtomatlaşdırmaya "həqiqət mühərriki" kimi deyil, "ehtimal təxminçisi" kimi baxın
• Müvafiq skeptisizmi inamsızlıq kimi deyil, peşəkarlıq kimi qəbul edin
• İnsanın rolunun avtomatlaşdırmanın uğursuz olduğu hallarla məşğul olmaq olduğunu qəbul edin
• Yoxlamanın boşa getmiş bir səy olmadığını, dəyərli olduğunu qəbul edin

Tətbiq ediləcək sistemlər və proseslər:

• Avtomatlaşdırılmış hərəkətlərdən əvvəl müstəqil yoxlama tələb edən yoxlama siyahıları yaradın
• Birinin işinin avtomatlaşdırma səhvlərini tapmaq olduğu "qırmızı komanda" prosesləri qurun
• Avtomatlaşdırma təkliflərinin insanın ilkin qiymətləndirməsindən sonra qəbul edildiyi iş prosesləri tərtib edin
• Avtomatlaşdırmanın nə vaxt səhv olduğu barədə istifadəçiləri məlumatlandıran rəy dövrələri qurun

Məşq ediləcək və gücləndiriləcək bacarıqlar:

• Sahə ekspertizası (qeyri-mümkün nəticələri anlaya bilmək üçün)
• Zehni təxminlər və sağlam məntiq yoxlaması
• Mənbələrin yoxlanılması və tədqiqat bacarıqları
• Metakoqnitivlik — öz idrak proseslərinizi dərk etmək

10.3. Ətraf mühitin dizaynı

Bu qərəzi azaltmaq üçün mühitinizi necə qurmalısınız:

• Qeyri-müəyyənliyi ifadə etmək üçün avtomatlaşdırmanı konfiqurasiya edin (ehtimal diapazonları, inam intervalları)
• İstifadə etməzdən əvvəl məhdudiyyətlərin qəbul edilməsini tələb edən interfeyslər hazırlayın
• Avtomatlaşdırılmış məsləhətlə fəaliyyət arasında fiziki və ya zaman fərqi yaradın
• Avtomatlaşdırma xətalarını tutmağı qeyd edən təşkilati normalar yaradın

Kömək edən fiziki dəyişikliklər:

• Qeyri-avtomatlaşdırılmış alternativlərə çıxışı saxlayın (fiziki xəritələr, kalkulyatorlar)
• İş yerlərində avtomatlaşdırma məhdudiyyətləri haqqında xatırlatmalar yerləşdirin
• Yoxlama resurslarını asanlıqla əlçatan yerdə saxlayın

Qərəzin qarşısını alan sosial strukturlar:

• Əhəmiyyətli avtomatlaşdırılmış qərarlar üçün həmkar baxışı yaradın
• Avtomatlaşdırmanın sorğulanması üçün psixoloji təhlükəsizlik yaradın
• İnsanların avtomatlaşdırma səhvlərini tutduğu halları tanıyın və mükafatlandırın
• Avtomatlaşdırma uğursuzluqları hekayələrini öyrənmə imkanları kimi paylaşın

Qərəzdən qoruyan informasiya sistemləri:

• Binar xəbərdarlıqlardan daha çox ehtimalı göstərən Ehtimal Siqnal Ekranları (LAD-lar)
• Sonradan analiz etmək üçün insanın avtomatlaşdırmanı ləğv etmə hallarını qeyd edən sistemlər
• Avtomatlaşdırmanı qəbul edərkən istifadəçilərə onların vuruş/qaçırma dərəcəsi haqqında məlumat verən rəy sistemləri
• Avtomatlaşdırmanın dəqiqlik dərəcələrini göstərən tablolardakı göstəricilər

10.4. Nə vaxt kənar rəy axtarmaq lazımdır

Digərləri ilə məsləhətləşməli olduğunuz qərar növləri:

• Yüksək riskli qərarlar (maliyyə, tibbi, hüquqi, təhlükəsizliklə bağlı)
• Domen təcrübənizdən kənar qərarlar
• Avtomatlaşdırma intuisiyanızla ziddiyyət təşkil etdikdə, lakin siz əmin deyilsiniz
• Avtomatlaşdırmanı heç vaxt yoxlamadığınız təkrarlanan qərarlar

Kimdən kömək istəməli:

• Avtomatlaşdırmanın məhdudiyyətlərini başa düşən sahə mütəxəssisləri
• Avtomatlaşdırma uğursuzluqları yaşamış həmkarlar
• Tövsiyəyə meydan oxuyacaq skeptiklər
• Avtomatlaşdırılmış qərarda payı olmayan müstəqil tərəflər

Rəy üçün müraciətləri necə formalaşdırmaq olar:

• "Sistem X-i tövsiyə edir. Bunu stress-test etməyə mənə kömək edə bilərsinizmi?"
• "Bu avtomatlaşdırılmış nəticəni qəbul etməzdən əvvəl nəyi yoxlamalıyam?"
• "Avtomatlaşdırmanın dedikləri budur — bu sizin müstəqil qiymətləndirmənizlə uyğun gəlirmi?"

Kənar bir perspektivə ehtiyacınız olduğuna dair əlamətlər:

• Uzun müddətdir ki, avtomatlaşdırılmış tövsiyələri yoxlanılmadan qəbul edirsiniz
• Hazırkı qərarın riskləri həmişəkindən yüksəkdir
• Bir tövsiyə ilə bağlı narahatlıq hiss edirsiniz, lakin səbəbini izah edə bilmirsiniz
• Avtomatlaşdırma yeni bir vəziyyətə tətbiq edilir

11. Praktik məşğələlər

Məşğələ 1: Yoxlama çağırışı

• Məqsəd: Avtomatlaşdırılmış nəticələri yoxlamaq vərdişini yaratmaq
• Tələb olunan vaxt: 2 həftə ərzində gündəlik 10 dəqiqə
• Lazım olan materiallar: Adi avtomatlaşdırılmış alətləriniz (GPS, axtarış sistemi, orfoqrafiya yoxlaması, kalkulyator)
• Çətinlik səviyyəsi: Başlanğıc
• Təlimatlar:
  1. Hər gün aldığınız 3 avtomatlaşdırılmış tövsiyəni müəyyən edin
  2. Hər biri üçün nəticəni müstəqil mənbədən istifadə edərək yoxlamaq üçün 2 dəqiqə vaxt sərf edin
  3. Avtomatlaşdırmanın doğru, qismən doğru və ya yanlış olduğunu qeyd edin
  4. Yoxlamanın nə qədər vaxt apardığını, səhvi düzəltmək üçün nə qədər vaxt sərf edəcəyinizlə müqayisə edin
  5. Həftənin sonunda avtomatlaşdırmanızın faktiki dəqiqlik dərəcəsini hesablayın
• Özünü təhlil sualları:
  • Avtomatlaşdırma nə qədər tez-tez tam yanlış və ya qismən yanlış olurdu?
  • Hansı növ tövsiyələr daha etibarlı idi? Ən az etibarlı olan hansılar idi?
  • Yoxlama səyiniz səhvlərin potensial dəyəri ilə necə müqayisə olundu?
• Tezlik: 2 həftə ərzində gündəlik, sonra həftəlik spot yoxlamalar

Məşğələ 2: Əllə idarəetmə həftəsi

• Məqsəd: Müstəqil mühakimə qabiliyyətinizlə yenidən əlaqə qurmaq
• Tələb olunan vaxt: Bir həftə
• Lazım olan materiallar: Adi avtomatlaşdırılmış alətlərinizə alternativlər (fiziki xəritələr, əl ilə hesablamalar, redaktə etmə bacarıqları)
• Çətinlik səviyyəsi: Orta
• Təlimatlar:
  1. Çox asılı olduğunuz bir avtomatlaşdırılmış aləti seçin
  2. Bir həftə ondan istifadə etməməyə söz verin (və ya ondan yalnız ehtiyat kimi istifadə edin)
  3. Öz mühakiməniz və bacarıqlarınızdan istifadə edərək tapşırıqları əl ilə yerinə yetirin
  4. Təcrübə haqqında gündəlik jurnal tutun — nə daha çətin idi, nə daha asan idi
  5. Həftənin sonunda hansı qabiliyyətləri saxladığınız və hansıları itirdiyiniz barədə düşünün
• Özünü təhlil sualları:
  • Avtomatlaşdırma olmadan hansı tapşırıqları mükəmməl yerinə yetirə bilərdiniz?
  • Avtomatlaşdırmanın köməyini harada həqiqətən əldən verdiniz?
  • Öz mühakimənizə olan inamınız necə dəyişdi?
• Tezlik: Rüb ərzində bir dəfə, müxtəlif alətlərlə rotasiya edilməklə

Məşğələ 3: Əvvəlcədən öhdəlik metodu

• Məqsəd: Əvvəlcə müstəqil mühakimələr formalaşdıraraq komissiya səhvlərini azaltmaq
• Tələb olunan vaxt: Hər qərar üçün 5 dəqiqə
• Lazım olan materiallar: Kağız və ya qeydlər proqramı
• Çətinlik səviyyəsi: Qabaqcıl
• Təlimatlar:
  1. Avtomatlaşdırılmış alətə müraciət etməzdən əvvəl ilkin mühakimənizi yazın
  2. Öz inam səviyyənizi (aşağı/orta/yüksək) qeyd edin
  3. Mühakimənizi hansı məlumatlara əsaslandırdığınızı sənədləşdirin
  4. Yalnız bundan sonra avtomatlaşdırmaya müraciət edin
  5. Mühakimənizi avtomatlaşdırılmış nəticə ilə müqayisə edin — razılaşmaları və fikir ayrılıqlarını qeyd edin
• Özünü təhlil sualları:
  • Müstəqil mühakiməniz avtomatlaşdırma ilə nə qədər tez-tez uyğun gəlirdi?
  • Siz razılaşmadıqda, kim daha tez-tez haqlı olurdu?
  • Əvvəlcədən qərar vermək, avtomatlaşdırılmış nəticəyə olan münasibətinizi necə dəyişdi?
• Tezlik: Bütün mühüm qərarlar üçün

Gündəlik təcrübə

"5 Saniyəlik Fasilə"

Hər hansı avtomatlaşdırılmış tövsiyəni qəbul etməzdən əvvəl 5 saniyə dayanın və soruşun: "Bunun səhv ola biləcəyi hər hansı bir səbəb varmı?" Qısa gecikmə avtomatik qəbuletmə reaksiyasını kəsir və tənqidi qiymətləndirmə üçün yer yaradır.

• Təklif olunan müddət: Hər avtomatlaşdırılmış giriş üçün 5 saniyə
• Günün ən yaxşı vaxtı: Gün ərzində davamlı olaraq
• Tərəqqinin necə izlənməsi: Verilən fasilələri hesablamaq; fasilənin sizi sual verməyə və ya yoxlamağa apardığı halları qeyd etmək

Həftəlik çağırış

Skeptik Auditi

Hər həftə həyatınızın avtomatlaşdırmadan çox asılı olduğunuz bir sahəsini seçin (GPS, e-poçt filtrləri, axtarış reytinqləri, AI köməyi). Həmin həftənin 5-10 avtomatlaşdırılmış qərarının sistematik auditini aparın.

• 4 həftədən sonra gözlənilən nəticələr: Avtomatlaşdırmanızın harada etibarlı və nə vaxt uğursuz olduğunu kalibrlənmiş başa düşmək; təkmilləşdirilmiş yoxlama vərdişləri; azalmış kor inam
• Təhlil üçün jurnal göstərişləri:
  • "Bu audit avtomatlaşdırmanın düzgünlüyü ilə bağlı hansı fərziyyəyə meydan oxudu?"
  • "Əgər bu tövsiyənin doğru olduğuna pul mərc etsəm, nə qədər mərc edərdim?"
  • "Gündəlik işimə tapdığım xətaları tuta biləcək hansı yoxlama addımını əlavə edə bilərəm?"

12. Xüsusi auditoriyalar üçün

Liderlər və menecerlər üçün

Bu qərəz liderlik effektivliyinə necə təsir edir:

• Avtomatlaşdırılmış analitikaları tənqidsiz qəbul edən liderlər yerdəki vacib reallıqları əldən verə bilərlər
• Avtomatlaşdırılmış performans göstəriciləri komandanın sağlamlığı haqqında yalançı inam yarada bilər
• Alqoritmik proqnozlara əsaslanan strateji qərarlar görünməmiş şərtləri nəzərə almaya bilər

Təşkilati kontekstlər üçün xüsusi strategiyalar:

• Avtomatlaşdırılmış tövsiyələri ictimaiyyət qarşısında şübhə altına almaqla müvafiq skeptisizmi nümayiş etdirin
• İşçilərin avtomatlaşdırmaya qarşı çıxması üçün psixoloji təhlükəsizlik yaradın
• "Sistem tövsiyə etdi" bəhanəsi ilə yayıla bilməyəcək aydın hesabatlılıq təyin edin
• Yalnız alətdən istifadəni deyil, mühakiməni vurğulayan təlimlərə sərmayə qoyun

Komanda əsaslı müdaxilələr:

• Xüsusilə avtomatlaşdırmanı şübhə altına almaq üçün "Şeytanın vəkili" rollarını həyata keçirin
• Yüksək riskli avtomatlaşdırılmış tövsiyələri qəbul etməzdən əvvəl çoxsaylı müstəqil qiymətləndirmələr tələb edin
• Komanda iclaslarında avtomatlaşdırma uğursuzluqlarına dair hekayələri öyrənmə imkanları kimi paylaşın
• Komanda üzvlərinin avtomatlaşdırma xətalarını tutduğu halları qeyd edin

Tətbiq ediləcək qərar qəbuletmə prosesləri:

• Pre-mortem (ölümqabağı): "Əgər bu avtomatlaşdırılmış tövsiyə fəlakətə səbəb oldusa, nə səhv getdi?"
• Qırmızı komanda (Red teaming): Kimi isə avtomatlaşdırılmış tövsiyəyə qarşı mübahisə etmək üçün təyin edin
• Kalibrləmə seansları: Keçmiş avtomatlaşdırılmış proqnozları faktiki nəticələrlə müqayisə edin

Valideynlər və təhsil işçiləri üçün

Uşaqlara bu qərəz haqqında necə öyrətmək olar:

• Kompüterlərin faydalı vasitə olduğunu, lakin həmişə haqlı olmadığını izah edin
• Yaşa uyğun nümunələrdən istifadə edin (orfoqrafik səhvlər, GPS səhvləri)
• Sağlam skeptisizmi inamsızlıq kimi deyil, intellekt kimi formalaşdırın

Yaşa uyğun izahatlar:

• Gənc uşaqlar (5-8 yaş): "Kompüterlər bəzi şeylərdə ağıllıdır, lakin axmaq səhvlər edə bilərlər. Həmişə yoxlayın!"
• Böyük uşaqlar (9-12 yaş): "Tətbiqlər və veb-saytlar bizə kömək etmək üçün proqramlardan istifadə edir, lakin o proqramlar hər şeyi bilmir. Gəlin özümüz də düşünək."
• Yeniyetmələr: "AI və alqoritmlər güclüdür, lakin məhdudiyyətləri var. Ağıllı olmaq, onlara nə vaxt etibar edəcəyini və nə vaxt yoxlamaq lazım olduğunu bilmək deməkdir."

Gənc beyinlər üçün profilaktika strategiyaları:

• Kalkulyatordan istifadə ilə yanaşı zehni hesablama təcrübəsini təşviq edin
• Avtomatlaşdırılmış köməkçilərdən istifadə etməzdən əvvəl uşaqların tapşırıqları cəhd etmələrini istəyin
• Xəbərlərdə və gündəlik həyatda texnologiyanın yanlış olması ilə bağlı nümunələri müzakirə edin
• Valideyn kimi yoxlama davranışını nümayiş etdirin

Sinif və ya ev üçün fəaliyyətlər:

• Kalkulyator nəticələri, GPS marşrutları və ya AI tərəfindən yaradılan məzmunla "Səhvi tap" oyunları
• Avtomatlaşdırılmış axtarış nəticələrinin yoxlanılmasını tələb edən tədqiqat layihələri
• AI sənəti, yazısı və ya tövsiyələrinin tənqidi qiymətləndirilməsi

Səhiyyə peşəkarları üçün

Bu qərəzin klinik nəticələri:

• Klinik qərarların dəstəklənməsinə həddindən artıq inam yanlış diaqnoza səbəb ola bilər
• Xəbərdarlıq yorğunluğu təhlükəli inamsızlıq (saymazlıq) yaradır
• Süni intellekt diaqnostika alətləri qeyri-tipik təqdimatlarda zəif çıxış edə bilər

Xəstə ilə ünsiyyət strategiyaları:

• Avtomatlaşdırılmış alətlərin diaqnoz barədə nə vaxt məlumat verdiyini izah edin (şəffaflıq müvafiq etimad yaradır)
• Avtomatlaşdırılmış nəticələrin təfsirində klinik mühakimənin rolunu vurğulayın
• Xəstələrin istifadə edə biləcəyi sağlamlıq tətbiqləri və AI simptom yoxlayıcılarının məhdudiyyətlərini müzakirə edin

Diaqnostik mülahizələr:

• Qərar dəstəyinə müraciət etməzdən əvvəl differensial diaqnozu formalaşdırın
• Avtomatlaşdırmanı qəti cavab deyil, bir çoxları arasında yalnız bir məlumat nöqtəsi kimi istifadə edin
• Avtomatlaşdırılmış nəticə klinik təqdimatla uyğun gəlmədikdə xüsusilə skeptik olun

Müalicə planlaşdırılmasının təsirləri:

• Avtomatlaşdırılmış doza kalkulyatorları çəki və böyrək funksiyasının yoxlanılmasını tələb edir
• Müalicə protokolu tövsiyələri fərdi dəyişiklikləri nəzərə almaya bilər
• Xəstəyə xas amillər alqoritmik tövsiyələri üstələyə bilər

Etik mülahizələr:

• Məsuliyyət avtomatlaşdırmaya həvalə edilə bilməz
• Məlumatlı razılıq diaqnostikada süni intellektdən istifadənin açıqlanmasını tələb edə bilər
• Avtomatlaşdırmadan asılı olmayaraq peşəkar mühakimə əsas olaraq qalır

Maliyyə peşəkarları üçün

İnvestisiyaya xas tətbiqlər:

• Alqoritmik ticarət tövsiyələri hələ də insan tərəfindən məntiqi yoxlama tələb edir
• Geriye dönük test edilmiş (Backtested) performans gələcək nəticələrə zəmanət vermir
• Modellər görünməmiş bazar şəraitində fəlakətli şəkildə uğursuz ola bilər

Müştəri ilə ünsiyyət strategiyaları:

• Portfelin idarə edilməsində avtomatlaşdırmanın rolunu izah edin
• Alqoritmlərin nə edə biləcəyi və nə edə bilməyəcəyi barədə müvafiq gözləntilər təyin edin
• Risk modelləşdirməsi və proqnozlaşdırmadakı məhdudiyyətləri müzakirə edin

Risklərin idarə edilməsinin nəticələri:

• Avtomatlaşdırılmış risk göstəricilərinin (VaR və s.) məlum uğursuzluq rejimləri var
• Böhranlar zamanı korrelyasiyalar dəyişə bilər, bu da model fərziyyələrini poza bilər
• İnsan mühakiməsi ekstremal risk (tail-risk) ssenariləri üçün vacibdir

Tənzimləyici mülahizələr:

• Fidesiar (etibarlı idarəetmə) vəzifə alqoritmik məsləhətlərə əməl etməklə yerinə yetirilmir
• Sənədlər avtomatlaşdırılmış tövsiyələrin insan tərəfindən nəzərdən keçirildiyini göstərməlidir
• Uyğunluq (komplayens) sistemləri tam avtomatlaşdırma deyil, insan nəzarəti tələb edir

13. Digər qərəzlərlə qarşılıqlı əlaqə

Bu qərəzi gücləndirən qərəzlər

Bu qərəzə qarşı çıxan qərəzlər

Ümumi qərəz zəncirləri

Avtomatlaşdırma-Təsdiqləmə-Yaddaş Zənciri: Avtomatlaşdırma qərəzi → Təsdiqləmə qərəzi → Yaddaşın təhrifi → Gücləndirilmiş avtomatlaşdırma qərəzi

Kimsə avtomatlaşdırılmış tövsiyəni qəbul etdikdə (avtomatlaşdırma qərəzi), onu təsdiqləyən məlumatları seçici şəkildə qeyd etməyə başlayır (təsdiqləmə qərəzi). Zaman keçdikcə yaddaş avtomatlaşdırılmış qərarı dəstəkləmək üçün hadisələri yenidən qurur, hətta sübutlar uydurur (yaddaşın təhrifi). Bu saxta sübut daha sonra keçmiş avtomatlaşdırılmış qərarları olduqlarından daha etibarlı göstərərək gələcək avtomatlaşdırma qərəzini gücləndirir.

Kaskadı (zəncirvari reaksiyanı) kəsmək: Əsas müdaxilə nöqtəsi ilk qəbuldan əvvəldir. Avtomatlaşdırmanı görməzdən əvvəl müstəqil mühakimə yürütməyə əvvəlcədən öhdəlik götürmək ilkin lövbəri qırır. Ziddiyyətli sübutların açıq şəkildə sənədləşdirilməsinin tələb edilməsi seçici diqqətin qarşısını alır. Avtomatlaşdırılmış proqnozları nəticələrlə müqayisə edən müntəzəm auditlər yaddaş təhriflərini düzəldir.

14. Mədəni perspektivlər

Müxtəlif mədəniyyətlərdə avtomatlaşdırma qərəzi ilə bağlı tədqiqatlar həm universal xüsusiyyətləri, həm də əhəmiyyətli varyasiyaları aşkar edir:

Universal aspektlər:

• Əsas koqnitiv mexanizmlər (enerjiyə qənaət, evristik emal) öyrənilən bütün mədəniyyətlərdə özünü göstərir
• "Zehni xəsis" effekti mədəni mənşəyindən asılı olmayaraq fəaliyyət göstərir
• Yüksək etibarlılıq universal olaraq etimada və yoxlamanın azalmasına səbəb olur

Mədəni varyasiyalar:

Regional tədqiqat vurğuları:

• Yaponiya (Ishiguro): Robotlara sosial inam və antropomorfizm təsirlərinə vurğu; harmonik insan-maşın qarşılıqlı təsirinə mədəni diqqət yetirilməklə yanaşı texnologiyanın yüksək mənimsənilməsi
• Cənubi Koreya (KAIST): Mədəni dəyər kimi İzah edilə bilən Süni İntellektə (XAI) diqqət; şəffaflıq gözləntiləri kor avtomatlaşdırma etibarını azalda bilər
• Çin (Tsinghua): Danışıq AI-ın təhlükəsizliyinə və istifadəçi qərəzlərini gücləndirən yaltaq AI reaksiyalarının qarşısının alınmasına tədqiqat vurğusu
• Almaniya (TU Berlin, TU Darmstadt): Siqnal dizaynı və xidmət robotlarının qarşılıqlı əlaqəsinə mühəndislik diqqəti; mədəni dəqiqlik yoxlama normalarına təsir edə bilər
• ABŞ: Fərdi səviyyəli koqnitiv psixologiya və aviasiya/müdafiə tətbiqlərinə diqqət

Mədəniyyətlərarası təsirlər:

• Ortaq avtomatlaşdırılmış sistemlərdən istifadə edən beynəlxalq komandalar fərqli standart inam səviyyələrinə malik ola bilər
• Çoxmillətli təşkilatlar avtomatlaşdırma interfeyslərini tərtib edərkən mədəni dəyişkənliyi nəzərə almalıdırlar
• Qlobal AI sistemləri müxtəlif bazarlar üçün fərqli inam kalibrləmə yanaşmalarına ehtiyac duya bilər

15. Miflər və yalnış anlayışlar

16. Ekspert rəyləri

"Avtomatlaşdırma qərəzi 'ayıq məlumat axtarışı və emalı üçün evristik əvəzləyici' kimi fəaliyyət göstərir — 'vəziyyətin qiymətləndirilməsini vaxtından əvvəl dayandıran' idrak qısayoludur." — Linda Skitka, Kathleen Mosier və Mark Burdick, 1999

"İnam, bir agentin qeyri-müəyyənlik və həssaslıqla xarakterizə olunan bir vəziyyətdə fərdin məqsədlərinə çatmasına kömək edəcəyi münasibətidir." — John D. Lee və Katrina A. See, 2004

"İstifadəçilər döyüş meydanının reallığından daha çox maşının mühakiməsinə üstünlük verərək, xeyli əks sübutlara baxmayaraq sistem səhvlərini həvəslə qəbul etdilər." — Patriot Raketinin Dost Atəşləri üzrə Müdafiə Elm Şurasının Hesabatı, 2005

"Ekipaj 'oyundankənar' idi və avtomatlaşdırmanın nə cəhənnəm etdiyini anlaya bilmirdi." — FAA (Federal Aviasiya İdarəsi) Uçuş 447-nin İnsan Faktorları Analizi, hesabatda istinad edilib

"Yanlış LLM tövsiyələri avtomatlaşdırma qərəzliyini stimullaşdırmaqla həkimlərin diaqnostik fəaliyyətini əhəmiyyətli dərəcədə pisləşdirir." — AI Dəstəkli Diaqnostika üzrə 2025-ci il Randomizə Edilmiş Klinik Sınaq

"İnsanlar müharibəyə başlayanda ona cəmi beş raketlə başlamırlar." — Polkovnik-leytenant Stanislav Petrov, 1983-cü ildə Sovet nüvə erkən xəbərdarlıq sistemini ləğv etmək qərarını izah edərkən

17. Əsas nəticələr

1. Avtomatlaşdırma qərəzi universal və dərindən kök salmışdır. Bu, texnologiyadan əvvəl insanlara yaxşı xidmət etmiş, lakin qeyri-kamil avtomatlaşdırılmış sistemlərə tətbiq edildikdə təhlükəli zəifliklər yaradan inkişaf etmiş koqnitiv səmərəlilik mexanizmlərindən irəli gəlir.

2. Bu qərəzi iki növ xəta müəyyənləşdirir: Buraxılma səhvləri (avtomatlaşdırma xəbərdarlıq etmədiyi üçün problemləri qaçırmaq) və komissiya səhvləri (yanlış avtomatlaşdırılmış tövsiyələrə fəal şəkildə əməl etmək). Komissiya səhvləri daha çox narahatlıq doğurur, çünki onlar mühakimədən aktiv şəkildə təslim olmağı təmsil edir.

3. Etibarlılıq təhlükə yaradır. Paradoks: avtomatlaşdırma nə qədər etibarlı olursa, avtomatlaşdırma uğursuz olduqda insan səhvləri bir o qədər təhlükəli olur. "İnsan ehtiyatı" (insan müdaxiləsi) fərziyyəsi yüksək etibarlı sistemlər üçün riyazi baxımdan qüsurludur.

4. Nəticələr tarixə yazılıb. Düşən təyyarələrdən haqsız həbslərə qədər avtomatlaşdırma qərəzi insanların həyatına, azadlığına və milyardlarla dollara başa gəldi. Bunlar nəzəri risklər deyil.

5. Təlim təkbaşına kifayət deyil. Sistem dizaynı fərdi iradədən daha çox əhəmiyyət kəsb edir. Ehtimal ekranları, koqnitiv təzyiq funksiyaları və sosial-texniki iş axını dizaynı insanlara "daha çox cəhd etməyi" söyləməkdən daha effektivdir.

6. İnam maksimallaşdırılmalı deyil, kalibrlənməlidir. Məqsəd avtomatlaşdırmaya etimadsızlıq deyil, etimadı faktiki imkanlara uyğunlaşdırmaqdır. Yalnız sistemin nə etdiyini deyil, onun necə işlədiyini və harada uğursuz olduğunu anlamaq vacibdir.

7. AI dövrü riski artırır. Böyük Dil Modelləri insanların həqiqəti çatdırmaq üçün istifadə etdiyi eyni semantik kanallar vasitəsilə əlaqə quraraq dərin sosial inam mexanizmlərini tetikler. "Hallüsinasiya qəbulu" — ağlabatan səslənən uydurmalara inanmaq — cəmiyyətin yenicə mübarizə aparmağa başladığı avtomatlaşdırma qərəzinin yeni və güclü təzahürünü təmsil edir.

18. Əlavə resurslar

Akademik məqalələr

• Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991–1006.
• Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410.
• Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.
• Lyell, D., & Coiera, E. (2017). Automation bias and verification complexity: A systematic review. Journal of the American Medical Informatics Association, 24(2), 423–431.
• Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127.

Kitablar

• Parasuraman, R., & Mouloua, M. (Eds.). (1996). Automation and Human Performance: Theory and Applications. Lawrence Erlbaum Associates.
• Wickens, C. D., & Hollands, J. G. (2000). Engineering Psychology and Human Performance (3rd ed.). Prentice Hall.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Reason, J. (1990). Human Error. Cambridge University Press.
• Lee, J. D., Wickens, C. D., Liu, Y., & Boyle, L. N. (2017). Designing for People: An Introduction to Human Factors Engineering (3rd ed.). CreateSpace.

Kitab fəsilləri

• Mosier, K. L., & Skitka, L. J. (1996). Human decision makers and automated decision aids: Made for each other? In R. Parasuraman & M. Mouloua (Eds.), Automation and Human Performance (pp. 201–220). Lawrence Erlbaum Associates.

19. Xülasə kartı

20. İstifadə olunan terminlərin lüğəti

21. Müzakirə sualları

Kitab klubları, sinif otaqları və ya özünü təhlil üçün:

1. Hesabatda iddia edilir ki, "maşın nə qədər etibarlı olarsa, insan operatorun potensial səhv etmə təhlükəsi bir o qədər çox olar". Bu paradoks həll edilə biləndirmi, yoxsa insan-avtomatlaşdırma qruplaşmasının xas olan məhdudiyyətidir?

2. Stanislav Petrov avtomatlaşdırma qərəzinə uğurla müqavimət göstərdi və potensial olaraq nüvə müharibəsinin qarşısını aldı. Başqaları (Patriot operatorları kimi) edə bilmədiyi halda ona bunu etməyə hansı şəxsi keyfiyyətlər, təlimlər və ya şərtlər imkan verdi?

3. Böyük Britaniya Poçt İdarəsi Horizon qalmaqalı, avtomatlaşdırma qərəzinin institusional miqyasda 15+ il davam etdiyini göstərdi. Gələcəkdə oxşar institusional avtomatlaşdırma qərəzinin qarşısını almaq üçün hansı sistemli dəyişikliklərə ehtiyac var?

4. AI dil modelləri daha mürəkkəbləşdikcə, onlar insanların həqiqəti çatdırmaq üçün istifadə etdikləri eyni semantik kanallar vasitəsilə əlaqə qururlar. Bu, AI avtomatlaşdırma qərəzini əvvəlki formalardan əsaslı şəkildə fərqləndirirmi? Mövcud təsirlərin azaldılması strategiyaları adekvatdırmı?

5. İnsanlar yanlış avtomatlaşdırılmış tövsiyələrə əməl etdikdə qanuni məsuliyyət daşımalıdırlarmı? İnsan operator, təşkilat və avtomatlaşdırma satıcısı arasında hesabatlılığı necə balanslaşdırmalıyıq?