ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ (Automation Bias)

ສະຫຼຸບຫຍໍ້

1. ສະຫຼຸບຫຍໍ້

ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ແມ່ນແນວໂນ້ມຂອງພວກເຮົາທີ່ຈະເຊື່ອຖືຄຳແນະນຳທີ່ສ້າງຂຶ້ນດ້ວຍຄອມພິວເຕີ ຫຼາຍກວ່າການຕັດສິນໃຈຂອງພວກເຮົາເອງ ຫຼື ແຫຼ່ງຂໍ້ມູນອື່ນໆ—ເຖິງແມ່ນວ່າຄອມພິວເຕີຈະຜິດພາດຢ່າງຊັດເຈນກໍຕາມ. ເມື່ອເຄື່ອງຈັກບອກບາງສິ່ງບາງຢ່າງແກ່ພວກເຮົາ, ພວກເຮົາກໍມັກຈະຖືວ່າມັນເປັນຄວາມຈິງໂດຍບໍ່ມີການກວດສອບ, ເຊິ່ງໂດຍພື້ນຖານແລ້ວມັນຄືການຍອມຈຳນົນຄວາມຄິດແບບມີວິຈາລະນາຍານຂອງພວກເຮົາໃຫ້ກັບອັລກໍຣິທຶມ. ທາງລັດທາງຈິດໃຈນີ້ໄດ້ພັດທະນາຂຶ້ນເພື່ອປະຢັດພະລັງງານທາງສະໝອງ ແຕ່ກໍກາຍເປັນອັນຕະລາຍເມື່ອຖືກນຳໃຊ້ກັບລະບົບອັດຕະໂນມັດທີ່ບໍ່ສົມບູນແບບ, ນຳໄປສູ່ຄວາມຜິດພາດໃນການບິນ, ການດູແລສຸຂະພາບ, ຂະບວນການທາງກົດໝາຍ ແລະ ການຕັດສິນໃຈໃນຊີວິດປະຈຳວັນ.

2. ວິທະຍາສາດທີ່ຢູ່ເບື້ອງຫຼັງ

2.1. ການຄົ້ນພົບ ແລະ ປະຫວັດສາດ

ໃນຂະນະທີ່ຫຼັກຖານທາງນິທານຂອງ "ຄວາມພໍໃຈໃນລະບົບອັດຕະໂນມັດ" ມີຢູ່ໃນວົງການການບິນມາຫຼາຍທົດສະວັດ, ການສຶກສາທາງວິທະຍາສາດຢ່າງເປັນທາງການກ່ຽວກັບຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ໄດ້ເລີ່ມຕົ້ນຂຶ້ນໃນທ້າຍຊຸມປີ 1990. ການສຶກສາທີ່ສຳຄັນໃນປີ 1999 ໂດຍ Linda Skitka, Kathleen Mosier ແລະ Mark Burdick ທີ່ມີຊື່ວ່າ "ລະບົບອັດຕະໂນມັດເຮັດໃຫ້ເກີດຄວາມລຳອຽງໃນການຕັດສິນໃຈຫຼືບໍ່?" ໄດ້ແຍກປະກົດການນີ້ອອກເປັນຄວາມລຳອຽງທາງສະຕິປັນຍາທີ່ແຕກຕ່າງກັນ ທີ່ບໍ່ຂຶ້ນກັບຄວາມອ່ອນເພຍ ຫຼື ຄວາມບໍ່ມີຄວາມສາມາດພຽງຢ່າງດຽວ. ບົດຄວາມນີ້, ເຊິ່ງໄດ້ຖືກຕີພິມໃນ International Journal of Human-Computer Studies, ໄດ້ປ່ຽນແປງທິດທາງຂອງການຄົ້ນຄວ້າການໂຕ້ຕອບລະຫວ່າງມະນຸດກັບຄອມພິວເຕີຢ່າງສິ້ນເຊີງ.

ແນວຄວາມຄິດດັ່ງກ່າວເກີດຂຶ້ນຈາກການຮັບຮູ້ທີ່ເພີ່ມຂຶ້ນວ່າລະບົບອັດຕະໂນມັດ, ເຖິງວ່າຈະມີຄວາມໜ້າເຊື່ອຖື, ແຕ່ກໍໄດ້ນຳສະເໜີຄວາມຜິດພາດຂອງມະນຸດຮູບແບບໃໝ່. ອຸບັດຕິເຫດທາງການບິນໃນຍຸກເລີ່ມຕົ້ນໄດ້ຊີ້ໃຫ້ເຫັນວ່ານັກບິນກາຍເປັນຜູ້ເພິ່ງພາລະບົບການບິນອັດຕະໂນມັດຢ່າງເປັນອັນຕະລາຍ, ແຕ່ຈົນກ່ວາຈະມີການຄົ້ນຄວ້າທົດລອງຢ່າງເຂັ້ມງວດ, ນັກວິທະຍາສາດຈຶ່ງສາມາດປະເມີນປະລິມານ ແລະ ບອກລັກສະນະຂອງການເພິ່ງພານີ້ໄດ້.

ຕັ້ງແຕ່ປີ 1999, ຄວາມເຂົ້າໃຈຂອງພວກເຮົາໄດ້ພັດທະນາໄປຢ່າງຫຼວງຫຼາຍ. ນັກຄົ້ນຄວ້າໄດ້ຈຳແນກຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ອອກຈາກແນວຄວາມຄິດທີ່ກ່ຽວຂ້ອງກັນແຕ່ແຕກຕ່າງກັນກ່ຽວກັບຄວາມພໍໃຈໃນລະບົບອັດຕະໂນມັດ. ຂະແໜງການນີ້ໄດ້ຂະຫຍາຍຈາກການບິນໄປສູ່ການດູແລສຸຂະພາບ, ຍານພາຫະນະອັດຕະໂນມັດ, ລະບົບກົດໝາຍ ແລະ ຫຼ້າສຸດກໍຄື ປັນຍາປະດິດ ແລະ ໂມເດວພາສາຂະໜາດໃຫຍ່ (LLMs). ການເພີ່ມຂຶ້ນຂອງ Generative AI ໄດ້ນຳສະເໜີຮູບແບບໃໝ່ຂອງຄວາມລຳອຽງ, ລວມເຖິງ "ການຍອມຮັບພາບລວງຕາ" (hallucination acceptance)—ເຊິ່ງເປັນແນວໂນ້ມທີ່ຈະເຊື່ອຜົນໄດ້ຮັບຂອງ AI ທີ່ຟັງເບິ່ງຄືວ່າມີເຫດຜົນ ແຕ່ເປັນສິ່ງທີ່ຖືກສ້າງຂຶ້ນມາ.

ຂີດໝາຍສຳຄັນໃນການຄົ້ນຄວ້າລວມມີ:

• 1999: ການສຶກສາທົດລອງພື້ນຖານຂອງ Skitka, Mosier, ແລະ Burdick
• 2004: ໂຄງຮ່າງການປັບທຽບຄວາມໄວ້ວາງໃຈຂອງ Lee ແລະ See
• 2010: ການທົບທວນ "Attentional Integration" ຂອງ Parasuraman ແລະ Manzey ທີ່ຈຳແນກຄວາມພໍໃຈອອກຈາກຄວາມລຳອຽງ
• 2017: ໂມເດວ "ຄວາມຊັບຊ້ອນໃນການກວດສອບ" (Verification Complexity) ຂອງ Lyell ແລະ Coiera
• 2023–2025: ການລະເບີດຂອງການຄົ້ນຄວ້າກ່ຽວກັບຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດທີ່ເກີດຈາກ LLM ແລະ ການຍອມຮັບພາບລວງຕາ

2.2. ນັກຄົ້ນຄວ້າທີ່ສຳຄັນ

2.3. ການສຶກສາທີ່ສຳຄັນ (Landmark Studies)

"Does Automation Bias Decision-Making?" (Skitka, Mosier & Burdick, 1999)

ນັກຄົ້ນຄວ້າໄດ້ອອກແບບວຽກການຈຳລອງການບິນແບບຄວາມຊື່ຕົງຕ່ຳ ເພື່ອທົດສອບທາງປະຈັກພະຍານວ່າ ຜູ້ປະຕິບັດງານທີ່ເປັນມະນຸດຕິດຕາມສະຖານະຂອງລະບົບແນວໃດເມື່ອໄດ້ຮັບການຊ່ວຍເຫຼືອຈາກລະບົບສະໜັບສະໜູນການຕັດສິນໃຈອັດຕະໂນມັດ. ຜູ້ເຂົ້າຮ່ວມໄດ້ຮັບມອບໝາຍໃຫ້ຕິດຕາມມາດວັດ ແລະ "ບິນ" ໃນການຈຳລອງ. ການອອກແບບການທົດລອງໄດ້ນຳສະເໜີຕົວຊ່ວຍຕິດຕາມອັດຕະໂນມັດທີ່ເຊື່ອຖືໄດ້ແຕ່ບໍ່ສົມບູນແບບ, ເຮັດໃຫ້ນັກຄົ້ນຄວ້າສາມາດສັງເກດເຫັນພຶດຕິກຳຂອງມະນຸດຢູ່ຈຸດຕັດກັນຂອງຄວາມໄວ້ວາງໃຈ ແລະ ຄວາມຜິດພາດ.

ການຄົ້ນພົບທີ່ສຳຄັນ:

• ຜູ້ເຂົ້າຮ່ວມທີ່ມີຕົວຊ່ວຍອັດຕະໂນມັດມີແນວໂນ້ມໜ້ອຍກວ່າຢ່າງເຫັນໄດ້ຊັດທີ່ຈະມີສ່ວນຮ່ວມໃນການຄົ້ນຫາຂໍ້ມູນຢ່າງລະມັດລະວັງ ເມື່ອທຽບກັບຜູ້ປະຕິບັດງານດ້ວຍມື (manual)
• ລະບົບອັດຕະໂນມັດບໍ່ພຽງແຕ່ເສີມສ້າງຄວາມສົນໃຈຂອງມະນຸດເທົ່ານັ້ນ—ມັນຍັງໄດ້ທົດແທນມັນຢ່າງມີປະສິດທິຜົນ
• ເມື່ອຕົວຊ່ວຍອັດຕະໂນມັດແນະນຳການກະທຳທີ່ບໍ່ຖືກຕ້ອງ, ເປີເຊັນທີ່ສຳຄັນຂອງຜູ້ປະຕິບັດງານກໍຍັງປະຕິບັດຕາມຄຳແນະນຳນັ້ນ ເຖິງແມ່ນວ່າຂໍ້ມູນດິບຈະສະແດງໃຫ້ເຫັນຢ່າງຊັດເຈນວ່າມັນຜິດກໍຕາມ
• ການສຶກສາໄດ້ລະບຸປະເພດຂອງຄວາມຜິດພາດສອງປະເພດ: ຄວາມຜິດພາດຈາກການລະເລີຍ (errors of omission - ພາດເຫດການຕ່າງໆ ເພາະລະບົບອັດຕະໂນມັດບໍ່ໄດ້ເຕືອນ) ແລະ ຄວາມຜິດພາດຈາກການກະທຳ (errors of commission - ການປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດທີ່ຜິດພາດ)

ຜູ້ຂຽນໄດ້ສະຫຼຸບວ່າຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດເຮັດໜ້າທີ່ເປັນ "ການທົດແທນທາງລັດ (heuristic replacement) ສຳລັບການຄົ້ນຫາ ແລະ ປະມວນຜົນຂໍ້ມູນຢ່າງລະມັດລະວັງ," ເຊິ່ງເປັນ "ທາງລັດທາງສະຕິປັນຍາທີ່ປິດການປະເມີນສະຖານະການກ່ອນເວລາອັນຄວນ."

ການສຶກສາການບິດເບືອນຄວາມຊົງຈຳ (Mosier, ການຄົ້ນຄວ້າຕິດຕາມຜົນ)

ໃນການຄົ້ນຄວ້າຕໍ່ມາທີ່ກ່ຽວຂ້ອງກັບນັກບິນ, 67% ຂອງຜູ້ທີ່ຍອມຈຳນົນຕໍ່ຄວາມລຳອຽງຂອງລະບົບອັດຕະໂນມັດ ຕໍ່ມາໄດ້ສະແດງໃຫ້ເຫັນເຖິງ "ຄວາມຊົງຈຳທີ່ຜິດພາດ" ຂອງເຫດການນັ້ນ. ພວກເຂົາຈື່ໄດ້ວ່າເຫັນຂໍ້ຄຶດໃນຂໍ້ມູນດິບທີ່ສະໜັບສະໜູນການຕັດສິນໃຈທີ່ຜິດພາດຂອງລະບົບອັດຕະໂນມັດ—ເຊິ່ງຂໍ້ຄຶດເຫຼົ່ານັ້ນບໍ່ເຄີຍມີຢູ່ຈິງ. ສິ່ງນີ້ຊີ້ໃຫ້ເຫັນວ່າຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດສາມາດປ່ຽນແປງການຮັບຮູ້ຍ້ອນຫຼັງໄດ້; ສະໝອງ, ຫຼັງຈາກຍອມຮັບຂໍ້ສະຫຼຸບຂອງລະບົບອັດຕະໂນມັດ, ຈະສ້າງຫຼັກຖານເພື່ອສະໜັບສະໜູນມັນ.

ການສຶກສາການປັບທຽບຄວາມໄວ້ວາງໃຈ (Lee & See, 2004)

ໄດ້ກຳນົດຄວາມໄວ້ວາງໃຈໃນລະບົບອັດຕະໂນມັດວ່າເປັນ "ທັດສະນະຄະຕິທີ່ຕົວແທນຈະຊ່ວຍບັນລຸເປົ້າໝາຍຂອງບຸກຄົນ ໃນສະຖານະການທີ່ມີລັກສະນະຄວາມບໍ່ແນ່ນອນ ແລະ ຄວາມອ່ອນແອ." ໄດ້ລະບຸພື້ນຖານຂອງຄວາມໄວ້ວາງໃຈສາມປະການ: ປະສິດທິພາບ (ຄວາມໜ້າເຊື່ອຖືໃນອະດີດ), ຂະບວນການ (ຄວາມເຂົ້າໃຈໃນອັລກໍຣິທຶມ) ແລະ ຈຸດປະສົງ (ຄວາມຕັ້ງໃຈຂອງຜູ້ອອກແບບ). ໄດ້ສະແດງໃຫ້ເຫັນວ່າການເພິ່ງພາປະສິດທິພາບພຽງຢ່າງດຽວ ໂດຍບໍ່ເຂົ້າໃຈຂະບວນການ ຈະນຳໄປສູ່ຄວາມລຳອຽງທີ່ຮ້າຍແຮງໃນກໍລະນີສຸກເສີນ.

ການທົບທວນຢ່າງເປັນລະບົບກ່ຽວກັບຄວາມຊັບຊ້ອນໃນການກວດສອບ (Lyell & Coiera, 2017)

ໄດ້ສະແດງໃຫ້ເຫັນວ່າຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດແຜ່ຂະຫຍາຍໄປທົ່ວເຖິງແມ່ນວ່າໃນສະພາບແວດລ້ອມວຽກດ່ຽວ, ຖ້າວຽກນັ້ນມີຄວາມຊັບຊ້ອນພຽງພໍ. ໄດ້ນຳສະເໜີແນວຄວາມຄິດເລື່ອງຄວາມຊັບຊ້ອນໃນການກວດສອບ (Verification Complexity): ຄວາມເປັນໄປໄດ້ຂອງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ແມ່ນອັດຕາສ່ວນໂດຍກົງກັບຄວາມພະຍາຍາມທາງສະຕິປັນຍາທີ່ຈຳເປັນ ເພື່ອກວດສອບຜົນໄດ້ຮັບຂອງລະບົບອັດຕະໂນມັດ. ໂມເດວນີ້ມີຄວາມສຳຄັນຕໍ່ການເຂົ້າໃຈລະບົບ AI "ກ່ອງດຳ" ໃນຍຸກປັດຈຸບັນ.

2.4. ພື້ນຖານທາງລະບົບປະສາດ (Neurological Basis)

ພື້ນຖານທາງລະບົບປະສາດຂອງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ກ່ຽວຂ້ອງກັບກົນໄກການອະນຸລັກພະລັງງານພື້ນຖານຂອງສະໝອງ:

ພາລະທາງສະຕິປັນຍາ ແລະ Prefrontal Cortex: ສະໝອງເປັນອະໄວຍະວະທີ່ອະນຸລັກພະລັງງານ. Prefrontal cortex, ເຊິ່ງຮັບຜິດຊອບໃນໜ້າທີ່ການບໍລິຫານ ເຊັ່ນ ການຕັດສິນໃຈ ແລະ ການກວດສອບ, ຕ້ອງການຊັບພະຍາກອນການເຜົາຜານອາຫານຢ່າງຫຼວງຫຼາຍ. ເມື່ອລະບົບອັດຕະໂນມັດໃຫ້ຄຳຕອບທີ່ສົມເຫດສົມຜົນ, ໂໝດເລີ່ມຕົ້ນຂອງສະໝອງຄືການຍອມຮັບມັນໂດຍບໍ່ມີການມີສ່ວນຮ່ວມໃນຂະບວນການກວດສອບທີ່ໃຊ້ພະລັງງານສູງ.

ກົນໄກ "ຜູ້ຂີ້ຖີ່ທາງສະຕິປັນຍາ" (Cognitive Miser): ຖືກສະເໜີໃນເບື້ອງຕົ້ນໂດຍ Fiske ແລະ Taylor (1984), ຫຼັກການນີ້ຕັ້ງສົມມຸດຕິຖານວ່າມະນຸດມີແຮງຈູງໃຈທາງວິວັດທະນາການ ເພື່ອຫຼຸດຜ່ອນຄວາມພະຍາຍາມທາງສະຕິປັນຍາ. ສະໝອງຈະຕັ້ງຄ່າເລີ່ມຕົ້ນເປັນການປະມວນຜົນແບບທາງລັດ (heuristic processing) ເມື່ອໃດກໍຕາມທີ່ສະພາບແວດລ້ອມອຳນວຍ. ລະບົບອັດຕະໂນມັດສວຍໃຊ້ສິ່ງນີ້ໂດຍການເຮັດໜ້າທີ່ເປັນ "ຊຸບເປີທາງລັດ" (super-heuristic).

ເຄືອຂ່າຍຄວາມສົນໃຈ ແລະ ການຫຼຸດລົງຂອງຄວາມລະມັດລະວັງ (Vigilance Decrement): ການຄົ້ນຄວ້າ neuroergonomics ຂອງ Parasuraman ໂດຍໃຊ້ການສະແກນສະໝອງ ໄດ້ເປີດເຜີຍເວລາທີ່ສະໝອງແຍກຕົວອອກຈາກວຽກງານການຕິດຕາມ. ໃນລະຫວ່າງການຕິດຕາມແບບຕົວຕັ້ງຕົວຕີ (passive monitoring) ຂອງລະບົບອັດຕະໂນມັດທີ່ເຊື່ອຖືໄດ້, ເຄືອຂ່າຍຄວາມສົນໃຈ (ໂດຍສະເພາະ dorsal attention network) ສະແດງໃຫ້ເຫັນເຖິງການເປີດໃຊ້ງານທີ່ຫຼຸດລົງເມື່ອເວລາຜ່ານໄປ—ເຊິ່ງເອີ້ນວ່າ "ການຫຼຸດລົງຂອງຄວາມລະມັດລະວັງ" (vigilance decrement).

ການປັ້ນແຕ່ງຄວາມຊົງຈຳ (Memory Confabulation): ການຄົ້ນພົບວ່ານັກບິນ 67% ສະແດງຄວາມຊົງຈຳທີ່ຜິດພາດຫຼັງຈາກຄວາມຜິດພາດທີ່ເກີດຈາກລະບົບອັດຕະໂນມັດ ຊີ້ໃຫ້ເຫັນເຖິງການມີສ່ວນຮ່ວມຂອງຂະບວນການລວມຄວາມຊົງຈຳ. ເມື່ອສະໝອງຍອມຮັບຂໍ້ສະຫຼຸບຂອງລະບົບອັດຕະໂນມັດ, ລະບົບຄວາມຊົງຈຳ hippocampal ອາດຈະສ້າງ "ຫຼັກຖານ" ສະໜັບສະໜູນໃນລະຫວ່າງການລວມຕົວ, ລວມເອົາການຕັດສິນໃຈທີ່ຜິດພາດເຂົ້າໄປໃນເລື່ອງເລົ່າທີ່ສອດຄ່ອງກັນ.

ເສັ້ນທາງລາງວັນ Dopaminergic: ການໄວ້ວາງໃຈລະບົບອັດຕະໂນມັດ ແລະ ຄວາມຖືກຕ້ອງຈະກະຕຸ້ນເສັ້ນທາງລາງວັນ. ການເສີມແຮງທາງບວກນີ້ຈະເສີມສ້າງທາງລັດໃນການຍອມຮັບລະບົບອັດຕະໂນມັດໃຫ້ເຂັ້ມແຂງຂຶ້ນເມື່ອເວລາຜ່ານໄປ, ເຮັດໃຫ້ມັນຍາກຂຶ້ນເລື້ອຍໆໃນການລົບລ້າງມັນ.

3. ຕົ້ນກຳເນີດທາງວິວັດທະນາການ

ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ເປັນຕົວແທນຂອງການນຳໃຊ້ກົນໄກທາງສະຕິປັນຍາທີ່ບໍ່ເໝາະສົມ ເຊິ່ງໄດ້ພັດທະນາຂຶ້ນເພື່ອເພີ່ມຄວາມຢູ່ລອດໃນສະພາບແວດລ້ອມກ່ອນຍຸກເທັກໂນໂລຢີ.

ການອະນຸລັກພະລັງງານໃນໂລກທີ່ຂາດແຄນ: ບັນພະບຸລຸດຂອງພວກເຮົາອາໄສຢູ່ໃນສະພາບແວດລ້ອມທີ່ແຄລໍຣີເປັນສິ່ງລ້ຳຄ່າ. ສະໝອງໃຊ້ພະລັງງານປະມານ 20% ຂອງຮ່າງກາຍ. ວິວັດທະນາການໄດ້ເລືອກເອົາທາງລັດທາງສະຕິປັນຍາທີ່ສ້າງການຕັດສິນໃຈທີ່ "ດີພໍ" ໃນຂະນະທີ່ອະນຸລັກພະລັງງານສຳລັບກິດຈະກຳການຢູ່ລອດທາງຮ່າງກາຍ. ການມອບໝາຍວຽກງານທາງສະຕິປັນຍາໃຫ້ກັບແຫຼ່ງທີ່ເຊື່ອຖືໄດ້ແມ່ນການປັບຕົວ.

ການເຄົາລົບທາງສັງຄົມ ແລະ ຄວາມຊ່ຽວຊານ: ມະນຸດໄດ້ພັດທະນາໃນກຸ່ມສັງຄົມ ເຊິ່ງການຍອມຮັບຜູ້ຊ່ຽວຊານ (ຜູ້ອາວຸໂສ, ນັກລ່າທີ່ມີທັກສະ, ໝໍປົວພະຍາດ) ໄດ້ມອບຂໍ້ໄດ້ປຽບໃນການຢູ່ລອດ. ພວກເຮົາໄດ້ພັດທະນາທາງລັດເພື່ອລະບຸແຫຼ່ງຂໍ້ມູນທີ່ໜ້າເຊື່ອຖື ແລະ ຍອມຮັບພວກເຂົາ. ລະບົບອັດຕະໂນມັດ, ໂດຍສະເພາະລະບົບທີ່ເຊື່ອຖືໄດ້ 99% ຂອງເວລາ, ໄດ້ກະຕຸ້ນກົນໄກການຍອມຮັບແບບດຽວກັນນີ້.

ຄວາມໄວ້ວາງໃຈໃນເຄື່ອງມືໃນຖານະຄວາມຢູ່ລອດ: ການໄວ້ວາງໃຈເຄື່ອງມືຂອງຕົນເອງແມ່ນສິ່ງຈຳເປັນທາງວິວັດທະນາການ. ນັກລ່າທີ່ສົງໄສຢູ່ຕະຫຼອດເວລາວ່າຫອກຂອງຕົນຈະບິນໄດ້ກົງຫຼືບໍ່ ຈະເປັນອຳມະພາດ. ວິວັດທະນາການໄດ້ຄັດເລືອກເອົາຄວາມໝັ້ນໃຈໃນເຄື່ອງມືທີ່ເຊື່ອຖືໄດ້. ລະບົບອັດຕະໂນມັດສະໄໝໃໝ່ໄດ້ປຸ້ນເອົາກົນໄກຄວາມໄວ້ວາງໃຈໃນເຄື່ອງມືທີ່ຝັງເລິກນີ້.

ຂໍ້ບົກພ່ອງ ຫຼື ຄຸນສົມບັດ? (Bug or Feature?): ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດໂດຍພື້ນຖານແລ້ວແມ່ນຄຸນສົມບັດທີ່ຖືກນຳໃຊ້ຜິດ. ຍຸດທະສາດປະສິດທິພາບທາງສະຕິປັນຍາເຮັດວຽກໄດ້ດີໃນສະພາບແວດລ້ອມທຳມະຊາດ ເຊິ່ງການຕອບສະໜອງແມ່ນທັນທີ ແລະ ຜົນສະທ້ອນແມ່ນເປັນສັດສ່ວນກັນ. ມັນລົ້ມເຫຼວຢ່າງຮ້າຍແຮງໃນສະພາບແວດລ້ອມທາງເທັກໂນໂລຢີທີ່ມີຄວາມສ່ຽງສູງ ເຊິ່ງຄວາມຜິດພາດນັ້ນຫາຍາກແຕ່ສ້າງຄວາມເສຍຫາຍຢ່າງໜັກ, ການຕອບສະໜອງຊ້າ ແລະ ຜົນສະທ້ອນແມ່ນບໍ່ສົມມາດ.

ຄວາມບໍ່ສອດຄ່ອງຂອງສະພາບແວດລ້ອມ (Environmental Mismatch): ສະພາບແວດລ້ອມທີ່ຄວາມລຳອຽງນີ້ເຄີຍເປັນການປັບຕົວ ແມ່ນແຕກຕ່າງຢ່າງຫຼວງຫຼາຍຈາກບໍລິບົດທາງເທັກໂນໂລຢີໃນປັດຈຸບັນ. ທາງລັດທີ່ມີປະໂຫຍດໃນເວລາຈັດການກັບເຄື່ອງມືຫີນ ກາຍເປັນອັນຕະລາຍເມື່ອນຳໃຊ້ກັບລະບົບທີ່ຄວບຄຸມເຕົາປະຕິກອນນິວເຄລຍ, ເຄື່ອງບິນ ຫຼື ການວິນິດໄສທາງການແພດ. ໂຄງສ້າງທາງສະຕິປັນຍາຂອງພວກເຮົາບໍ່ໄດ້ພັດທະນາເພື່ອຈັດການກັບຄວາມຂັດແຍ້ງກັນລະຫວ່າງຄວາມໜ້າເຊື່ອຖື ແລະ ອັນຕະລາຍ (reliability-danger paradox): ຍິ່ງເຄື່ອງຈັກມີຄວາມໜ້າເຊື່ອຖືຫຼາຍເທົ່າໃດ, ຄວາມຜິດພາດຂອງມະນຸດກໍຍິ່ງອັນຕະລາຍຫຼາຍຂຶ້ນເທົ່ານັ້ນ.

4. ຄວາມລຳອຽງນີ້ສະແດງອອກແນວໃດ

4.1. ໃນຊີວິດປະຈຳວັນ

• ການນຳທາງ GPS: ຜູ້ຂັບຂີ່ປະຕິບັດຕາມຄຳແນະນຳ GPS ລົງໄປໃນທະເລສາບ, ໄປສູ່ຖະໜົນທີ່ປິດ ຫຼື ໄປຕາມເສັ້ນທາງທີ່ບໍ່ເໝາະສົມ ເຖິງແມ່ນວ່າມີຫຼັກຖານທາງສາຍຕາທີ່ຂັດແຍ້ງກັບທິດທາງເຫຼົ່ານັ້ນ. ອຳນາດຂອງລະບົບການນຳທາງລົບລ້າງການສັງເກດການຮັບຮູ້ໂດຍກົງ.

• ເຄື່ອງມືກວດສອບການສະກົດຄຳ ແລະ ໄວຍະກອນ: ນັກຂຽນຍອມຮັບການແກ້ໄຂອັດຕະໂນມັດ ຫຼື ຄຳແນະນຳໄວຍະກອນທີ່ຜິດພາດໂດຍບໍ່ມີການກວດສອບ, ນຳເອົາຄວາມຜິດພາດເຂົ້າໄປໃນເອກະສານສຸດທ້າຍ. ເຄື່ອງໝາຍຖືກສີຂຽວກາຍເປັນກາປະທັບຂອງການອະນຸມັດ.

• ອຸປະກອນເຮືອນອັດສະລິຍະ (Smart Home): ການຍອມຮັບຄຳແນະນຳດ້ານພະລັງງານຂອງເຄື່ອງຄວບຄຸມອຸນຫະພູມອັດສະລິຍະ ໂດຍບໍ່ພິຈາລະນາເຖິງຄວາມສະດວກສະບາຍສ່ວນຕົວ ຫຼື ສະຖານະການສະເພາະຂອງຄົວເຮືອນ.

• ຄຳແນະນຳທາງອອນໄລນ໌: ການຍອມຮັບຄຳແນະນຳທີ່ຂັບເຄື່ອນດ້ວຍອັລກໍຣິທຶມຢ່າງບໍ່ມີວິຈາລະນາຍານ ສຳລັບການຊື້, ຄວາມບັນເທີງ ຫຼື ການເຊື່ອມຕໍ່ທາງສັງຄົມ ໂດຍບໍ່ຕັ້ງຄຳຖາມວ່າເປັນຫຍັງທາງເລືອກສະເພາະຈຶ່ງຖືກນຳສະເໜີ.

• ການເພິ່ງພາເຄື່ອງຄິດເລກ: ການຍອມຮັບຜົນໄດ້ຮັບຂອງເຄື່ອງຄິດເລກໂດຍບໍ່ມີການກວດສອບຄວາມສົມເຫດສົມຜົນວ່າຜົນໄດ້ຮັບນັ້ນສົມເຫດສົມຜົນຫຼືບໍ່, ເຖິງແມ່ນວ່າຈະເປັນການຄິດໄລ່ແບບງ່າຍໆ ທີ່ການຄາດຄະເນສາມາດເປີດເຜີຍຄວາມຜິດພາດທີ່ຊັດເຈນກໍຕາມ.

4.2. ໃນບ່ອນເຮັດວຽກ

• ຄວາມໄວ້ວາງໃຈໃນ Spreadsheet ຫຼາຍເກີນໄປ: ການຍອມຮັບຜົນໄດ້ຮັບຂອງສູດໃນ Excel ໂດຍບໍ່ມີການກວດສອບການຄິດໄລ່ພື້ນຖານ, ນຳໄປສູ່ຄວາມຜິດພາດທີ່ແຜ່ລາມໃນໂມເດວທາງການເງິນ ແລະ ບົດລາຍງານ.

• ການກຳນົດເວລາອັດຕະໂນມັດ: ການປະຕິບັດຕາມຕາຕະລາງທີ່ສ້າງໂດຍ AI ທີ່ບໍ່ໄດ້ຄຳນຶງເຖິງປັດໄຈຂອງມະນຸດ ເຊັ່ນ ນະໂຍບາຍຂອງທີມ, ເວລາເດີນທາງ ຫຼື ຮູບແບບການເຮັດວຽກຂອງແຕ່ລະບຸກຄົນ.

• ຊອບແວຄັດກອງ HR: ຜູ້ຈັດການການຈ້າງງານທີ່ມອບໝາຍທັງໝົດໃຫ້ກັບການຄັດກອງຊີວະປະຫວັດອັດຕະໂນມັດ, ພາດຜູ້ສະໝັກທີ່ມີຄຸນສົມບັດທີ່ຖືກໝາຍວ່າເປັນຜູ້ທີ່ບໍ່ກົງກັນ (poor match) ຫຼື ຍອມຮັບຜູ້ທີ່ບໍ່ມີຄຸນສົມບັດທີ່ອັລກໍຣິທຶມມັກ.

• ການວິເຄາະປະສິດທິພາບ: ການເພິ່ງພາຕົວກຳນົດປະສິດທິພາບອັດຕະໂນມັດຫຼາຍເກີນໄປ ເຊິ່ງບໍ່ສາມາດຈັບເອົາລັກສະນະທາງຄຸນນະພາບຂອງການປະກອບສ່ວນຂອງພະນັກງານ.

• ການກັ່ນຕອງອີເມວ: ການພາດການສື່ສານທີ່ສຳຄັນເນື່ອງຈາກຕົວຕອງສະແປມຈັດປະເພດຜິດພາດ, ໂດຍບໍ່ມີການກວດສອບຂໍ້ຄວາມທີ່ຖືກກັ່ນຕອງເປັນໄລຍະ.

• ບົດລາຍງານອັດຕະໂນມັດ: ການແຈກຢາຍບົດລາຍງານທີ່ສ້າງໂດຍລະບົບໂດຍບໍ່ມີການທົບທວນຄວາມຜິດປົກກະຕິ ຫຼື ຄວາມຜິດພາດ, ໂດຍສົມມຸດວ່າມັນຖືກຕ້ອງຍ້ອນວ່າ "ລະບົບເວົ້າແບບນັ້ນ."

4.3. ໃນທຸລະກິດ ແລະ ການຕະຫຼາດ

• Algorithmic Trading: ບໍລິສັດການເງິນທີ່ອີງໃສ່ອັລກໍຣິທຶມການຊື້ຂາຍໂດຍບໍ່ມີການກວດກາຂອງມະນຸດ, ນຳໄປສູ່ການຂັດຂ້ອງຢ່າງກະທັນຫັນ (flash crashes) ແລະ ການລົ້ມເຫຼວແບບຕ່ອງໂສ້.

• Dynamic Pricing: ບໍລິສັດທີ່ນຳໃຊ້ການກຳນົດລາຄາອັດຕະໂນມັດທີ່ເຮັດໃຫ້ລູກຄ້າບໍ່ພໍໃຈໃນລະຫວ່າງເຫດສຸກເສີນ ຫຼື ການຂັດຂວາງການສະໜອງ, ເຊິ່ງທຳລາຍຊື່ສຽງຂອງແບຣນ.

• Marketing Automation: ການສົ່ງຂໍ້ຄວາມອັດຕະໂນມັດທີ່ບໍ່ເໝາະສົມ ເພາະຕົວຊີ້ບອກດ້ານປະຊາກອນສາດ ຫຼື ພຶດຕິກຳເຮັດວຽກຜິດພາດ.

• Customer Service Chatbots: ທຸລະກິດທີ່ສົມມຸດວ່າການໂຕ້ຕອບຂອງແຊັດບັອດນັ້ນເປັນທີ່ໜ້າພໍໃຈ ໂດຍບໍ່ມີການຕິດຕາມລູກຄ້າທີ່ອຸກອັ່ງເຊິ່ງຕິດຢູ່ໃນວົງຈອນທີ່ບໍ່ມີປະໂຫຍດ.

• ການຈັດການສິນຄ້າຄົງຄັງ (Inventory Management): ຜູ້ຂາຍຍ່ອຍທີ່ໄວ້ວາງໃຈລະບົບການສັ່ງຊື້ຄືນອັດຕະໂນມັດທີ່ບໍ່ສາມາດຄຳນຶງເຖິງການປ່ຽນແປງໃນທ້ອງຖິ່ນ, ການປ່ຽນແປງຕາມລະດູການ ຫຼື ເຫດການທີ່ຈະມາເຖິງ.

• ການກວດຈັບການສໍ້ໂກງ (Fraud Detection): ທະນາຄານທັງພາດການສໍ້ໂກງ (errors of omission) ແລະ ໝາຍທຸລະກຳທີ່ຖືກຕ້ອງ (false positives ທີ່ຫຼັງຈາກນັ້ນກໍຖືກຍອມຮັບໂດຍບໍ່ມີການທົບທວນ).

4.4. ໃນການເມືອງ ແລະ ສື່ມວນຊົນ

• ອັລກໍຣິທຶມສື່ສັງຄົມອອນໄລນ໌: ໂລກທັດຂອງພົນລະເມືອງທີ່ຖືກສ້າງຂຶ້ນໂດຍອັລກໍຣິທຶມແນະນຳເນື້ອຫາທີ່ພວກເຂົາບໍ່ໄດ້ຕັ້ງຄຳຖາມ ຫຼື ເຂົ້າໃຈ.

• ເຄື່ອງມືກວດສອບຂໍ້ເທັດຈິງ (Fact-Checking): ນັກຂ່າວທີ່ອີງໃສ່ການກວດສອບຂໍ້ເທັດຈິງອັດຕະໂນມັດໂດຍບໍ່ມີການກວດສອບ, ອາດຈະເຜີຍແຜ່ຄວາມຜິດພາດ ຫຼື ພາດການກ່າວອ້າງທີ່ມີຄວາມໝາຍຍ່ອຍ.

• ການລວມຜົນການຢັ່ງຫາງສຽງ (Poll Aggregation): ນັກວິຈານການເມືອງທີ່ປະຕິບັດຕໍ່ຜູ້ລວບລວມການຢັ່ງຫາງສຽງດ້ວຍອັລກໍຣິທຶມວ່າເປັນຜູ້ມີອຳນາດ ເຖິງວ່າຈະມີຂໍ້ຈຳກັດ ແລະ ຂໍ້ສົມມຸດຕິຖານຂອງໂມເດວກໍຕາມ.

• ການກັ່ນຕອງເນື້ອຫາ (Content Moderation): ການຍອມຮັບການຕັດສິນໃຈໃນການກັ່ນຕອງເນື້ອຫາອັດຕະໂນມັດວ່າຖືກຕ້ອງ, ການສະກັດກັ້ນການປາກເວົ້າທີ່ຖືກກົດໝາຍ ຫຼື ອະນຸຍາດໃຫ້ເນື້ອຫາທີ່ເປັນອັນຕະລາຍຍັງຄົງຢູ່.

• ເທັກໂນໂລຢີການເລືອກຕັ້ງ: ຜູ້ລົງຄະແນນສຽງ ແລະ ເຈົ້າໜ້າທີ່ທີ່ໄວ້ວາງໃຈລະບົບການລົງຄະແນນສຽງ ແລະ ການນັບຄະແນນທາງອີເລັກໂທຣນິກ ໂດຍບໍ່ມີກົນໄກການກວດສອບທີ່ພຽງພໍ.

• ການຕຳຫຼວດແບບຄາດຄະເນ (Predictive Policing): ການບັງຄັບໃຊ້ກົດໝາຍທີ່ນຳໃຊ້ຊັບພະຍາກອນໂດຍອີງໃສ່ການຄາດຄະເນທາງອັລກໍຣິທຶມທີ່ອາດສະທ້ອນເຖິງຄວາມລຳອຽງທາງປະຫວັດສາດແທນທີ່ຈະເປັນຄວາມສ່ຽງທີ່ແທ້ຈິງ.

4.5. ໃນການດູແລສຸຂະພາບ

• ລະບົບສະໜັບສະໜູນການຕັດສິນໃຈທາງຄລີນິກ (CDSS): ການທົດລອງທາງຄລີນິກແບບສຸ່ມໃນປີ 2025 ພົບວ່າ "ຄຳແນະນຳຂອງ LLM ທີ່ຜິດພາດໄດ້ຫຼຸດຜ່ອນປະສິດທິພາບການວິນິດໄສຂອງແພດຢ່າງຫຼວງຫຼາຍໂດຍການກະຕຸ້ນໃຫ້ເກີດຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ." ເຖິງແມ່ນວ່າແພດຜູ້ຊ່ຽວຊານກໍຍັງຍອມຈຳນົນຕໍ່ເຄື່ອງຈັກທີ່ສ້າງການວິນິດໄສແບບພາບລວງຕາ.

• ບັນທຶກສຸຂະພາບທາງອີເລັກໂທຣນິກ (EHR): ຄວາມອ່ອນເພຍຈາກການແຈ້ງເຕືອນ (Alert fatigue) ທີ່ຫຼາຍເກີນໄປຂອງລະບົບ ເຮັດໃຫ້ແພດເມີນເສີຍຕໍ່ການແຈ້ງເຕືອນທັງໝົດ, ລວມເຖິງການແຈ້ງເຕືອນທີ່ສຳຄັນ. ໃນທາງກົງກັນຂ້າມ, ການຍອມຮັບຄຳແນະນຳຈາກລະບົບ EHR ໂດຍບໍ່ມີການກວດສອບທາງຄລີນິກ.

• AI ພາບຖ່າຍທາງການແພດ: ນັກລັງສີວິທະຍາຍອມຮັບ ຫຼື ປະຕິເສດການຄົ້ນພົບທີ່ຖືກໝາຍດ້ວຍ AI ໂດຍບໍ່ມີການກວດສອບແບບເອກະລາດ, ອາດຈະພາດການເປັນມະເຮັງ ຫຼື ວິນິດໄສຫຼາຍເກີນໄປສຳລັບການຄົ້ນພົບທີ່ບໍ່ເປັນອັນຕະລາຍ.

• ຕົວປຽບທຽບປະຕິກິລິຍາຂອງຢາ (Drug Interaction Checkers): ເພສັດຊະກອນປັດຖິ້ມ ຫຼື ຍອມຮັບຄຳເຕືອນປະຕິກິລິຍາຂອງຢາອັດຕະໂນມັດ ໂດຍບໍ່ມີການຕັດສິນໃຈທາງຄລີນິກກ່ຽວກັບສະຖານະການຂອງຄົນເຈັບແຕ່ລະຄົນ.

• ຈໍພາບສະແດງສັນຍານຊີບ: ພະຍາບານ ແລະ ແພດເມີນເສີຍຕໍ່ການສັງເກດການທາງຄລີນິກທີ່ຂັດແຍ້ງກັບການອ່ານຄ່າສັນຍານຊີບອັດຕະໂນມັດທີ່ "ປົກກະຕິ."

• ອັລກໍຣິທຶມການວິນິດໄສ: ການປະຕິບັດຕາມເສັ້ນທາງການວິນິດໄສທາງອັລກໍຣິທຶມ ເຖິງແມ່ນວ່າການນຳສະເໜີຂອງຄົນເຈັບຈະຊີ້ໃຫ້ເຫັນເຖິງກໍລະນີທີ່ຜິດປົກກະຕິເຊິ່ງຕ້ອງການສັນຊາດຕະຍານຂອງມະນຸດ.

4.6. ໃນການເງິນ ແລະ ການລົງທຶນ

• Robo-Advisors: ນັກລົງທຶນປະຕິບັດຕາມຄຳແນະນຳຫຼັກຊັບອັດຕະໂນມັດ ໂດຍບໍ່ພິຈາລະນາສະຖານະການສ່ວນຕົວ, ການປ່ຽນແປງຄວາມທົນທານຕໍ່ຄວາມສ່ຽງ ຫຼື ເຫດການໃນຊີວິດທີ່ບໍ່ຖືກຈັບໄດ້ໂດຍອັລກໍຣິທຶມ.

• ການໃຫ້ຄະແນນສິນເຊື່ອ (Credit Scoring): ຜູ້ໃຫ້ກູ້ຍອມຮັບ ຫຼື ປະຕິເສດໃບສະໝັກໂດຍອີງໃສ່ຄະແນນສິນເຊື່ອອັດຕະໂນມັດພຽງຢ່າງດຽວ ໂດຍບໍ່ມີການກວດກາສະຖານະການສ່ວນບຸກຄົນ ຫຼື ຄວາມຜິດພາດໃນບົດລາຍງານສິນເຊື່ອ.

• ໂມເດວການປະເມີນຄວາມສ່ຽງ: ສະຖາບັນການເງິນໄວ້ວາງໃຈ Value-at-Risk ແລະ ໂມເດວຄວາມສ່ຽງອັດຕະໂນມັດອື່ນໆ ທີ່ລົ້ມເຫຼວຢ່າງຮ້າຍແຮງໃນໄລຍະວິກິດການທາງການເງິນປີ 2008.

• ການຕັດສິນໃຈ Algorithmic Trading: ນັກລົງທຶນລາຍຍ່ອຍສຳເນົາສັນຍານການຊື້ຂາຍຂອງອັລກໍຣິທຶມ ໂດຍບໍ່ເຂົ້າໃຈຍຸດທະສາດພື້ນຖານ ຫຼື ສະພາບຂອງຕະຫຼາດ.

• ການວາງແຜນການເງິນອັດຕະໂນມັດ: ການຍອມຮັບການຄາດຄະເນເງິນກຳນານ ແລະ ຄຳແນະນຳການປະຢັດຈາກຊອບແວ ໂດຍບໍ່ຕັ້ງຄຳຖາມກ່ຽວກັບສົມມຸດຕິຖານກ່ຽວກັບອັດຕາເງິນເຟີ້, ຜົນຕອບແທນ ຫຼື ອາຍຸໄຂ.

• ການແຈ້ງເຕືອນການສໍ້ໂກງ: ບໍ່ວ່າຈະເມີນເສີຍຕໍ່ການແຈ້ງເຕືອນການສໍ້ໂກງທີ່ແທ້ຈິງເນື່ອງຈາກຜົນບວກທີ່ບໍ່ຖືກຕ້ອງເລື້ອຍໆ (false positives) ຫຼື ການຍອມຮັບທຸລະກຳທີ່ຖືກໝາຍທັງໝົດວ່າເປັນການສໍ້ໂກງໂດຍບໍ່ມີການສືບສວນ.

5. ກໍລະນີສຶກສາໃນໂລກແຫ່ງຄວາມເປັນຈິງ

ກໍລະນີສຶກສາທີ 1: The Patriot Missile Fratricides (2003)

• ບໍລິບົດ: ໃນລະຫວ່າງປະຕິບັດການ Iraqi Freedom, ລະບົບຈະຫຼວດ Patriot ຂອງກອງທັບສະຫະລັດດຳເນີນການໃນໂໝດຕ່າງໆ, ຈາກການຄວບຄຸມດ້ວຍມືໄປຈົນເຖິງອັດຕະໂນມັດຢ່າງເຕັມຮູບແບບ. ສະພາບແວດລ້ອມທີ່ມີໄພຂົ່ມຂູ່ສູງເຊິ່ງມີລັກສະນະຄວາມຢ້ານກົວຕໍ່ຈະຫຼວດນຳວິຖີຂອງອີຣັກ ໄດ້ນຳໄປສູ່ການຕັ້ງຄ່າລະບົບທີ່ລຳອຽງໄປສູ່ການໂຈມຕີ.

• ສິ່ງທີ່ເກີດຂຶ້ນ: ເຫດການຍິງກັນເອງທີ່ອັບອາຍສອງຄັ້ງໄດ້ເກີດຂຶ້ນ: ການຍິງຕົກຂອງເຮືອບິນ Tornado GR4 ຂອງກອງທັບອາກາດອັງກິດ ແລະ ເຮືອບິນ F/A-18 Hornet ຂອງກອງທັບເຮືອສະຫະລັດ. ລູກເຮືອທັງໝົດເສຍຊີວິດ. ໃນທັງສອງເຫດການ, ອັລກໍຣິທຶມເຣດາຂອງ Patriot ໄດ້ຈັດປະເພດເຮືອບິນຂອງຝ່າຍດຽວກັນຜິດພາດວ່າເປັນຈະຫຼວດຕໍ່ຕ້ານເຣດາ (ARM) ທີ່ກຳລັງເຂົ້າມາ.

• ຄວາມລຳອຽງທີ່ເຮັດວຽກ: ລະບົບໄດ້ນຳສະເໜີການຈັດປະເພດທີ່ຜິດພາດວ່າເປັນຄວາມຈິງແກ່ຜູ້ປະຕິບັດງານທີ່ເປັນມະນຸດ. ເຖິງແມ່ນວ່າຜູ້ປະຕິບັດງານມີເວລາຫຼາຍວິນາທີເພື່ອກວດສອບເປົ້າໝາຍໂດຍໃຊ້ພາລາມິເຕີອື່ນໆ (ຄວາມໄວທາງອາກາດ, ລະດັບຄວາມສູງ, ການລະບຸຕົວຕົນຝ່າຍດຽວກັນ ຫຼື ສັດຕູ), ແຕ່ພວກເຂົາກໍລົ້ມເຫຼວທີ່ຈະເຮັດແນວນັ້ນຢ່າງມີປະສິດທິຜົນ. ບົດລາຍງານຂອງຄະນະກຳມະການວິທະຍາສາດປ້ອງກັນປະເທດພົບວ່າ ຜູ້ໃຊ້ "ເຕັມໃຈຍອມຮັບຄວາມຜິດພາດຂອງລະບົບເຖິງວ່າຈະມີຫຼັກຖານທີ່ໜັກແໜ້ນໃນທາງກົງກັນຂ້າມກໍຕາມ," ໂດຍເລືອກທີ່ຈະເຊື່ອການຕັດສິນໃຈຂອງເຄື່ອງຈັກຫຼາຍກວ່າຄວາມເປັນຈິງໃນສະໜາມຮົບ.

• ຜົນສະທ້ອນ: ທະຫານ 4 ຄົນເສຍຊີວິດ. ບົດລາຍງານໄດ້ລະບຸວ່າຄວາມລຳອຽງບໍ່ພຽງແຕ່ເປັນເລື່ອງສ່ວນບຸກຄົນ ແຕ່ເປັນລະດັບສະຖາບັນ—ຜູ້ປະຕິບັດງານໄດ້ຮັບການຝຶກອົບຮົມໃຫ້ເຊື່ອໝັ້ນໃນລະບົບ; "ວັດທະນະທຳຂອງຄວາມບໍ່ຜິດພາດ" ທີ່ຢູ່ອ້ອມຮອບເທັກໂນໂລຢີໝາຍຄວາມວ່າ "ສິດຍັບຍັ້ງຂອງມະນຸດ" (human veto) ເປັນພຽງທິດສະດີສ່ວນໃຫຍ່.

• ບົດຮຽນທີ່ໄດ້ຮັບ: ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດສາມາດຝັງເຂົ້າໄປໃນອົງກອນຜ່ານການຝຶກອົບຮົມ, ວັດທະນະທຳ ແລະ ການອອກແບບລະບົບ. ໂມເດວ "Swiss Cheese" ໄດ້ສະແດງໃຫ້ເຫັນວ່າຫຼາຍຊັ້ນຂອງການແຊກແຊງທີ່ອາດເປັນໄປໄດ້ຂອງມະນຸດໄດ້ລົ້ມເຫຼວພ້ອມໆກັນແນວໃດ ເນື່ອງຈາກແຕ່ລະຄົນສົມມຸດວ່າລະບົບອັດຕະໂນມັດນັ້ນຖືກຕ້ອງ.

ກໍລະນີສຶກສາທີ 2: The UK Post Office Horizon Scandal (1999–2015)

• ບໍລິບົດ: ລະບົບ IT ທີ່ຊື່ວ່າ Horizon, ພັດທະນາໂດຍ Fujitsu, ໄດ້ຖືກນຳອອກມາໃຊ້ເພື່ອຈັດການການບັນຊີສຳລັບຫ້ອງການໄປສະນີຂອງອັງກິດ. ເກືອບທັນທີ, ຜູ້ຈັດການສາຂາໄປສະນີຍ່ອຍໄດ້ເລີ່ມລາຍງານການຂາດດຸນທີ່ບໍ່ສາມາດອະທິບາຍໄດ້ໃນບັນຊີຂອງພວກເຂົາ.

• ສິ່ງທີ່ເກີດຂຶ້ນ: ຜູ້ບໍລິຫານຂອງໄປສະນີ ແລະ ສານຂອງອັງກິດໄດ້ດຳເນີນການພາຍໃຕ້ຂໍ້ສັນນິດຖານທາງກົດໝາຍທີ່ວ່າ "ຄອມພິວເຕີແມ່ນເຊື່ອຖືໄດ້"—ເຊິ່ງເປັນຮູບແບບໜຶ່ງຂອງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດທີ່ຖືກບັນຍັດໄວ້. ເມື່ອຜູ້ຈັດການສາຂາຍ່ອຍອ້າງວ່າລະບົບມີຄວາມຜິດພາດ, ພວກເຂົາຖືກກ່າວຫາວ່າລັກຊັບ. ຄຳໃຫ້ການຂອງພົນລະເມືອງທີ່ຊື່ສັດຫຼາຍຮ້ອຍຄົນຖືກເມີນເສີຍຢ່າງເປັນລະບົບ ເພື່ອສະໜັບສະໜູນບັນທຶກຂອງ Horizon.

• ຄວາມລຳອຽງທີ່ເຮັດວຽກ: ຜົນໄດ້ຮັບຂອງຄອມພິວເຕີຖືກປະຕິບັດຄືກັບຄວາມຈິງອັນສັກສິດ, ເຊິ່ງມີພູມຄຸ້ມກັນຕໍ່ການທ້າທາຍຂອງມະນຸດ. "ຂໍ້ມູນທີ່ຂັດແຍ້ງກັນຈາກແຫຼ່ງທີ່ບໍ່ໃຊ້ອັດຕະໂນມັດ"—ເຊິ່ງກໍຄືຄຳໃຫ້ການຂອງມະນຸດ—ຖືກປະຕິເສດວ່າເປັນຄຳຕົວະເພື່ອຜົນປະໂຫຍດສ່ວນຕົວ ຫຼື ຄວາມບໍ່ມີຄວາມສາມາດ. ຜູ້ຈັດການ ແລະ ຜູ້ພິພາກສາໄດ້ກະທຳຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຢ່າງຕໍ່ເນື່ອງຫຼາຍປີ.

• ຜົນສະທ້ອນ: ຫຼາຍກວ່າ 700 ຄົນຖືກຕັດສິນລົງໂທດຢ່າງຜິດໆ, ລົ້ມລະລາຍ ແລະ ຖືກຈຳຄຸກ. ການແຕ່ງງານພັງທະລາຍ, ອາຊີບຖືກທຳລາຍ ແລະ ຜູ້ຈັດການສາຂາຍ່ອຍຫຼາຍຄົນໄດ້ຂ້າຕົວຕາຍ. ຕໍ່ມາໄດ້ມີການພິສູດວ່າລະບົບນັ້ນເຕັມໄປດ້ວຍຂໍ້ບົກພ່ອງ (bugs). ນີ້ສະແດງເຖິງຄວາມຍຸຕິທຳທີ່ລົ້ມເຫຼວຢ່າງກວ້າງຂວາງທີ່ສຸດໃນປະຫວັດສາດອັງກິດ.

• ບົດຮຽນທີ່ໄດ້ຮັບ: ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດບໍ່ພຽງແຕ່ເປັນປະຕິກິລິຍາໃນຊົ່ວວິນາທີເທົ່ານັ້ນ—ມັນສາມາດເປັນຄວາມຫຼົງຜິດຂອງອົງກອນທີ່ຍືນຍົງ. ໂຄງຮ່າງທາງກົດໝາຍ ແລະ ສະຖາບັນທີ່ສົມມຸດວ່າຄອມພິວເຕີມີຄວາມໜ້າເຊື່ອຖື ໄດ້ສ້າງຄວາມລຳອຽງໃນລະບົບທີ່ຍາກຫຼາຍສຳລັບບຸກຄົນທີ່ຈະທ້າທາຍ.

ກໍລະນີສຶກສາທີ 3: Air France Flight 447 (2009)

• ບໍລິບົດ: ໃນຂະນະທີ່ກຳລັງບິນຢູ່ເທິງມະຫາສະໝຸດແອດແລນຕິກ, ທໍ່ pitot (ເຊັນເຊີວັດຄວາມໄວທາງອາກາດ) ຂອງ Airbus A330 ຖືກອຸດຕັນດ້ວຍຜລຶກນ້ຳກ້ອນ, ເຮັດໃຫ້ຄອມພິວເຕີການບິນຂາດຂໍ້ມູນຄວາມໄວທາງອາກາດທີ່ຖືກຕ້ອງ. ລະບົບການບິນອັດຕະໂນມັດໄດ້ປິດການເຮັດວຽກ, ສົ່ງມອບການຄວບຄຸມໃຫ້ກັບນັກບິນທີ່ມີຄວາມຊິນເຄີຍກັບການບິນແບບອັດຕະໂນມັດສູງມາຫຼາຍປີ.

• ສິ່ງທີ່ເກີດຂຶ້ນ: ນັກບິນ, ເຊິ່ງຄຸ້ນເຄີຍກັບ "flight envelope protection" ທີ່ປ້ອງກັນການສູນເສຍແຮງຍົກ (stall), ຈູ່ໆກໍຖືກຍູ້ເຂົ້າສູ່ໂໝດ "Alternate Law" ເຊິ່ງການປົກປ້ອງເຫຼົ່ານັ້ນບໍ່ມີຢູ່. ດ້ວຍຄວາມສັບສົນຈາກສຽງເຕືອນທີ່ຂັດແຍ້ງກັນ (ສັນຍານເຕືອນການສູນເສຍແຮງຍົກດັງຂຶ້ນ 75 ຄັ້ງ), ນັກບິນທີ່ກຳລັງບິນຢູ່ໄດ້ດຶງຄັນບັງຄັບເຂົ້າຫາຕົວ—ເຊິ່ງເປັນການເຄື່ອນໄຫວທີ່ເຮັດໃຫ້ເກີດການສູນເສຍແຮງຍົກໃນໂໝດການບິນທີ່ບໍ່ໄດ້ຮັບການປົກປ້ອງ.

• ຄວາມລຳອຽງທີ່ເຮັດວຽກ: ລູກເຮືອປະສົບກັບຄວາມບໍ່ສາມາດທີ່ຈະເຊື່ອວ່າບໍລິບົດຂອງລະບົບອັດຕະໂນມັດມີການປ່ຽນແປງຢ່າງສິ້ນເຊີງ. ພວກເຂົາບໍ່ສົນໃຈຄວາມເປັນຈິງທາງອາກາດພະລສາດ (aerodynamic) ຂັ້ນພື້ນຖານ (ເຄື່ອງບິນກຳລັງຕົກ) ເພາະວ່າໂມເດວໃນໃຈຂອງພວກເຂົາຜູກມັດຢູ່ກັບການດຳເນີນງານອັດຕະໂນມັດແບບປົກກະຕິ. ຕາມທີ່ການວິເຄາະຂອງ FAA ໄດ້ສັງເກດເຫັນ, ລູກເຮືອ "ຫຼຸດອອກຈາກວົງຈອນ" ແລະ ບໍ່ສາມາດເຂົ້າໃຈວ່າ "ລະບົບອັດຕະໂນມັດກຳລັງເຮັດບ້າຫຍັງຢູ່." ພວກເຂົາລໍຖ້າໃຫ້ລະບົບອັດຕະໂນມັດຊ່ວຍເຫຼືອພວກເຂົາຢ່າງມີປະສິດທິຜົນ—ເຊິ່ງເປັນການເພິ່ງພາທາງລັດທີ່ຍັງຄົງຢູ່ຈົນກ່ວາການກະທົບ.

• ຜົນສະທ້ອນ: ທັງໝົດ 228 ຄົນເທິງເຄື່ອງບິນເສຍຊີວິດ. ການຕົກໃນຄັ້ງນີ້ຍັງຄົງເປັນກໍລະນີສຶກສາທີ່ແນ່ນອນຂອງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ ເຊິ່ງນຳໄປສູ່ "ຄວາມປະຫຼາດໃຈຈາກລະບົບອັດຕະໂນມັດ" (automation surprise) ແລະ ຄວາມບໍ່ສາມາດທີ່ຈະກັບຄືນສູ່ສະຕິປັນຍາແບບຄວບຄຸມດ້ວຍມື.

• ບົດຮຽນທີ່ໄດ້ຮັບ: ການເພິ່ງພາລະບົບອັດຕະໂນມັດຫຼາຍເກີນໄປສາມາດເຮັດໃຫ້ທັກສະການຄວບຄຸມດ້ວຍມືຫຼຸດລົງຈົນເຖິງຈຸດທີ່ນັກບິນບໍ່ສາມາດຟື້ນຕົວໄດ້ເມື່ອລະບົບອັດຕະໂນມັດລົ້ມເຫຼວ. ຂໍ້ສັນນິດຖານຂອງ "ການສຳຮອງໂດຍມະນຸດ" ນັ້ນມີຂໍ້ບົກພ່ອງ ເມື່ອມະນຸດຖືກກີດກັນອອກຈາກວົງຈອນທາງສະຕິປັນຍາຢ່າງເປັນລະບົບ.

ຕົວຢ່າງທາງປະຫວັດສາດ: Stanislav Petrov (1983)

ເພື່ອໃຫ້ເຂົ້າໃຈຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຢ່າງຖ່ອງແທ້, ຄົນເຮົາຕ້ອງກວດສອບຕົວຢ່າງທີ່ຫາຍາກທີ່ມັນຖືກທຳລາຍລົງໄດ້ສຳເລັດ. ໃນວັນທີ 26 ກັນຍາ 1983, ລະບົບເຕືອນໄພລ່ວງໜ້າທາງນິວເຄລຍຂອງສະຫະພາບໂຊວຽດ (Oko) ໄດ້ລາຍງານການປ່ອຍຈະຫຼວດຂີປະນາວຸດຂ້າມທະວີບ 5 ລູກຈາກສະຫະລັດ.

ພົນໂທ Stanislav Petrov, ເຈົ້າໜ້າທີ່ປະຈຳການ, ໄດ້ຕັດສິນວ່າການແຈ້ງເຕືອນດັ່ງກ່າວເປັນເລື່ອງຜິດພາດ. ເຫດຜົນຂອງລາວແມ່ນອີງໃສ່ບໍລິບົດ ແລະ ຄວາມເປັນມະນຸດ: "ເມື່ອຄົນເລີ່ມສົງຄາມ, ພວກເຂົາບໍ່ໄດ້ເລີ່ມຕົ້ນດ້ວຍຈະຫຼວດພຽງ 5 ລູກ." ລາວຍັງບໍ່ໄວ້ວາງໃຈໃນເທັກໂນໂລຢີດາວທຽມໃໝ່ນີ້. Petrov ປະຕິເສດທີ່ຈະສົ່ງຄຳເຕືອນຂຶ້ນໄປຕາມສາຍການບັງຄັບບັນຊາ, ປ້ອງກັນບໍ່ໃຫ້ເກີດການໂຈມຕີຕອບໂຕ້ດ້ວຍນິວເຄລຍ.

ຄວາມສຳເລັດຂອງ Petrov ແມ່ນຍ້ອນຄວາມສົງໄສ ແລະ ຄວາມຊ່ຽວຊານໃນຂະແໜງການຂອງລາວ—ລາວຮູ້ວ່າບໍລິບົດທາງການເມືອງ ແລະ ຍຸດທະສາດ (ຂໍ້ມູນຂອງມະນຸດ) ຂັດແຍ້ງກັບຂໍ້ມູນຈາກເຊັນເຊີ (ຂໍ້ມູນອັດຕະໂນມັດ). ລາວໄດ້ໃຊ້ "ສິດຍັບຍັ້ງຂອງມະນຸດ" ທີ່ຜູ້ປະຕິບັດງານ Patriot ລົ້ມເຫຼວທີ່ຈະໃຊ້. ກໍລະນີນີ້ສະແດງໃຫ້ເຫັນວ່າການທຳລາຍຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຮຽກຮ້ອງໃຫ້ມີທັງຄວາມກ້າຫານທີ່ຈະຄັດຄ້ານ ແລະ ຄວາມຮູ້ໃນຂະແໜງການເພື່ອຮັບຮູ້ເວລາທີ່ຜົນໄດ້ຮັບອັດຕະໂນມັດນັ້ນບໍ່ສົມເຫດສົມຜົນ.

6. ຕົ້ນທຶນຂອງຄວາມລຳອຽງນີ້

6.1. ຕົ້ນທຶນສ່ວນບຸກຄົນ

• ການເຊື່ອມໂຊມຂອງການຄິດຢ່າງມີວິຈາລະນາຍານ: ການຍອມຮັບລະບົບອັດຕະໂນມັດເປັນປະຈຳ ເຮັດໃຫ້ກ້າມເນື້ອທາງສະຕິປັນຍາໃນການກວດສອບ ແລະ ການວິເຄາະແບບເອກະລາດອ່ອນແອລົງ. ເມື່ອເວລາຜ່ານໄປ, ບຸກຄົນຈະມີຄວາມສາມາດໜ້ອຍລົງໃນການເຮັດວຽກໂດຍບໍ່ມີຄຳແນະນຳອັດຕະໂນມັດ.

• ການສູນເສຍຄວາມຊ່ຽວຊານ: ຜູ້ຊ່ຽວຊານທີ່ເພິ່ງພາເຄື່ອງມືອັດຕະໂນມັດຢ່າງໜັກ ອາດຈະປະສົບກັບການເຊື່ອມໂຊມຂອງທັກສະ. ນັກບິນທີ່ບໍ່ຄ່ອຍໄດ້ບິນດ້ວຍມື, ນັກລັງສີວິທະຍາທີ່ມັກຈະໃຊ້ການຊ່ວຍເຫຼືອຈາກ AI ສະເໝີ, ແລະ ນັກບັນຊີທີ່ບໍ່ເຄີຍຄິດໄລ່ດ້ວຍມື ຈະສູນເສຍຄວາມສາມາດທີ່ເຮັດໃຫ້ພວກເຂົາເປັນຜູ້ຊ່ຽວຊານ.

• ການເປັນອຳມະພາດໃນການຕັດສິນໃຈ: ເມື່ອລະບົບອັດຕະໂນມັດລົ້ມເຫຼວ ຫຼື ບໍ່ມີໃຫ້ໃຊ້, ບຸກຄົນອາດຈະຮູ້ສຶກວ່າຕົນເອງບໍ່ມີຄວາມສາມາດໃນການຕັດສິນໃຈ, ນຳໄປສູ່ຄວາມເປັນອຳມະພາດໃນຊ່ວງເວລາທີ່ສຳຄັນ.

• ຄວາມໝັ້ນໃຈທີ່ຜິດພາດ: ການໄວ້ວາງໃຈໃນຜົນໄດ້ຮັບອັດຕະໂນມັດສ້າງຄວາມຮູ້ສຶກທີ່ແນ່ນອນເຊິ່ງບໍ່ສົມເຫດສົມຜົນ, ນຳໄປສູ່ການບໍ່ໄດ້ກຽມຕົວສຳລັບສະຖານະການທີ່ລະບົບອັດຕະໂນມັດນັ້ນຜິດພາດ.

• ຄວາມເຄັ່ງຕຶງໃນຄວາມສຳພັນ: ໃນບໍລິບົດສ່ວນຕົວ, ການເພິ່ງພາຄຳແນະນຳອັດຕະໂນມັດຫຼາຍເກີນໄປ (ແອັບຫາຄູ່, ຄຳແນະນຳໃນສື່ສັງຄົມອອນໄລນ໌) ອາດຈະເຂົ້າມາແທນທີ່ການຕັດສິນໃຈ ແລະ ການເຊື່ອມຕໍ່ທີ່ແທ້ຈິງຂອງມະນຸດ.

6.2. ຕົ້ນທຶນທາງວິຊາຊີບ

• ຄວາມຮັບຜິດຊອບໃນອາຊີບ: ຜູ້ຊ່ຽວຊານທີ່ປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດຈົນເກີດຄວາມຜິດພາດ ອາດຈະປະເຊີນກັບການດຳເນີນການທາງວິໄນ, ການຟ້ອງຮ້ອງການປະຕິບັດໜ້າທີ່ຜິດພາດ ຫຼື ຂໍ້ກ່າວຫາທາງອາຍາ—ດັ່ງທີ່ເຫັນໃນກໍລະນີຂອງທະນາຍຄວາມໃນຄະດີ Mata v. Avianca ທີ່ປະເຊີນກັບການລົງໂທດສຳລັບການອ້າງອີງເຖິງແບບຢ່າງທາງກົດໝາຍທີ່ AI ສ້າງຂຶ້ນມາແບບພາບລວງຕາ.

• ຄວາມເສຍຫາຍຕໍ່ຊື່ສຽງ: ອົງກອນທີ່ເປັນທີ່ຮູ້ຈັກກັນດີໃນເລື່ອງຄວາມລົ້ມເຫຼວທີ່ເກີດຈາກລະບົບອັດຕະໂນມັດ (ເຊັ່ນ UK Post Office) ຕ້ອງທົນທຸກກັບຄວາມເສຍຫາຍຕໍ່ຊື່ສຽງທີ່ຍືນຍົງ ເຊິ່ງມີຜົນກະທົບຕໍ່ການຮັບສະໝັກງານ, ການເປັນຫຸ້ນສ່ວນ ແລະ ຄວາມໄວ້ວາງໃຈຂອງສາທາລະນະຊົນ.

• ການເສື່ອມຖອຍຂອງທັກສະ: ຊຸມຊົນວິຊາຊີບທັງໝົດອາດຈະປະສົບກັບການເຊື່ອມໂຊມຂອງທັກສະລວມ ເນື່ອງຈາກລະບົບອັດຕະໂນມັດຈັດການກໍລະນີທີ່ເປັນປະຈຳ, ເຮັດໃຫ້ຜູ້ປະຕິບັດງານບໍ່ໄດ້ກຽມພ້ອມສຳລັບສະຖານະການທີ່ຊັບຊ້ອນ ຫຼື ຜິດປົກກະຕິ.

• ຄວາມຢຸດນິ້ງຂອງນະວັດຕະກຳ: ການໄວ້ວາງໃຈຫຼາຍເກີນໄປໃນ "ວິທີການເຮັດວຽກຂອງລະບົບ" ສາມາດປ້ອງກັນບໍ່ໃຫ້ຜູ້ຊ່ຽວຊານຕັ້ງຄຳຖາມຕໍ່ຂະບວນການ ຫຼື ພັດທະນາການປັບປຸງ.

• ຜົນໄດ້ຮັບທີ່ບໍ່ດີ: ການວິນິດໄສຜິດພາດທາງການແພດ, ການຕັດສິນລົງໂທດທີ່ຜິດພາດ, ການສູນເສຍທາງການເງິນ ແລະ ຄວາມລົ້ມເຫຼວໃນການດຳເນີນງານ ສາມາດຕິດຕາມໄດ້ໂດຍກົງເຖິງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ.

6.3. ຕົ້ນທຶນທາງສັງຄົມ

• ການສະສົມຄວາມສ່ຽງໃນລະບົບ: ເມື່ອອຸດສາຫະກຳທັງໝົດຍອມຮັບລະບົບອັດຕະໂນມັດ, ຄວາມຜິດພາດຈະກາຍເປັນສິ່ງທີ່ກ່ຽວຂ້ອງກັນແທນທີ່ຈະເປັນເອກະລາດ. ຂໍ້ບົກພ່ອງຂອງອັລກໍຣິທຶມອັນດຽວສາມາດແຜ່ຂະຫຍາຍໄປທົ່ວທັງຂະແໜງການພ້ອມໆກັນ.

• ການເຊື່ອມໂຊມຂອງປະຊາທິປະໄຕ: ລະບົບອັລກໍຣິທຶມທີ່ສ້າງວາທະກຳທາງການເມືອງ, ການເບິ່ງເຫັນເນື້ອຫາ ແລະ ການເຂົ້າເຖິງຂໍ້ມູນ—ເຊິ່ງໄດ້ຮັບການຍອມຮັບໂດຍບໍ່ມີການຕັ້ງຄຳຖາມ—ສາມາດບ່ອນທຳລາຍການມີສ່ວນຮ່ວມໃນປະຊາທິປະໄຕທີ່ມີຂໍ້ມູນຄົບຖ້ວນ.

• ຄວາມເສື່ອມຊາມຂອງລະບົບຍຸຕິທຳ: ລະບົບກົດໝາຍທີ່ສົມມຸດວ່າຄອມພິວເຕີມີຄວາມໜ້າເຊື່ອຖື (ດັ່ງໃນເລື່ອງອື້ສາວ Horizon) ສ້າງຄວາມບໍ່ຍຸຕິທຳໃນໂຄງສ້າງທີ່ເກືອບຈະເປັນໄປບໍ່ໄດ້ສຳລັບບຸກຄົນທີ່ຈະທ້າທາຍ.

• ການຫຼຸດລົງຂອງຄວາມປອດໄພ: ຂໍ້ສັນນິດຖານຄວາມປອດໄພ "ການສຳຮອງໂດຍມະນຸດ" ທີ່ຢູ່ເບື້ອງຫຼັງຍານພາຫະນະອັດຕະໂນມັດ, ການຄວບຄຸມການຈະລາຈອນທາງອາກາດອັດຕະໂນມັດ ແລະ ລະບົບທີ່ສຳຄັນອື່ນໆ ແມ່ນມີຂໍ້ບົກພ່ອງຢ່າງຮ້າຍແຮງ. ມະນຸດບໍ່ສາມາດຮັກສາຄວາມລະມັດລະວັງໄດ້ໃນລະຫວ່າງການຕິດຕາມແບບຕົວຕັ້ງຕົວຕີທີ່ຍາວນານ.

• ການຂັດຂວາງທາງເສດຖະກິດ: ການຂັດຂ້ອງຢ່າງກະທັນຫັນ (Flash crashes), ການຫຼັ່ງໄຫຼຂອງອັລກໍຣິທຶມ ແລະ ລະບົບອັດຕະໂນມັດທີ່ເຮັດໃຫ້ເກີດຄວາມຜິດພາດທີ່ກ່ຽວຂ້ອງກັນ ສາມາດກະຕຸ້ນໃຫ້ເກີດຄວາມບໍ່ໝັ້ນຄົງທາງເສດຖະກິດ.

6.4. ຜົນກະທົບທາງສະຖິຕິ

• ການບິນ: ການສຶກສາສະແດງໃຫ້ເຫັນວ່ານັກບິນທີ່ມີຕົວຊ່ວຍອັດຕະໂນມັດຈະພາດຄວາມຜິດປົກກະຕິຂອງລະບົບຫຼາຍກວ່າຜູ້ທີ່ຕິດຕາມດ້ວຍມືຢ່າງມີໄນສຳຄັນ. ລູກເຮືອຂອງ Air France 447 ໄດ້ເມີນເສີຍຕໍ່ສັນຍານເຕືອນການສູນເສຍແຮງຍົກເຖິງ 75 ຄັ້ງ.

• ການດູແລສຸຂະພາບ: ການຄົ້ນຄວ້າສະແດງໃຫ້ເຫັນວ່າຄຳແນະນຳທີ່ຜິດພາດຂອງ AI ໄດ້ຫຼຸດຜ່ອນຄວາມຖືກຕ້ອງໃນການວິນິດໄສຂອງແພດຢ່າງຫຼວງຫຼາຍ. ຄວາມອ່ອນເພຍຈາກການແຈ້ງເຕືອນເຮັດໃຫ້ແພດເມີນເສີຍຕໍ່ 49-96% ຂອງຄຳເຕືອນອັດຕະໂນມັດ.

• ການບິດເບືອນຄວາມຊົງຈຳ: 67% ຂອງນັກບິນທີ່ຍອມຈຳນົນຕໍ່ຄວາມລຳອຽງຂອງລະບົບອັດຕະໂນມັດ ຕໍ່ມາໄດ້ສະແດງຄວາມຊົງຈຳທີ່ຜິດພາດກ່ຽວກັບເຫດການ, ເຊິ່ງເຮັດໃຫ້ການສືບສວນອຸບັດຕິເຫດ ແລະ ການຮຽນຮູ້ມີຄວາມຊັບຊ້ອນ.

• ກົດໝາຍ: ເລື່ອງອື້ສາວ Horizon ສົ່ງຜົນໃຫ້ມີການຕັດສິນລົງໂທດທີ່ຜິດພາດຫຼາຍກວ່າ 700 ຄະດີ—ເຊິ່ງເປັນຄວາມຍຸຕິທຳທີ່ລົ້ມເຫຼວຄັ້ງໃຫຍ່ທີ່ສຸດໃນປະຫວັດສາດອັງກິດ.

• ການທະຫານ: ເຫດການຍິງກັນເອງໃນອີຣັກໄດ້ສະແດງໃຫ້ເຫັນເຖິງຄວາມເຕັມໃຈທີ່ຈະຍອມຮັບຄວາມຜິດພາດຂອງລະບົບເຖິງວ່າຈະມີຫຼັກຖານທີ່ຂັດແຍ້ງກັນຢ່າງຫຼວງຫຼາຍກໍຕາມ.

7. ຜົນປະໂຫຍດທີ່ເຊື່ອງໄວ້

ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດບໍ່ແມ່ນແງ່ລົບພຽງຢ່າງດຽວ—ກົນໄກທາງສະຕິປັນຍາທີ່ຢູ່ເບື້ອງຫຼັງໄດ້ຮັບໃຊ້ຈຸດປະສົງທີ່ສຳຄັນ:

• ປະສິດທິພາບທາງສະຕິປັນຍາ: ຄວາມສາມາດໃນການມອບໝາຍວຽກງານທາງສະຕິປັນຍາໃຫ້ກັບແຫຼ່ງພາຍນອກທີ່ເຊື່ອຖືໄດ້ ຊ່ວຍປົດປ່ອຍຊັບພະຍາກອນທາງຈິດໃຈສຳລັບສິ່ງທ້າທາຍອື່ນໆ. ເມື່ອລະບົບອັດຕະໂນມັດຖືກຕ້ອງ (ເຊິ່ງເປັນເວລາສ່ວນໃຫຍ່), ການຍອມຮັບຜົນໄດ້ຮັບຂອງມັນແມ່ນມີປະສິດທິພາບຢ່າງແທ້ຈິງ.

• ຄວາມສອດຄ່ອງ: ລະບົບອັດຕະໂນມັດນຳໃຊ້ເງື່ອນໄຂດຽວກັນຢ່າງເປັນເອກະພາບ. ການຍອມຮັບພວກມັນສາມາດຫຼຸດຜ່ອນຄວາມແຕກຕ່າງຂອງມະນຸດ ແລະ ຄວາມລຳອຽງບາງປະເພດໃນການຕັດສິນໃຈ.

• ຄວາມໄວ: ໃນສະຖານະການທີ່ເວລາເປັນສິ່ງສຳຄັນ, ຄວາມສາມາດໃນການຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດຢ່າງໄວວາໂດຍບໍ່ມີການກວດສອບທີ່ຍາວນານສາມາດຊ່ວຍຊີວິດໄດ້—ໂດຍມີເງື່ອນໄຂວ່າລະບົບອັດຕະໂນມັດນັ້ນຖືກຕ້ອງ.

• ການຂະຫຍາຍຄວາມຊ່ຽວຊານ: ລະບົບອັດຕະໂນມັດອະນຸຍາດໃຫ້ຜູ້ທີ່ບໍ່ແມ່ນຜູ້ຊ່ຽວຊານໄດ້ຮັບຜົນປະໂຫຍດຈາກຄວາມຊ່ຽວຊານທີ່ຖືກເຂົ້າລະຫັດໄວ້. ແພດໜຸ່ມທີ່ໃຊ້ລະບົບສະໜັບສະໜູນການຕັດສິນໃຈທາງຄລີນິກສາມາດເຂົ້າເຖິງຄວາມຮູ້ທີ່ຜູ້ຊ່ຽວຊານໃຊ້ເວລາຫຼາຍທົດສະວັດເພື່ອໃຫ້ໄດ້ມາ.

• ການຫຼຸດຜ່ອນຄວາມວິຕົກກັງວົນ: ໃນສະຖານະການທີ່ບໍ່ແນ່ນອນ, ການມີຄຳແນະນຳອັດຕະໂນມັດສາມາດຫຼຸດຜ່ອນຄວາມວິຕົກກັງວົນໃນການຕັດສິນໃຈ ແລະ ພາລະທາງສະຕິປັນຍາ, ປັບປຸງຄວາມເປັນຢູ່ທີ່ດີເຖິງແມ່ນວ່າຄຸນນະພາບຂອງການຕັດສິນໃຈຈະບໍ່ປ່ຽນແປງກໍຕາມ.

• ຂະໜາດ (Scale): ລະບົບສະໄໝໃໝ່ຈຳນວນຫຼາຍບໍ່ສາມາດເຮັດວຽກໄດ້ຫາກບໍ່ມີມະນຸດຍອມຮັບຜົນໄດ້ຮັບອັດຕະໂນມັດ. ມະນຸດທີ່ກວດສອບທຸກໆອີເມວສຳລັບສະແປມ, ທຸກໆທຸລະກຳທາງການເງິນສຳລັບການສໍ້ໂກງ, ຫຼື ທຸກໆໂພສໃນສື່ສັງຄົມອອນໄລນ໌ສຳລັບການລະເມີດ ຈະເປັນສິ່ງທີ່ເປັນໄປບໍ່ໄດ້.

ການແລກປ່ຽນແມ່ນຊັດເຈນ: ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຈະກາຍເປັນບັນຫາກໍຕໍ່ເມື່ອ (1) ລະບົບອັດຕະໂນມັດຜິດພາດ, (2) ຄວາມສ່ຽງສູງ ແລະ (3) ມະນຸດສາມາດຈັບຄວາມຜິດພາດນັ້ນໄດ້. ການກຳຈັດຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຢ່າງສິ້ນເຊີງຈະເປັນໄປບໍ່ໄດ້ ແລະ ບໍ່ເປັນທີ່ຕ້ອງການ—ມັນຈະຮຽກຮ້ອງໃຫ້ມີຄວາມລະມັດລະວັງທີ່ເປັນໄປບໍ່ໄດ້ເຊິ່ງຈະລົບລ້າງຜົນປະໂຫຍດຂອງລະບົບອັດຕະໂນມັດ. ເປົ້າໝາຍແມ່ນຄວາມໄວ້ວາງໃຈທີ່ຖືກປັບທຽບແລ້ວ, ບໍ່ແມ່ນຄວາມໄວ້ວາງໃຈເປັນສູນ.

8. ການປະເມີນຕົນເອງ: ທ່ານມີຄວາມລຳອຽງນີ້ຫຼືບໍ່?

8.1. ລາຍການກວດສອບສັນຍານເຕືອນ

• ຂ້ອຍມັກຈະຍອມຮັບທິດທາງ GPS ໂດຍບໍ່ກວດສອບວ່າມັນສົມເຫດສົມຜົນສຳລັບຈຸດໝາຍປາຍທາງຂອງຂ້ອຍຫຼືບໍ່
• ຂ້ອຍໄວ້ວາງໃຈເຄື່ອງມືກວດສອບການສະກົດຄຳ ແລະ ໄວຍະກອນໂດຍບໍ່ມີການທົບທວນຄຳແນະນຳຂອງພວກມັນ
• ເມື່ອເຄື່ອງຄິດເລກໃຫ້ຄຳຕອບ, ຂ້ອຍບໍ່ຄ່ອຍຄາດຄະເນວ່າມັນເບິ່ງຄືວ່າສົມເຫດສົມຜົນຫຼືບໍ່
• ຂ້ອຍຍອມຮັບຜົນການຄົ້ນຫາໃນໜ້າທຳອິດໂດຍບໍ່ພິຈາລະນາວ່າຍ້ອນຫຍັງພວກມັນຈຶ່ງຖືກຈັດອັນດັບແບບນັ້ນ
• ຂ້ອຍໄດ້ປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດທີ່ກາຍເປັນຄວາມຜິດພາດ ເພາະວ່າຂ້ອຍບໍ່ໄດ້ກວດສອບພວກມັນ
• ເມື່ອຊອບແວໃຫ້ຂໍ້ຄວາມສະແດງຂໍ້ຜິດພາດ, ຂ້ອຍສົມມຸດວ່າຊອບແວຖືກຕ້ອງກ່ຽວກັບສິ່ງທີ່ຜິດພາດ
• ຂ້ອຍພະຍາຍາມເຮັດສຳເລັດໜ້າທີ່ເມື່ອເຄື່ອງມືອັດຕະໂນມັດປົກກະຕິຂອງຂ້ອຍບໍ່ມີໃຫ້ໃຊ້
• ຂ້ອຍຮູ້ສຶກບໍ່ສະບາຍໃຈທີ່ຈະລົບລ້າງຄຳແນະນຳອັດຕະໂນມັດ ເຖິງແມ່ນວ່າການຕັດສິນໃຈຂອງຂ້ອຍຈະແຕກຕ່າງກັນກໍຕາມ
• ຂ້ອຍໄດ້ແກ້ຕົວສຳລັບຜົນໄດ້ຮັບທີ່ບໍ່ດີໂດຍເວົ້າວ່າ "ແຕ່ລະບົບບອກໃຫ້ເຮັດມັນ"
• ຂ້ອຍໄວ້ວາງໃຈຜົນໄດ້ຮັບຈາກແຊັດບັອດ AI ໂດຍບໍ່ມີການກວດສອບຂໍ້ເທັດຈິງຂອງການກ່າວອ້າງຂອງພວກມັນ

ການໃຫ້ຄະແນນ:

• ໝາຍ 0-2 ຂໍ້: ຄວາມສ່ຽງຕ່ຳ
• ໝາຍ 3-5 ຂໍ້: ຄວາມສ່ຽງປານກາງ
• ໝາຍ 6-8 ຂໍ້: ຄວາມສ່ຽງສູງ
• ໝາຍ 9-10 ຂໍ້: ຄວາມສ່ຽງສູງຫຼາຍ

8.2. ຄຳຖາມເພື່ອສະທ້ອນຄວາມຄິດຂອງຕົນເອງ

1. ລອງຄິດເຖິງການຕັດສິນໃຈຫຼ້າສຸດທີ່ທ່ານເຮັດໂດຍອີງໃສ່ຄຳແນະນຳອັດຕະໂນມັດ. ທ່ານໄດ້ກວດສອບລັກສະນະໃດໜຶ່ງຂອງຄຳແນະນຳນັ້ນກ່ອນທີ່ຈະລົງມືປະຕິບັດຫຼືບໍ່? ເປັນຫຍັງຈຶ່ງກວດ ຫຼື ເປັນຫຍັງຈຶ່ງບໍ່ກວດ?

2. ທ່ານສາມາດຈື່ເວລາທີ່ລະບົບອັດຕະໂນມັດຜິດພາດແຕ່ທ່ານຍັງປະຕິບັດຕາມມັນໄດ້ຫຼືບໍ່? ສິ່ງໃດທີ່ປ້ອງກັນບໍ່ໃຫ້ທ່ານເຊື່ອໝັ້ນໃນການຕັດສິນໃຈຂອງຕົນເອງ?

3. ເມື່ອໃຊ້ເຄື່ອງມື AI ເຊັ່ນ ChatGPT, ທ່ານກວດສອບຄວາມຖືກຕ້ອງຂອງຂໍ້ມູນທີ່ໃຫ້ມາແນວໃດ? ທ່ານເຄີຍຈັບຄວາມຜິດພາດໄດ້ຫຼືບໍ່?

4. ຂັ້ນຕອນການເຮັດວຽກຂອງທ່ານຈະປ່ຽນແປງແນວໃດ ຖ້າເຄື່ອງມືອັດຕະໂນມັດຫຼັກຂອງທ່ານ (GPS, ກວດສອບການສະກົດຄຳ, ໂປຣແກຣມຄົ້ນຫາ, ເຄື່ອງຄິດເລກ) ບໍ່ສາມາດໃຊ້ງານໄດ້ເປັນເວລາໜຶ່ງອາທິດ?

5. ເພື່ອນຮ່ວມງານ, ໝູ່ເພື່ອນ ຫຼື ຄອບຄົວ ເຄີຍຊີ້ໃຫ້ເຫັນວ່າທ່ານເພິ່ງພາເທັກໂນໂລຢີຫຼາຍເກີນໄປສຳລັບການຕັດສິນໃຈທີ່ທ່ານສາມາດເຮັດໄດ້ດ້ວຍຕົນເອງຫຼືບໍ່?

8.3. ສະຖານະການວິນິດໄສດ່ວນ

ສະຖານະການ: ທ່ານກຳລັງໃຊ້ຜູ້ຊ່ວຍ AI ເພື່ອຊ່ວຍຮ່າງບົດລາຍງານທີ່ສຳຄັນ. AI ໃຫ້ສະຖິຕິທີ່ສະໜັບສະໜູນຂໍ້ໂຕ້ແຍ້ງຂອງທ່ານຢ່າງສົມບູນ: "ການສຶກສາສະແດງໃຫ້ເຫັນວ່າ 78% ຂອງອົງກອນທີ່ປະຕິບັດວິທີການນີ້ເຫັນການປັບປຸງຜົນໄດ້ຮັບ 40%." ສະຖິຕິຟັງເບິ່ງຄືວ່າມີເຫດຜົນ ແລະ ເໝາະສົມກັບເລື່ອງເລົ່າຂອງທ່ານໄດ້ເປັນຢ່າງດີ. ທ່ານຢູ່ພາຍໃຕ້ຄວາມກົດດັນດ້ານເວລາ.

ທ່ານຈະຕອບສະໜອງແນວໃດ?

• A) ລວມເອົາສະຖິຕິເຂົ້າໄປໂດຍກົງ—ມັນຟັງເບິ່ງຄືວ່າມີອຳນາດ ແລະ AI ກໍເຄີຍເຊື່ອຖືໄດ້ມາກ່ອນ → ຄວາມສ່ຽງສູງ
• B) ລວມເອົາສະຖິຕິແຕ່ເພີ່ມພາສາທີ່ແບ່ງຮັບແບ່ງສູ້ ເຊັ່ນ "ການຄົ້ນຄວ້າຊີ້ໃຫ້ເຫັນ" ໂດຍບໍ່ມີການກວດສອບ → ຄວາມສ່ຽງປານກາງ
• C) ຄົ້ນຫາແຫຼ່ງທີ່ມາຕົ້ນສະບັບເພື່ອກວດສອບສະຖິຕິກ່ອນທີ່ຈະລວມເຂົ້າໄປ, ຍອມຮັບວ່າທ່ານອາດຈະຕ້ອງປັບປຸງກຳນົດເວລາຂອງທ່ານ → ຄວາມສ່ຽງຕ່ຳ

9. ການລະບຸຄວາມລຳອຽງນີ້ໃນຜູ້ອື່ນ

9.1. ຕົວຊີ້ວັດທາງພຶດຕິກຳ

ສັນຍານທີ່ສັງເກດເຫັນໃນຄຳເວົ້າ:

• ມັກຈະອ້າງເຖິງ "ລະບົບບອກວ່າ" ຫຼື "ອັລກໍຣິທຶມແນະນຳວ່າ" ເປັນຂໍ້ແກ້ຕົວ
• ສະແດງຄວາມບໍ່ສະບາຍໃຈເມື່ອຖືກຂໍໃຫ້ລົບລ້າງຄຳແນະນຳອັດຕະໂນມັດ
• ຕັ້ງຄ່າເລີ່ມຕົ້ນເປັນ "ໃຫ້ຂ້ອຍກວດເບິ່ງວ່າຄອມພິວເຕີເວົ້າຫຍັງ" ສຳລັບການຕັດສິນໃຈພາຍໃນຄວາມຊ່ຽວຊານຂອງພວກເຂົາ

ຮູບແບບໃນການຕັດສິນໃຈ:

• ປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດຢ່າງສະໝ່ຳສະເໝີໂດຍບໍ່ຕັ້ງຄຳຖາມ
• ປະສົບກັບຄວາມຫຍຸ້ງຍາກໃນການຕັດສິນໃຈເມື່ອເຄື່ອງມືອັດຕະໂນມັດບໍ່ມີໃຫ້ໃຊ້
• ຖິ້ມໂທດໃສ່ຄວາມຜິດພາດຂອງລະບົບ ແທນທີ່ຈະກວດສອບຂະບວນການກວດສອບຂອງພວກເຂົາເອງ

ສັນຍານທາງພາສາກາຍ:

• ຫັນໄປຫາໜ້າຈໍເພື່ອການກວດສອບຄວາມຖືກຕ້ອງ ເຖິງແມ່ນວ່າໃນລະຫວ່າງການສົນທະນາແບບຕໍ່ໜ້າກັນກໍຕາມ
• ຄວາມເຄັ່ງຕຶງທາງຮ່າງກາຍເມື່ອຖືກຂໍໃຫ້ປະຕິບັດກົງກັນຂ້າມກັບຄຳແນະນຳອັດຕະໂນມັດ
• ຜ່ອນຄາຍເມື່ອລະບົບອັດຕະໂນມັດຢືນຢັນການຕັດສິນໃຈຂອງພວກເຂົາ

ຫົວຂໍ້ທີ່ເກີດຂຶ້ນຊ້ຳໆໃນການສົນທະນາ:

• ສະແດງຄວາມໝັ້ນໃຈສູງໃນຄວາມຖືກຕ້ອງຂອງເທັກໂນໂລຢີ
• ຫຼຸດຜ່ອນຄວາມກັງວົນກ່ຽວກັບຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດວ່າເປັນກໍລະນີທີ່ຫາຍາກ
• ປະຕິເສດການຕັດສິນໃຈຂອງມະນຸດວ່າ "ລຳອຽງ" ເມື່ອທຽບກັບອັລກໍຣິທຶມ "ທີ່ເປັນພາວະວິໄສ"

9.2. ສັນຍານເຕືອນໃນການສົນທະນາ

ວະລີທີ່ຄົນເວົ້າເມື່ອຢູ່ພາຍໃຕ້ຄວາມລຳອຽງນີ້:

• "ຄອມພິວເຕີບໍ່ເຄີຍຜິດພາດ"
• "ຂ້ອຍພຽງແຕ່ເຮັດຕາມສິ່ງທີ່ລະບົບແນະນຳ"
• "ຂໍ້ມູນສະແດງໃຫ້ເຫັນວ່າ..." (ໂດຍບໍ່ມີການກວດສອບຂໍ້ມູນ)
• "ເປັນຫຍັງຂ້ອຍຈຶ່ງຕ້ອງສົງໄສ AI? ມັນຖືກຝຶກອົບຮົມມາຈາກຕົວຢ່າງຫຼາຍລ້ານລາຍການ"
• "ມັນຕ້ອງຖືກແນ່ນອນ—ເບິ່ງດູວ່າຜົນໄດ້ຮັບມັນມີຄວາມໝັ້ນໃຈສ່ຳໃດ"

ປະເພດຂອງຂໍ້ໂຕ້ແຍ້ງທີ່ພວກເຂົາສ້າງຂຶ້ນ:

• ອ້າງເຖິງຄວາມໜ້າເຊື່ອຖືໃນອະດີດຂອງລະບົບວ່າເປັນຫຼັກຖານຂອງຄວາມຖືກຕ້ອງໃນປັດຈຸບັນ
• ປະຕິເສດຂໍ້ມູນທີ່ຂັດແຍ້ງກັນວ່າເປັນ "ຄວາມຜິດປົກກະຕິ" ຫຼື "ຂໍ້ຜິດພາດຂອງຜູ້ໃຊ້"
• ປະຕິບັດຕໍ່ຜົນໄດ້ຮັບຂອງລະບົບອັດຕະໂນມັດວ່າເປັນຄວາມຈິງທີ່ເປັນພາວະວິໄສ ແທນທີ່ຈະເປັນການຄາດຄະເນຄວາມເປັນໄປໄດ້

ຄຳຖາມທີ່ພວກເຂົາຫຼີກລ່ຽງການຖາມ:

• "ຂໍ້ຈຳກັດຂອງລະບົບນີ້ແມ່ນຫຍັງ?"
• "ພາຍໃຕ້ສະຖານະການໃດທີ່ຄຳແນະນຳນີ້ອາດຈະຜິດພາດ?"
• "ຂ້ອຍຈະຕັດສິນໃຈແນວໃດຖ້າຂ້ອຍບໍ່ມີເຄື່ອງມືອັດຕະໂນມັດນີ້?"

9.3. ຕົວປັດໄຈກະຕຸ້ນຕາມສະຖານະການ

ສະຖານະການທີ່ກະຕຸ້ນໃຫ້ເກີດຄວາມລຳອຽງນີ້:

• ຄວາມກົດດັນດ້ານເວລາທີ່ຂັດຂວາງການກວດສອບ
• ພາລະທາງສະຕິປັນຍາສູງຈາກວຽກຫຼາຍຢ່າງ
• ຄວາມອ່ອນເພຍ ຫຼື ຄວາມອ່ອນເພຍຈາກການຕັດສິນໃຈ (decision fatigue)
• ເມື່ອການກວດສອບຮຽກຮ້ອງໃຫ້ມີຄວາມຮູ້ສະເພາະທາງ
• ເມື່ອລະບົບອັດຕະໂນມັດເຄີຍມີຄວາມໜ້າເຊື່ອຖືໃນອະດີດ

ປັດໄຈສະພາບແວດລ້ອມ:

• ວັດທະນະທຳໃນບ່ອນເຮັດວຽກທີ່ສະເຫຼີມສະຫຼອງລະບົບອັດຕະໂນມັດ ແລະ ປະສິດທິພາບ
• ໂຄງການຝຶກອົບຮົມທີ່ເນັ້ນໜັກການປະຕິບັດຕາມຂັ້ນຕອນຫຼາຍກວ່າການຕັດສິນໃຈ
• ຂາດການຕອບສະໜອງທີ່ສະແດງໃຫ້ເຫັນວ່າເວລາໃດທີ່ລະບົບອັດຕະໂນມັດຜິດພາດ
• ລະບົບທີ່ຖືກອອກແບບມາໂດຍບໍ່ມີຄວາມໂປ່ງໃສກ່ຽວກັບລະດັບຄວາມໝັ້ນໃຈ

ສະພາບອາລົມທີ່ເພີ່ມຄວາມອ່ອນແອ:

• ຄວາມຄຽດ ແລະ ຄວາມວິຕົກກັງວົນ (ສະແຫວງຫາຄວາມແນ່ນອນ)
• ຄວາມຮູ້ສຶກຖ້ວມທົ້ນ (ສະແຫວງຫາການບັນເທົາທາງສະຕິປັນຍາ)
• Imposter syndrome (ໄວ້ວາງໃຈລະບົບ "ຜູ້ຊ່ຽວຊານ" ຫຼາຍກວ່າຕົນເອງ)
• ຄວາມສະດວກສະບາຍ ແລະ ຄວາມພໍໃຈ (ສິ່ງຕ່າງໆດຳເນີນໄປດ້ວຍດີ)

ບໍລິບົດທາງສັງຄົມທີ່ຂະຫຍາຍຄວາມລຳອຽງ:

• ການຕັ້ງຄ່າກຸ່ມ ເຊິ່ງການຕັ້ງຄຳຖາມກ່ຽວກັບລະບົບອັດຕະໂນມັດເບິ່ງຄືວ່າຈະເຮັດໃຫ້ສິ່ງຕ່າງໆຊ້າລົງ
• ລຳດັບຊັ້ນ ເຊິ່ງລະບົບອັດຕະໂນມັດເປັນຕົວແທນຂອງການຕັດສິນໃຈຂອງການຈັດການ
• ບໍລິບົດທາງວິຊາຊີບ ເຊິ່ງລະບົບອັດຕະໂນມັດຖືກເບິ່ງວ່າເປັນ "ການປະຕິບັດທີ່ດີທີ່ສຸດ" (best practice)

ຄວາມກົດດັນດ້ານເວລາທີ່ເຮັດໃຫ້ມັນຮ້າຍແຮງຂຶ້ນ:

• ກຳນົດເວລາທີ່ບໍ່ອະນຸຍາດໃຫ້ມີການກວດສອບ
• ການຕັດສິນໃຈແບບສົດໆ (ການຊື້ຂາຍ, ເຫດສຸກເສີນທາງການແພດ, ການບິນ)
• ການປະມວນຜົນປະລິມານສູງ ເຊິ່ງການທົບທວນແຕ່ລະບຸກຄົນບໍ່ສາມາດປະຕິບັດໄດ້ຈິງ

10. ຍຸດທະສາດການຫຼຸດຜ່ອນຄວາມລຳອຽງທາງສະຕິປັນຍາ (Cognitive Debiasing Strategies)

10.1. ເຕັກນິກທັນທີ

ການກວດສອບທາງຈິດໃຈຢ່າງໄວວາກ່ອນທີ່ຈະຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດ:

• "ຜົນໄດ້ຮັບນີ້ຜ່ານການທົດສອບດ້ວຍຄວາມຮູ້ສຶກ (smell test) ຫຼືບໍ່?" ຢຸດຊົ່ວຄາວເພື່ອພິຈາລະນາວ່າຍ້ອນຫຍັງຄຳແນະນຳນັ້ນຈຶ່ງສົມເຫດສົມຜົນຕາມສັນຊາດຕະຍານ.
• "ຄ່າໃຊ້ຈ່າຍຂອງການຜິດພາດແມ່ນຫຍັງ?" ຄວາມສ່ຽງທີ່ສູງກວ່າຮຽກຮ້ອງໃຫ້ມີການກວດສອບຫຼາຍຂຶ້ນ.
• "ນີ້ແມ່ນປະເພດຂອງສິ່ງທີ່ລະບົບເຮັດໄດ້ດີຫຼືບໍ່?" ລະບົບອັດຕະໂນມັດມີຂໍ້ຈຳກັດຂອງຂອບເຂດ.

ຄຳຖາມທີ່ຄວນຖາມຕົນເອງໃນເວລານັ້ນ:

• "ຂ້ອຍຈະຕັດສິນໃຈແນວໃດຖ້າບໍ່ມີລະບົບອັດຕະໂນມັດນີ້?"
• "ຫຼັກຖານອັນໃດທີ່ຂັດແຍ້ງກັບຄຳແນະນຳນີ້?"
• "ລະດັບຄວາມໝັ້ນໃຈຂອງລະບົບແມ່ນຫຍັງ, ແລະ ມັນສະແດງເຖິງຄວາມບໍ່ແນ່ນອນຫຼືບໍ່?"
• "ຄັ້ງສຸດທ້າຍທີ່ຂ້ອຍກວດສອບຄຳແນະນຳອັດຕະໂນມັດແມ່ນຕອນໃດ?"

ການຂັດຂວາງຮູບແບບ (Pattern interrupts) ເພື່ອທຳລາຍຄວາມລຳອຽງ:

• ກ່ອນທີ່ຈະຍອມຮັບ, ໃຫ້ເວົ້າອອກສຽງເຖິງເຫດຜົນໜຶ່ງທີ່ລະບົບອັດຕະໂນມັດອາດຈະຜິດພາດ
• ກວດສອບແຫຼ່ງຂໍ້ມູນທາງເລືອກໜຶ່ງແຫຼ່ງກ່ອນທີ່ຈະດຳເນີນການຕໍ່
• ກຳນົດໄລຍະເວລາ "ເຮັດໃຫ້ໃຈເຢັນລົງ" ສັ້ນໆ ລະຫວ່າງການຮັບຄຳແນະນຳ ແລະ ການລົງມືປະຕິບັດ
• ຫັນໜີຈາກໜ້າຈໍທາງກາຍະພາບເພື່ອພິຈາລະນາການຕັດສິນໃຈ

ກົດລະບຽບງ່າຍໆ (Rules of thumb):

• ກົດ 5 ວິນາທີ: ໃຊ້ເວລາຢ່າງໜ້ອຍ 5 ວິນາທີເພື່ອພິຈາລະນາທາງເລືອກກ່ອນທີ່ຈະຍອມຮັບ
• ກົດ "ຜົນສະທ້ອນ 100 ເທົ່າ": ຖ້າຄວາມຜິດພາດຈະມີຄ່າໃຊ້ຈ່າຍ 100 ເທົ່າຂອງຄວາມພະຍາຍາມໃນການກວດສອບ, ໃຫ້ກວດສອບ
• ກົດ "ອະທິບາຍໃຫ້ຄົນທີ່ສົງໄສຟັງ": ທ່ານສາມາດປົກປ້ອງການຕັດສິນໃຈນີ້ກັບຄົນທີ່ບໍ່ໄວ້ວາງໃຈລະບົບອັດຕະໂນມັດໄດ້ຫຼືບໍ່?

10.2. ຍຸດທະສາດໄລຍະຍາວ

ນິດໄສທີ່ຄວນພັດທະນາໃນໄລຍະເວລາ:

• ຝຶກຝົນວຽກງານເປັນປະຈຳໂດຍບໍ່ມີການຊ່ວຍເຫຼືອຈາກລະບົບອັດຕະໂນມັດເພື່ອຮັກສາທັກສະ
• ເກັບບັນທຶກຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດທີ່ທ່ານຈັບໄດ້ (ສິ່ງນີ້ເຮັດໃຫ້ເຫັນເຖິງຄວາມຜິດພາດໄດ້ຢ່າງຊັດເຈນ)
• ກວດສອບຄຳແນະນຳອັດຕະໂນມັດເປັນໄລຍະໂດຍການກວດສອບຕົວຢ່າງແບບສຸ່ມ
• ສ້າງການກວດສອບເຂົ້າໄປໃນຂັ້ນຕອນການເຮັດວຽກມາດຕະຖານ ແທນທີ່ຈະປະຕິບັດຕໍ່ມັນວ່າເປັນທາງເລືອກ

ການປ່ຽນແປງແນວຄິດທີ່ຈຳເປັນ:

• ເບິ່ງລະບົບອັດຕະໂນມັດວ່າເປັນ "ຕົວຄາດຄະເນຄວາມເປັນໄປໄດ້," ບໍ່ແມ່ນ "ເຄື່ອງຈັກແຫ່ງຄວາມຈິງ"
• ຍອມຮັບຄວາມສົງໄສທີ່ເໝາະສົມວ່າເປັນຄວາມເປັນມືອາຊີບ, ບໍ່ແມ່ນຄວາມບໍ່ໄວ້ວາງໃຈ
• ຮັບຮູ້ວ່າບົດບາດຂອງມະນຸດແມ່ນເພື່ອຈັດການກໍລະນີທີ່ລະບົບອັດຕະໂນມັດລົ້ມເຫຼວ
• ຍອມຮັບວ່າການກວດສອບມີຄຸນຄ່າ, ບໍ່ແມ່ນຄວາມພະຍາຍາມທີ່ເສຍປ່າວ

ລະບົບ ແລະ ຂະບວນການທີ່ຄວນປະຕິບັດ:

• ສ້າງລາຍການກວດສອບທີ່ຮຽກຮ້ອງໃຫ້ມີການກວດສອບແບບເອກະລາດກ່ອນການກະທຳອັດຕະໂນມັດ
• ສ້າງຕັ້ງຂະບວນການ "red team" ເຊິ່ງໜ້າທີ່ຂອງໃຜຜູ້ໜຶ່ງແມ່ນການຄົ້ນຫາຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດ
• ອອກແບບຂັ້ນຕອນການເຮັດວຽກ ເຊິ່ງຄຳແນະນຳອັດຕະໂນມັດຈະໄດ້ຮັບຫຼັງຈາກການປະເມີນເບື້ອງຕົ້ນຂອງມະນຸດ
• ສ້າງລະບົບການຕອບສະໜອງເພື່ອແຈ້ງໃຫ້ຜູ້ໃຊ້ຮູ້ເມື່ອລະບົບອັດຕະໂນມັດຜິດພາດ

ທັກສະທີ່ຄວນຝຶກຝົນ ແລະ ສ້າງຄວາມເຂັ້ມແຂງ:

• ຄວາມຊ່ຽວຊານໃນຂະແໜງການ (ເພື່ອໃຫ້ທ່ານສາມາດຮັບຮູ້ຜົນໄດ້ຮັບທີ່ບໍ່ສົມເຫດສົມຜົນ)
• ການຄາດຄະເນທາງຈິດໃຈ ແລະ ການກວດສອບຄວາມສົມເຫດສົມຜົນ (sanity-checking)
• ທັກສະການກວດສອບແຫຼ່ງທີ່ມາ ແລະ ການຄົ້ນຄວ້າ
• Metacognition—ການຮັບຮູ້ເຖິງຂະບວນການທາງສະຕິປັນຍາຂອງຕົນເອງ

10.3. ການອອກແບບສະພາບແວດລ້ອມ

ວິທີການຈັດໂຄງສ້າງສະພາບແວດລ້ອມຂອງທ່ານເພື່ອຫຼຸດຜ່ອນຄວາມລຳອຽງນີ້:

• ກຳນົດຄ່າລະບົບອັດຕະໂນມັດເພື່ອສະແດງຄວາມບໍ່ແນ່ນອນ (ຊ່ວງຄວາມເປັນໄປໄດ້, ໄລຍະຄວາມໝັ້ນໃຈ)
• ອອກແບບສ່ວນຕິດຕໍ່ຜູ້ໃຊ້ (interfaces) ທີ່ຮຽກຮ້ອງໃຫ້ມີການຮັບຮູ້ເຖິງຂໍ້ຈຳກັດກ່ອນທີ່ຈະນຳໃຊ້
• ສ້າງການແຍກທາງກາຍະພາບ ຫຼື ທາງເວລາ ລະຫວ່າງຄຳແນະນຳອັດຕະໂນມັດ ແລະ ການລົງມືປະຕິບັດ
• ສ້າງຕັ້ງມາດຕະຖານຂອງອົງກອນທີ່ສະເຫຼີມສະຫຼອງການຈັບຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດ

ການປ່ຽນແປງທາງກາຍະພາບທີ່ຊ່ວຍໄດ້:

• ຮັກສາການເຂົ້າເຖິງທາງເລືອກທີ່ບໍ່ໃຊ້ອັດຕະໂນມັດ (ແຜນທີ່ທີ່ຈັບຕ້ອງໄດ້, ເຄື່ອງຄິດເລກ)
• ສະແດງຄຳເຕືອນກ່ຽວກັບຂໍ້ຈຳກັດຂອງລະບົບອັດຕະໂນມັດໃນພື້ນທີ່ເຮັດວຽກ
• ຮັກສາຊັບພະຍາກອນການກວດສອບໃຫ້ສາມາດເຂົ້າເຖິງໄດ້ງ່າຍ

ໂຄງສ້າງທາງສັງຄົມທີ່ຕ້ານຄວາມລຳອຽງ:

• ສ້າງຕັ້ງການທົບທວນໂດຍເພື່ອນຮ່ວມງານ (peer review) ສຳລັບການຕັດສິນໃຈອັດຕະໂນມັດທີ່ສຳຄັນ
• ສ້າງຄວາມປອດໄພທາງຈິດໃຈສຳລັບການຕັ້ງຄຳຖາມຕໍ່ລະບົບອັດຕະໂນມັດ
• ຮັບຮູ້ ແລະ ໃຫ້ລາງວັນແກ່ກໍລະນີທີ່ມະນຸດຈັບຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດໄດ້
• ແບ່ງປັນເລື່ອງລາວຂອງຄວາມລົ້ມເຫຼວຂອງລະບົບອັດຕະໂນມັດໃຫ້ເປັນໂອກາດໃນການຮຽນຮູ້

ລະບົບຂໍ້ມູນທີ່ປົກປ້ອງຈາກສິ່ງນີ້:

• ການສະແດງສັນຍານເຕືອນຄວາມເປັນໄປໄດ້ (Likelihood Alarm Displays - LADs) ທີ່ສະແດງຄວາມເປັນໄປໄດ້ແທນທີ່ຈະເປັນການແຈ້ງເຕືອນແບບສອງທາງ (binary)
• ລະບົບທີ່ບັນທຶກການລົບລ້າງລະບົບອັດຕະໂນມັດຂອງມະນຸດເພື່ອການວິເຄາະໃນພາຍຫຼັງ
• ລະບົບການຕອບສະໜອງທີ່ແຈ້ງໃຫ້ຜູ້ໃຊ້ຊາບເຖິງອັດຕາຄວາມສຳເລັດ/ລົ້ມເຫຼວຂອງພວກເຂົາເມື່ອຍອມຮັບລະບົບອັດຕະໂນມັດ
• ກະດານຄວບຄຸມ (Dashboards) ສະແດງອັດຕາຄວາມຖືກຕ້ອງຂອງລະບົບອັດຕະໂນມັດ

10.4. ເວລາທີ່ຄວນຊອກຫາຄຳແນະນຳຈາກພາຍນອກ

ປະເພດຂອງການຕັດສິນໃຈທີ່ທ່ານຄວນປຶກສາຫາລືກັບຜູ້ອື່ນ:

• ການຕັດສິນໃຈທີ່ມີຄວາມສ່ຽງສູງ (ການເງິນ, ການແພດ, ກົດໝາຍ, ກ່ຽວຂ້ອງກັບຄວາມປອດໄພ)
• ການຕັດສິນໃຈທີ່ຢູ່ນອກເໜືອຄວາມຊ່ຽວຊານຂອງທ່ານ
• ເມື່ອລະບົບອັດຕະໂນມັດຂັດແຍ້ງກັບສັນຊາດຕະຍານຂອງທ່ານ ແຕ່ທ່ານບໍ່ແນ່ໃຈ
• ການຕັດສິນໃຈທີ່ເກີດຂຶ້ນຊ້ຳໆເຊິ່ງທ່ານບໍ່ເຄີຍກວດສອບລະບົບອັດຕະໂນມັດເລີຍ

ໃຜທີ່ຄວນຂໍຄວາມຊ່ວຍເຫຼືອ:

• ຜູ້ຊ່ຽວຊານໃນຂະແໜງການທີ່ເຂົ້າໃຈຂໍ້ຈຳກັດຂອງລະບົບອັດຕະໂນມັດ
• ເພື່ອນຮ່ວມງານທີ່ເຄີຍປະສົບກັບຄວາມລົ້ມເຫຼວຂອງລະບົບອັດຕະໂນມັດ
• ຜູ້ທີ່ມັກສົງໄສເຊິ່ງຈະທ້າທາຍຄຳແນະນຳນັ້ນ
• ພາກສ່ວນເອກະລາດທີ່ບໍ່ມີສ່ວນໄດ້ສ່ວນເສຍໃນການຕັດສິນໃຈອັດຕະໂນມັດ

ວິທີການສ້າງຄຳຂໍສຳລັບຄຳຕິຊົມ:

• "ລະບົບແນະນຳ X. ເຈົ້າຊ່ວຍຂ້ອຍທົດສອບຄວາມທົນທານ (stress-test) ຂອງສິ່ງນີ້ໄດ້ບໍ່?"
• "ກ່ອນທີ່ຂ້ອຍຈະຍອມຮັບຜົນໄດ້ຮັບອັດຕະໂນມັດນີ້, ຂ້ອຍຄວນກວດສອບຫຍັງແດ່?"
• "ນີ້ແມ່ນສິ່ງທີ່ລະບົບອັດຕະໂນມັດບອກ—ມັນກົງກັບການປະເມີນເອກະລາດຂອງເຈົ້າຫຼືບໍ່?"

ສັນຍານທີ່ບົ່ງບອກວ່າທ່ານຕ້ອງການມຸມມອງຈາກພາຍນອກ:

• ທ່ານໄດ້ຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດໂດຍບໍ່ມີການກວດສອບມາເປັນເວລາດົນນານ
• ຄວາມສ່ຽງຂອງການຕັດສິນໃຈໃນປະຈຸບັນແມ່ນສູງກວ່າປົກກະຕິ
• ທ່ານຮູ້ສຶກບໍ່ສະບາຍໃຈກັບຄຳແນະນຳ ແຕ່ບໍ່ສາມາດອະທິບາຍໄດ້ວ່າຍ້ອນຫຍັງ
• ລະບົບອັດຕະໂນມັດກຳລັງຖືກນຳໃຊ້ໃນສະຖານະການໃໝ່

11. ການຝຶກປະຕິບັດຕົວຈິງ

ບົດຝຶກຫັດທີ 1: ສິ່ງທ້າທາຍໃນການກວດສອບ

• ຈຸດປະສົງ: ສ້າງນິດໄສໃນການກວດສອບຜົນໄດ້ຮັບອັດຕະໂນມັດ
• ເວລາທີ່ຕ້ອງການ: 10 ນາທີຕໍ່ມື້ ເປັນເວລາ 2 ອາທິດ
• ສິ່ງທີ່ຕ້ອງການ: ເຄື່ອງມືອັດຕະໂນມັດທີ່ທ່ານໃຊ້ເປັນປະຈຳ (GPS, ໂປຣແກຣມຄົ້ນຫາ, ກວດສອບການສະກົດຄຳ, ເຄື່ອງຄິດເລກ)
• ລະດັບຄວາມຍາກ: ຜູ້ເລີ່ມຕົ້ນ
• ຄຳແນະນຳ:
  1. ໃນແຕ່ລະມື້, ໃຫ້ລະບຸ 3 ຄຳແນະນຳອັດຕະໂນມັດທີ່ທ່ານໄດ້ຮັບ
  2. ສຳລັບແຕ່ລະອັນ, ໃຫ້ໃຊ້ເວລາ 2 ນາທີເພື່ອກວດສອບຜົນໄດ້ຮັບໂດຍໃຊ້ແຫຼ່ງເອກະລາດ
  3. ບັນທຶກວ່າລະບົບອັດຕະໂນມັດຖືກຕ້ອງ, ຖືກຕ້ອງບາງສ່ວນ ຫຼື ຜິດພາດ
  4. ສັງເກດວ່າການກວດສອບໃຊ້ເວລາດົນປານໃດ ທຽບກັບເວລາທີ່ທ່ານຈະຕ້ອງໃຊ້ໃນການແກ້ໄຂຂໍ້ຜິດພາດ
  5. ໃນທ້າຍອາທິດ, ໃຫ້ຄິດໄລ່ອັດຕາຄວາມຖືກຕ້ອງຕົວຈິງຂອງລະບົບອັດຕະໂນມັດຂອງທ່ານ
• ຄຳຖາມເພື່ອສະທ້ອນຄວາມຄິດ:
  • ລະບົບອັດຕະໂນມັດຜິດພາດ ຫຼື ຜິດພາດບາງສ່ວນເລື້ອຍປານໃດ?
  • ຄຳແນະນຳປະເພດໃດທີ່ໜ້າເຊື່ອຖືທີ່ສຸດ? ໜ້າເຊື່ອຖືໜ້ອຍທີ່ສຸດ?
  • ຄວາມພະຍາຍາມໃນການກວດສອບຂອງທ່ານທຽບກັບຄ່າໃຊ້ຈ່າຍທີ່ເປັນໄປໄດ້ຂອງຄວາມຜິດພາດແນວໃດ?
• ຄວາມຖີ່: ທຸກໆມື້ເປັນເວລາ 2 ອາທິດ, ຈາກນັ້ນກວດສອບເປັນຈຸດໆທຸກອາທິດ

ບົດຝຶກຫັດທີ 2: ອາທິດແຫ່ງການເຮັດດ້ວຍມື (The Manual Week)

• ຈຸດປະສົງ: ເຊື່ອມຕໍ່ຄືນໃໝ່ກັບຄວາມສາມາດໃນການຕັດສິນໃຈແບບເອກະລາດຂອງທ່ານ
• ເວລາທີ່ຕ້ອງການ: ໜຶ່ງອາທິດ
• ສິ່ງທີ່ຕ້ອງການ: ທາງເລືອກອື່ນນອກເໜືອຈາກເຄື່ອງມືອັດຕະໂນມັດປົກກະຕິຂອງທ່ານ (ແຜນທີ່ທີ່ຈັບຕ້ອງໄດ້, ການຄິດໄລ່ດ້ວຍມື, ທັກສະການພິສູດອັກສອນ)
• ລະດັບຄວາມຍາກ: ລະດັບກາງ
• ຄຳແນະນຳ:
  1. ເລືອກເຄື່ອງມືອັດຕະໂນມັດໜຶ່ງອັນທີ່ທ່ານເພິ່ງພາຢ່າງໜັກ
  2. ໃຫ້ຄຳໝັ້ນສັນຍາທີ່ຈະບໍ່ໃຊ້ມັນເປັນເວລາໜຶ່ງອາທິດ (ຫຼື ໃຊ້ມັນເປັນພຽງຕົວສຳຮອງເທົ່ານັ້ນ)
  3. ປະຕິບັດໜ້າທີ່ດ້ວຍມືໂດຍໃຊ້ການຕັດສິນໃຈ ແລະ ທັກສະຂອງທ່ານເອງ
  4. ບັນທຶກປະຈຳວັນກ່ຽວກັບປະສົບການ—ສິ່ງໃດຍາກຂຶ້ນ, ສິ່ງໃດງ່າຍຂຶ້ນ
  5. ໃນທ້າຍອາທິດ, ໃຫ້ສະທ້ອນເຖິງຄວາມສາມາດທີ່ທ່ານຮັກສາໄວ້ ທຽບກັບສິ່ງທີ່ສູນເສຍໄປ
• ຄຳຖາມເພື່ອສະທ້ອນຄວາມຄິດ:
  • ໜ້າທີ່ໃດທີ່ທ່ານສາມາດເຮັດໄດ້ຢ່າງສົມບູນແບບໂດຍບໍ່ມີລະບົບອັດຕະໂນມັດ?
  • ບ່ອນໃດທີ່ທ່ານຮູ້ສຶກຄິດຮອດການຊ່ວຍເຫຼືອຂອງລະບົບອັດຕະໂນມັດຢ່າງແທ້ຈິງ?
  • ຄວາມໝັ້ນໃຈໃນການຕັດສິນໃຈຂອງທ່ານປ່ຽນແປງໄປແນວໃດ?
• ຄວາມຖີ່: ທຸກໆໄຕມາດ, ໝູນວຽນໃຊ້ເຄື່ອງມືທີ່ແຕກຕ່າງກັນ

ບົດຝຶກຫັດທີ 3: ວິທີການໃຫ້ຄຳໝັ້ນສັນຍາລ່ວງໜ້າ (The Pre-Commitment Method)

• ຈຸດປະສົງ: ຫຼຸດຜ່ອນຄວາມຜິດພາດຈາກການກະທຳ (commission errors) ໂດຍການສ້າງການຕັດສິນໃຈແບບເອກະລາດກ່ອນ
• ເວລາທີ່ຕ້ອງການ: 5 ນາທີຕໍ່ການຕັດສິນໃຈ
• ສິ່ງທີ່ຕ້ອງການ: ເຈ້ຍ ຫຼື ແອັບຈົດບັນທຶກ
• ລະດັບຄວາມຍາກ: ຂັ້ນສູງ
• ຄຳແນະນຳ:
  1. ກ່ອນທີ່ຈະປຶກສາເຄື່ອງມືອັດຕະໂນມັດ, ໃຫ້ຂຽນການຕັດສິນໃຈເບື້ອງຕົ້ນຂອງທ່ານລົງໄປ
  2. ບັນທຶກລະດັບຄວາມໝັ້ນໃຈຂອງທ່ານ (ຕ່ຳ/ກາງ/ສູງ)
  3. ບັນທຶກວ່າທ່ານອີງໃສ່ຂໍ້ມູນຫຍັງແດ່ໃນການຕັດສິນໃຈ
  4. ຫຼັງຈາກນັ້ນຈຶ່ງປຶກສາລະບົບອັດຕະໂນມັດ
  5. ປຽບທຽບການຕັດສິນໃຈຂອງທ່ານກັບຜົນໄດ້ຮັບອັດຕະໂນມັດ—ບັນທຶກຄວາມເຫັນດີ ແລະ ຄວາມຂັດແຍ້ງ
• ຄຳຖາມເພື່ອສະທ້ອນຄວາມຄິດ:
  • ການຕັດສິນໃຈແບບເອກະລາດຂອງທ່ານສອດຄ່ອງກັບລະບົບອັດຕະໂນມັດເລື້ອຍປານໃດ?
  • ເມື່ອທ່ານບໍ່ເຫັນດີນຳ, ໃຜເປັນຝ່າຍຖືກເລື້ອຍກວ່າກັນ?
  • ການໃຫ້ຄຳໝັ້ນສັນຍາກ່ອນ ປ່ຽນແປງຄວາມສຳພັນຂອງທ່ານກັບຜົນໄດ້ຮັບອັດຕະໂນມັດແນວໃດ?
• ຄວາມຖີ່: ສຳລັບທຸກການຕັດສິນໃຈທີ່ສຳຄັນ

ການຝຶກປະຕິບັດປະຈຳວັນ

"ການຢຸດຊົ່ວຄາວ 5 ວິນາທີ"

ກ່ອນທີ່ຈະຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດໃດໆ, ໃຫ້ຢຸດຊົ່ວຄາວເປັນເວລາ 5 ວິນາທີ ແລະ ຖາມວ່າ: "ມີເຫດຜົນຫຍັງບໍ່ທີ່ສິ່ງນີ້ອາດຈະຜິດພາດ?" ການຊັກຊ້າສັ້ນໆນີ້ຈະຂັດຂວາງການຕອບສະໜອງການຍອມຮັບອັດຕະໂນມັດ ແລະ ສ້າງພື້ນທີ່ສຳລັບການປະເມີນຢ່າງມີວິຈາລະນາຍານ.

• ໄລຍະເວລາທີ່ແນະນຳ: 5 ວິນາທີຕໍ່ການປ້ອນຂໍ້ມູນອັດຕະໂນມັດ
• ເວລາທີ່ດີທີ່ສຸດຂອງມື້: ຢ່າງຕໍ່ເນື່ອງຕະຫຼອດທັງມື້
• ວິທີການຕິດຕາມຄວາມຄືບໜ້າ: ເກັບຄະແນນຂອງການຢຸດຊົ່ວຄາວທີ່ທ່ານເຮັດ; ສັງເກດກໍລະນີທີ່ການຢຸດຊົ່ວຄາວນຳໄປສູ່ການຕັ້ງຄຳຖາມ ຫຼື ການກວດສອບ

ສິ່ງທ້າທາຍປະຈຳອາທິດ

ການກວດສອບຂອງຜູ້ມັກສົງໄສ (The Skeptic's Audit)

ໃນແຕ່ລະອາທິດ, ໃຫ້ເລືອກໜຶ່ງຂົງເຂດໃນຊີວິດຂອງທ່ານທີ່ທ່ານເພິ່ງພາລະບົບອັດຕະໂນມັດຢ່າງໜັກ (GPS, ການກັ່ນຕອງອີເມວ, ການຈັດອັນດັບການຄົ້ນຫາ, ການຊ່ວຍເຫຼືອຈາກ AI). ດຳເນີນການກວດສອບຢ່າງເປັນລະບົບສຳລັບ 5-10 ການຕັດສິນໃຈອັດຕະໂນມັດຈາກອາທິດນັ້ນ.

• ຜົນໄດ້ຮັບທີ່ຄາດຫວັງຫຼັງຈາກ 4 ອາທິດ: ຄວາມເຂົ້າໃຈທີ່ຖືກປັບທຽບວ່າລະບົບອັດຕະໂນມັດຂອງທ່ານໜ້າເຊື່ອຖືຢູ່ໃສ ທຽບກັບບ່ອນທີ່ມັນຜິດພາດ; ນິດໄສການກວດສອບທີ່ດີຂຶ້ນ; ຄວາມໄວ້ວາງໃຈແບບຕາບອດຫຼຸດລົງ
• ຫົວຂໍ້ການຈົດບັນທຶກສຳລັບການສະທ້ອນຄວາມຄິດ:
  • "ການກວດສອບຄັ້ງນີ້ທ້າທາຍຂໍ້ສົມມຸດຕິຖານໃດກ່ຽວກັບຄວາມຖືກຕ້ອງຂອງລະບົບອັດຕະໂນມັດ?"
  • "ຖ້າຂ້ອຍຕ້ອງພະນັນເງິນວ່າຄຳແນະນຳນີ້ຖືກຕ້ອງ, ຂ້ອຍຈະພະນັນເທົ່າໃດ?"
  • "ຂັ້ນຕອນການກວດສອບໃດທີ່ຂ້ອຍສາມາດເພີ່ມເຂົ້າໃນກິດຈະວັດຂອງຂ້ອຍ ເຊິ່ງຈະຊ່ວຍຈັບຄວາມຜິດພາດທີ່ຂ້ອຍພົບໄດ້?"

12. ສຳລັບກຸ່ມເປົ້າໝາຍສະເພາະ

ສຳລັບຜູ້ນຳ ແລະ ຜູ້ຈັດການ

ຄວາມລຳອຽງນີ້ມີຜົນກະທົບຕໍ່ປະສິດທິຜົນຂອງຄວາມເປັນຜູ້ນຳແນວໃດ:

• ຜູ້ນຳທີ່ຍອມຮັບການວິເຄາະອັດຕະໂນມັດຢ່າງບໍ່ມີວິຈາລະນາຍານ ອາດຈະພາດຄວາມເປັນຈິງທີ່ສຳຄັນໃນສະໜາມ
• ຕົວກຳນົດປະສິດທິພາບອັດຕະໂນມັດອາດຈະສ້າງຄວາມໝັ້ນໃຈທີ່ຜິດພາດກ່ຽວກັບສຸຂະພາບຂອງທີມ
• ການຕັດສິນໃຈທາງຍຸດທະສາດທີ່ອີງໃສ່ການຄາດຄະເນທາງອັລກໍຣິທຶມ ອາດຈະບໍ່ສາມາດຄຳນຶງເຖິງເງື່ອນໄຂທີ່ບໍ່ເຄີຍມີມາກ່ອນ

ຍຸດທະສາດສະເພາະສຳລັບບໍລິບົດຂອງອົງກອນ:

• ເປັນແບບຢ່າງຂອງຄວາມສົງໄສທີ່ເໝາະສົມໂດຍການຕັ້ງຄຳຖາມຕໍ່ຄຳແນະນຳອັດຕະໂນມັດຢ່າງເປີດເຜີຍ
• ສ້າງຄວາມປອດໄພທາງຈິດໃຈໃຫ້ພະນັກງານທ້າທາຍລະບົບອັດຕະໂນມັດ
• ສ້າງຄວາມຮັບຜິດຊອບທີ່ຊັດເຈນເຊິ່ງບໍ່ຖືກກະຈາຍໄປດ້ວຍຄຳວ່າ "ລະບົບເປັນຜູ້ແນະນຳ"
• ລົງທຶນໃນການຝຶກອົບຮົມທີ່ເນັ້ນໜັກການຕັດສິນໃຈ, ບໍ່ແມ່ນພຽງແຕ່ຄວາມຊຳນານໃນເຄື່ອງມື

ການແຊກແຊງທີ່ອີງໃສ່ທີມ:

• ປະຕິບັດບົດບາດ "ທະນາຍຄວາມຂອງມານ" (devil's advocate) ໂດຍສະເພາະສຳລັບການຕັ້ງຄຳຖາມກ່ຽວກັບລະບົບອັດຕະໂນມັດ
• ຮຽກຮ້ອງໃຫ້ມີການປະເມີນແບບເອກະລາດຫຼາຍໆຄັ້ງກ່ອນທີ່ຈະຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດທີ່ມີຄວາມສ່ຽງສູງ
• ແບ່ງປັນເລື່ອງລາວຂອງຄວາມລົ້ມເຫຼວຂອງລະບົບອັດຕະໂນມັດໃນກອງປະຊຸມທີມ ເພື່ອເປັນໂອກາດໃນການຮຽນຮູ້
• ສະເຫຼີມສະຫຼອງກໍລະນີທີ່ສະມາຊິກໃນທີມຈັບຄວາມຜິດພາດຂອງລະບົບອັດຕະໂນມັດໄດ້

ຂະບວນການຕັດສິນໃຈທີ່ຄວນປະຕິບັດ:

• Pre-mortems: "ຖ້າຄຳແນະນຳອັດຕະໂນມັດນີ້ນຳໄປສູ່ໄພພິບັດ, ສິ່ງໃດທີ່ຜິດພາດ?"
• Red teaming: ມອບໝາຍໃຫ້ໃຜຜູ້ໜຶ່ງໂຕ້ແຍ້ງກັບຄຳແນະນຳອັດຕະໂນມັດ
• ບົດຮຽນການປັບທຽບ: ປຽບທຽບການຄາດຄະເນອັດຕະໂນມັດໃນອະດີດກັບຜົນໄດ້ຮັບຕົວຈິງ

ສຳລັບພໍ່ແມ່ ແລະ ນັກການສຶກສາ

ວິທີການສອນເດັກນ້ອຍກ່ຽວກັບຄວາມລຳອຽງນີ້:

• ອະທິບາຍວ່າຄອມພິວເຕີເປັນເຄື່ອງມືທີ່ເປັນປະໂຫຍດແຕ່ບໍ່ຖືກຕ້ອງສະເໝີໄປ
• ໃຊ້ຕົວຢ່າງທີ່ເໝາະສົມກັບອາຍຸ (ຄວາມຜິດພາດໃນການກວດສອບການສະກົດຄຳ, ຄວາມຜິດພາດຂອງ GPS)
• ວາງກອບຄວາມສົງໄສທີ່ດີວ່າເປັນຄວາມສະຫຼາດ, ບໍ່ແມ່ນຄວາມບໍ່ໄວ້ວາງໃຈ

ການອະທິບາຍທີ່ເໝາະສົມກັບອາຍຸ:

• ເດັກນ້ອຍ (5-8 ປີ): "ຄອມພິວເຕີເກັ່ງໃນບາງເລື່ອງ ແຕ່ກໍສາມາດເຮັດຜິດພາດແບບຕະຫຼົກໆໄດ້. ໃຫ້ກວດສອບສະເໝີ!"
• ເດັກໃຫຍ່ (9-12 ປີ): "ແອັບ ແລະ ເວັບໄຊໃຊ້ໂປຣແກຣມເພື່ອຊ່ວຍພວກເຮົາ, ແຕ່ໂປຣແກຣມເຫຼົ່ານັ້ນບໍ່ໄດ້ຮູ້ທຸກຢ່າງ. ມາຄິດດ້ວຍຕົວເອງນຳກັນເທາະ."
• ໄວລຸ້ນ: "AI ແລະ ອັລກໍຣິທຶມມີພະລັງຫຼາຍ ແຕ່ກໍມີຂໍ້ຈຳກັດ. ການເປັນຄົນສະຫຼາດໝາຍເຖິງການຮູ້ວ່າເວລາໃດຄວນໄວ້ວາງໃຈພວກມັນ ແລະ ເວລາໃດຄວນກວດສອບ."

ຍຸດທະສາດການປ້ອງກັນສຳລັບຈິດໃຈຂອງເຍົາວະຊົນ:

• ສົ່ງເສີມການຝຶກຄິດໄລ່ຄຽງຄູ່ກັບການໃຊ້ເຄື່ອງຄິດເລກ
• ໃຫ້ເດັກນ້ອຍພະຍາຍາມເຮັດໜ້າທີ່ກ່ອນທີ່ຈະໃຊ້ຕົວຊ່ວຍອັດຕະໂນມັດ
• ສົນທະນາຕົວຢ່າງຂອງເທັກໂນໂລຢີທີ່ຜິດພາດໃນຂ່າວ ແລະ ຊີວິດປະຈຳວັນ
• ເປັນແບບຢ່າງຂອງພຶດຕິກຳການກວດສອບໃນຖານະພໍ່ແມ່

ກິດຈະກຳສຳລັບຫ້ອງຮຽນ ຫຼື ຢູ່ເຮືອນ:

• ເກມ "ຊອກຫາຂໍ້ຜິດພາດ" ກັບຜົນໄດ້ຮັບຈາກເຄື່ອງຄິດເລກ, ເສັ້ນທາງ GPS ຫຼື ເນື້ອຫາທີ່ສ້າງໂດຍ AI
• ໂຄງການຄົ້ນຄວ້າທີ່ຮຽກຮ້ອງໃຫ້ມີການກວດສອບຜົນການຄົ້ນຫາອັດຕະໂນມັດ
• ການປະເມີນສິລະປະ, ການຂຽນ ຫຼື ຄຳແນະນຳຂອງ AI ຢ່າງມີວິຈາລະນາຍານ

ສຳລັບຜູ້ຊ່ຽວຊານດ້ານການດູແລສຸຂະພາບ

ຜົນສະທ້ອນທາງຄລີນິກຂອງຄວາມລຳອຽງນີ້:

• ການເພິ່ງພາການສະໜັບສະໜູນການຕັດສິນໃຈທາງຄລີນິກຫຼາຍເກີນໄປອາດນຳໄປສູ່ການວິນິດໄສທີ່ຜິດພາດ
• ຄວາມອ່ອນເພຍຈາກການແຈ້ງເຕືອນສ້າງການບໍ່ເພິ່ງພາທີ່ເປັນອັນຕະລາຍ
• ເຄື່ອງມືວິນິດໄສ AI ອາດຈະເຮັດວຽກໄດ້ບໍ່ດີໃນການນຳສະເໜີທີ່ຜິດປົກກະຕິ

ຍຸດທະສາດການສື່ສານກັບຄົນເຈັບ:

• ອະທິບາຍເມື່ອເຄື່ອງມືອັດຕະໂນມັດໃຫ້ຂໍ້ມູນການວິນິດໄສ (ຄວາມໂປ່ງໃສສ້າງຄວາມໄວ້ວາງໃຈທີ່ເໝາະສົມ)
• ເນັ້ນໜັກເຖິງບົດບາດຂອງການຕັດສິນໃຈທາງຄລີນິກໃນການຕີຄວາມຜົນໄດ້ຮັບອັດຕະໂນມັດ
• ສົນທະນາຂໍ້ຈຳກັດຂອງແອັບສຸຂະພາບ ແລະ ຕົວຊ່ວຍກວດສອບອາການ AI ທີ່ຄົນເຈັບອາດຈະໃຊ້

ການພິຈາລະນາການວິນິດໄສ:

• ສ້າງການວິນິດໄສແຍກພະຍາດ (differential diagnosis) ກ່ອນທີ່ຈະປຶກສາການສະໜັບສະໜູນການຕັດສິນໃຈ
• ໃຊ້ລະບົບອັດຕະໂນມັດເປັນໜຶ່ງຈຸດຂໍ້ມູນໃນບັນດາຫຼາຍໆຈຸດ, ບໍ່ແມ່ນຄຳຕອບທີ່ແນ່ນອນ
• ໃຫ້ສົງໄສເປັນພິເສດເມື່ອຜົນໄດ້ຮັບອັດຕະໂນມັດບໍ່ກົງກັບການນຳສະເໜີທາງຄລີນິກ

ຜົນກະທົບຕໍ່ການວາງແຜນການປິ່ນປົວ:

• ເຄື່ອງຄິດໄລ່ຂະໜາດຢາອັດຕະໂນມັດຕ້ອງການການກວດສອບນ້ຳໜັກ ແລະ ການເຮັດວຽກຂອງໝາກໄຂ່ຫຼັງ
• ຄຳແນະນຳໂປຣໂຕຄອນການປິ່ນປົວອາດຈະບໍ່ໄດ້ຄຳນຶງເຖິງຄວາມແຕກຕ່າງຂອງແຕ່ລະບຸກຄົນ
• ປັດໄຈສະເພາະຂອງຄົນເຈັບອາດຈະລົບລ້າງຄຳແນະນຳທາງອັລກໍຣິທຶມ

ການພິຈາລະນາດ້ານຈັນຍາບັນ:

• ຄວາມຮັບຜິດຊອບບໍ່ສາມາດມອບໝາຍໃຫ້ລະບົບອັດຕະໂນມັດໄດ້
• ການຍິນຍອມທີ່ໄດ້ຮັບການບອກກ່າວ (Informed consent) ອາດຮຽກຮ້ອງໃຫ້ມີການເປີດເຜີຍການນຳໃຊ້ AI ໃນການວິນິດໄສ
• ການຕັດສິນໃຈທາງວິຊາຊີບຍັງຄົງສຳຄັນທີ່ສຸດໂດຍບໍ່ສົນເລື່ອງລະບົບອັດຕະໂນມັດ

ສຳລັບຜູ້ຊ່ຽວຊານດ້ານການເງິນ

ການນຳໃຊ້ສະເພາະດ້ານການລົງທຶນ:

• ຄຳແນະນຳການຊື້ຂາຍດ້ວຍອັລກໍຣິທຶມຍັງຕ້ອງການການກວດສອບຄວາມສົມເຫດສົມຜົນຂອງມະນຸດ
• ປະສິດທິພາບທີ່ທົດສອບຍ້ອນຫຼັງບໍ່ໄດ້ຮັບປະກັນຜົນໄດ້ຮັບໃນອະນາຄົດ
• ໂມເດວອາດຈະລົ້ມເຫຼວຢ່າງຮ້າຍແຮງໃນສະພາບຕະຫຼາດທີ່ບໍ່ເຄີຍມີມາກ່ອນ

ຍຸດທະສາດການສື່ສານກັບລູກຄ້າ:

• ອະທິບາຍບົດບາດຂອງລະບົບອັດຕະໂນມັດໃນການຄຸ້ມຄອງຫຼັກຊັບ
• ກຳນົດຄວາມຄາດຫວັງທີ່ເໝາະສົມກ່ຽວກັບສິ່ງທີ່ອັລກໍຣິທຶມສາມາດເຮັດໄດ້ ແລະ ບໍ່ສາມາດເຮັດໄດ້
• ສົນທະນາຂໍ້ຈຳກັດໃນການສ້າງໂມເດວຄວາມສ່ຽງ ແລະ ການຄາດຄະເນ

ຜົນສະທ້ອນຕໍ່ການຄຸ້ມຄອງຄວາມສ່ຽງ:

• ຕົວກຳນົດຄວາມສ່ຽງອັດຕະໂນມັດ (VaR, ແລະ ອື່ນໆ) ມີຮູບແບບຄວາມລົ້ມເຫຼວທີ່ຮູ້ຈັກກັນດີ
• ຄວາມສຳພັນ (Correlations) ສາມາດປ່ຽນແປງໄດ້ໃນໄລຍະວິກິດການ, ເຊິ່ງທຳລາຍຂໍ້ສົມມຸດຕິຖານຂອງໂມເດວ
• ການຕັດສິນໃຈຂອງມະນຸດເປັນສິ່ງຈຳເປັນສຳລັບສະຖານະການຄວາມສ່ຽງແບບຫາງ (tail-risk)

ການພິຈາລະນາດ້ານກົດລະບຽບ:

• ໜ້າທີ່ທີ່ໄດ້ຮັບຄວາມໄວ້ວາງໃຈ (Fiduciary duty) ບໍ່ໄດ້ສຳເລັດລົງພຽງແຕ່ການປະຕິບັດຕາມຄຳແນະນຳທາງອັລກໍຣິທຶມ
• ເອກະສານຄວນສະແດງໃຫ້ເຫັນເຖິງການທົບທວນຂອງມະນຸດຕໍ່ຄຳແນະນຳອັດຕະໂນມັດ
• ລະບົບການປະຕິບັດຕາມກົດລະບຽບຕ້ອງການການກວດກາຂອງມະນຸດ, ບໍ່ແມ່ນລະບົບອັດຕະໂນມັດທັງໝົດ

13. ການພົວພັນກັບຄວາມລຳອຽງອື່ນໆ (Interactions with Other Biases)

ຄວາມລຳອຽງທີ່ຂະຫຍາຍສິ່ງນີ້

ຄວາມລຳອຽງທີ່ຕ້ານທານສິ່ງນີ້

ຕ່ອງໂສ້ຄວາມລຳອຽງທົ່ວໄປ

ຕ່ອງໂສ້ ລະບົບອັດຕະໂນມັດ-ການຢືນຢັນ-ຄວາມຊົງຈຳ: ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ → ຄວາມລຳອຽງໃນການຢືນຢັນ → ການບິດເບືອນຄວາມຊົງຈຳ → ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດທີ່ຖືກເສີມສ້າງ

ເມື່ອໃຜຜູ້ໜຶ່ງຍອມຮັບຄຳແນະນຳອັດຕະໂນມັດ (ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ), ພວກເຂົາຈະເລີ່ມເລືອກສັງເກດເຫັນຂໍ້ມູນທີ່ຢືນຢັນມັນ (ຄວາມລຳອຽງໃນການຢືນຢັນ). ເມື່ອເວລາຜ່ານໄປ, ຄວາມຊົງຈຳຈະສ້າງເຫດການຄືນໃໝ່ເພື່ອສະໜັບສະໜູນການຕັດສິນໃຈອັດຕະໂນມັດ, ແມ່ນແຕ່ສ້າງຫຼັກຖານຂຶ້ນມາເອງ (ການບິດເບືອນຄວາມຊົງຈຳ). ຫຼັກຖານທີ່ຜິດພາດນີ້ຈະໄປເສີມສ້າງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດໃນອະນາຄົດ ໂດຍເຮັດໃຫ້ການຕັດສິນໃຈອັດຕະໂນມັດໃນອະດີດເບິ່ງຄືວ່າໜ້າເຊື່ອຖືຍິ່ງກວ່າທີ່ມັນເປັນ.

ການຂັດຂວາງລູກໂສ້ (Interrupting the Cascade): ຈຸດແຊກແຊງທີ່ສຳຄັນແມ່ນກ່ອນການຍອມຮັບຄັ້ງທຳອິດ. ການໃຫ້ຄຳໝັ້ນສັນຍາລ່ວງໜ້າໃນການຕັດສິນໃຈແບບເອກະລາດກ່ອນທີ່ຈະເຫັນລະບົບອັດຕະໂນມັດ ຈະຊ່ວຍທຳລາຍຈຸດຍຶດຕິດເບື້ອງຕົ້ນ. ການຮຽກຮ້ອງໃຫ້ມີເອກະສານທີ່ຊັດເຈນກ່ຽວກັບຫຼັກຖານທີ່ຂັດແຍ້ງກັນຈະປ້ອງກັນການເລືອກເອົາໃຈໃສ່ແຕ່ສິ່ງທີ່ຢືນຢັນ. ການກວດສອບເປັນປະຈຳທີ່ປຽບທຽບການຄາດຄະເນອັດຕະໂນມັດກັບຜົນໄດ້ຮັບ ຈະຊ່ວຍແກ້ໄຂການບິດເບືອນຄວາມຊົງຈຳ.

14. ທັດສະນະທາງວັດທະນະທຳ (Cultural Perspectives)

ການຄົ້ນຄວ້າກ່ຽວກັບຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຂ້າມວັດທະນະທຳ ເປີດເຜີຍທັງລັກສະນະສາກົນ ແລະ ຄວາມແຕກຕ່າງທີ່ສຳຄັນ:

ລັກສະນະສາກົນ:

• ກົນໄກທາງສະຕິປັນຍາທີ່ຢູ່ເບື້ອງຫຼັງ (ການອະນຸລັກພະລັງງານ, ການປະມວນຜົນແບບທາງລັດ) ປາກົດຂຶ້ນໃນທຸກວັດທະນະທຳທີ່ໄດ້ສຶກສາ
• ຜົນກະທົບຂອງ "ຜູ້ຂີ້ຖີ່ທາງສະຕິປັນຍາ" ເຮັດວຽກໂດຍບໍ່ສົນໃຈພື້ນຖານທາງວັດທະນະທຳ
• ຄວາມໜ້າເຊື່ອຖືສູງນຳໄປສູ່ຄວາມໄວ້ວາງໃຈ ແລະ ການຫຼຸດຜ່ອນການກວດສອບໃນລະດັບສາກົນ

ຄວາມແຕກຕ່າງທາງວັດທະນະທຳ:

ການເນັ້ນໜັກການຄົ້ນຄວ້າໃນລະດັບພາກພື້ນ (Regional Research Emphases):

• ຍີ່ປຸ່ນ (Ishiguro): ເນັ້ນໜັກເຖິງຄວາມໄວ້ວາງໃຈທາງສັງຄົມໃນຫຸ່ນຍົນ ແລະ ຜົນກະທົບຂອງການໃຫ້ຄຸນລັກສະນະຂອງມະນຸດ; ການນຳໃຊ້ເທັກໂນໂລຢີສູງດ້ວຍຄວາມສົນໃຈທາງວັດທະນະທຳຕໍ່ການໂຕ້ຕອບລະຫວ່າງມະນຸດກັບເຄື່ອງຈັກທີ່ກົມກຽວກັນ
• ເກົາຫຼີໃຕ້ (KAIST): ສຸມໃສ່ Explainable AI ວ່າເປັນຄຸນຄ່າທາງວັດທະນະທຳ; ຄວາມຄາດຫວັງກ່ຽວກັບຄວາມໂປ່ງໃສອາດຈະຫຼຸດຜ່ອນຄວາມໄວ້ວາງໃຈໃນລະບົບອັດຕະໂນມັດແບບຕາບອດ
• ຈີນ (Tsinghua): ການເນັ້ນໜັກການຄົ້ນຄວ້າກ່ຽວກັບຄວາມປອດໄພຂອງ AI ສົນທະນາ ແລະ ການປ້ອງກັນການຕອບສະໜອງຂອງ AI ທີ່ເອົາໃຈເຊິ່ງຈະໄປເສີມສ້າງຄວາມລຳອຽງຂອງຜູ້ໃຊ້
• ເຢຍລະມັນ (TU Berlin, TU Darmstadt): ວິສະວະກຳສຸມໃສ່ການອອກແບບສັນຍານເຕືອນ ແລະ ການໂຕ້ຕອບຂອງຫຸ່ນຍົນບໍລິການ; ຄວາມຊັດເຈນທາງວັດທະນະທຳອາດຈະມີອິດທິພົນຕໍ່ມາດຕະຖານການກວດສອບ
• ສະຫະລັດອາເມລິກາ: ສຸມໃສ່ຈິດຕະວິທະຍາທາງສະຕິປັນຍາໃນລະດັບບຸກຄົນ ແລະ ການນຳໃຊ້ທາງການບິນ/ການປ້ອງກັນປະເທດ

ຜົນສະທ້ອນຂ້າມວັດທະນະທຳ:

• ທີມງານສາກົນທີ່ໃຊ້ລະບົບອັດຕະໂນມັດຮ່ວມກັນອາດຈະມີລະດັບຄວາມໄວ້ວາງໃຈເລີ່ມຕົ້ນທີ່ແຕກຕ່າງກັນ
• ອົງກອນຫຼາຍຊາດຄວນພິຈາລະນາຄວາມແຕກຕ່າງທາງວັດທະນະທຳໃນເວລາອອກແບບສ່ວນຕິດຕໍ່ລະບົບອັດຕະໂນມັດ
• ລະບົບ AI ທົ່ວໂລກອາດຈະຕ້ອງການວິທີການປັບທຽບຄວາມໄວ້ວາງໃຈທີ່ແຕກຕ່າງກັນສຳລັບຕະຫຼາດທີ່ແຕກຕ່າງກັນ

15. ຄວາມເຊື່ອທີ່ຜິດ ແລະ ຄວາມເຂົ້າໃຈຜິດ (Myths and Misconceptions)

16. ຄວາມຮູ້ຈາກຜູ້ຊ່ຽວຊານ (Expert Insights)

"ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດເຮັດໜ້າທີ່ເປັນ 'ການທົດແທນທາງລັດສຳລັບການຄົ້ນຫາ ແລະ ປະມວນຜົນຂໍ້ມູນຢ່າງລະມັດລະວັງ'—ເຊິ່ງເປັນ 'ທາງລັດທາງສະຕິປັນຍາທີ່ປິດການປະເມີນສະຖານະການກ່ອນເວລາອັນຄວນ.'" — Linda Skitka, Kathleen Mosier & Mark Burdick, 1999

"ຄວາມໄວ້ວາງໃຈແມ່ນທັດສະນະຄະຕິທີ່ຕົວແທນຈະຊ່ວຍບັນລຸເປົ້າໝາຍຂອງບຸກຄົນ ໃນສະຖານະການທີ່ມີລັກສະນະຄວາມບໍ່ແນ່ນອນ ແລະ ຄວາມອ່ອນແອ." — John D. Lee & Katrina A. See, 2004

"ຜູ້ໃຊ້ເຕັມໃຈຍອມຮັບຄວາມຜິດພາດຂອງລະບົບເຖິງວ່າຈະມີຫຼັກຖານທີ່ໜັກແໜ້ນໃນທາງກົງກັນຂ້າມກໍຕາມ, ໂດຍເລືອກທີ່ຈະເຊື່ອການຕັດສິນໃຈຂອງເຄື່ອງຈັກຫຼາຍກວ່າຄວາມເປັນຈິງຂອງສະໜາມຮົບ." — ບົດລາຍງານຂອງຄະນະກຳມະການວິທະຍາສາດປ້ອງກັນປະເທດກ່ຽວກັບ Patriot Missile Fratricides, 2005

"ລູກເຮືອ 'ຫຼຸດອອກຈາກວົງຈອນ' ແລະ ບໍ່ສາມາດເຂົ້າໃຈວ່າລະບົບອັດຕະໂນມັດກຳລັງເຮັດບ້າຫຍັງຢູ່." — ການວິເຄາະປັດໄຈມະນຸດຂອງ FAA ກ່ຽວກັບຖ້ຽວບິນ 447, ອ້າງອີງໃນບົດລາຍງານ

"ຄຳແນະນຳຂອງ LLM ທີ່ຜິດພາດໄດ້ຫຼຸດຜ່ອນປະສິດທິພາບການວິນິດໄສຂອງແພດຢ່າງຫຼວງຫຼາຍໂດຍການກະຕຸ້ນໃຫ້ເກີດຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດ." — ການທົດລອງທາງຄລີນິກແບບສຸ່ມປີ 2025 ກ່ຽວກັບການວິນິດໄສດ້ວຍການຊ່ວຍເຫຼືອຈາກ AI

"ເມື່ອຄົນເລີ່ມສົງຄາມ, ພວກເຂົາບໍ່ໄດ້ເລີ່ມຕົ້ນດ້ວຍຈະຫຼວດພຽງ 5 ລູກ." — ພົນໂທ Stanislav Petrov, ອະທິບາຍການຕັດສິນໃຈຂອງລາວໃນການລົບລ້າງລະບົບເຕືອນໄພລ່ວງໜ້າທາງນິວເຄລຍຂອງໂຊວຽດ, 1983

17. ປະເດັນສຳຄັນທີ່ຄວນຈື່ (Key Takeaways)

1. ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດເປັນເລື່ອງສາກົນ ແລະ ຝັງຮາກເລິກ. ມັນເກີດຈາກກົນໄກປະສິດທິພາບທາງສະຕິປັນຍາທີ່ພັດທະນາມາເຊິ່ງຮັບໃຊ້ມະນຸດໄດ້ດີກ່ອນຍຸກເທັກໂນໂລຢີ—ແຕ່ສ້າງຄວາມອ່ອນແອທີ່ເປັນອັນຕະລາຍເມື່ອນຳໃຊ້ກັບລະບົບອັດຕະໂນມັດທີ່ບໍ່ສົມບູນແບບ.

2. ຄວາມຜິດພາດສອງປະເພດທີ່ກຳນົດຄວາມລຳອຽງນີ້: ຄວາມຜິດພາດຈາກການລະເລີຍ (ພາດບັນຫາເພາະລະບົບອັດຕະໂນມັດບໍ່ໄດ້ເຕືອນ) ແລະ ຄວາມຜິດພາດຈາກການກະທຳ (ປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດທີ່ຜິດພາດຢ່າງຕັ້ງໜ້າ). ຄວາມຜິດພາດຈາກການກະທຳເປັນໜ້າເປັນຫ່ວງຫຼາຍກວ່າ ເພາະມັນສະແດງເຖິງການຍອມຈຳນົນການຕັດສິນໃຈຢ່າງຈິງຈັງ.

3. ຄວາມໜ້າເຊື່ອຖືສ້າງຄວາມອັນຕະລາຍ. ຄວາມຂັດແຍ້ງກໍຄື: ຍິ່ງລະບົບອັດຕະໂນມັດມີຄວາມໜ້າເຊື່ອຖືຫຼາຍເທົ່າໃດ, ຄວາມຜິດພາດຂອງມະນຸດກໍຍິ່ງອັນຕະລາຍຫຼາຍຂຶ້ນເມື່ອລະບົບອັດຕະໂນມັດລົ້ມເຫຼວ. ຂໍ້ສັນນິດຖານ "ການສຳຮອງໂດຍມະນຸດ" ນັ້ນມີຂໍ້ບົກພ່ອງທາງຄະນິດສາດສຳລັບລະບົບທີ່ມີຄວາມໜ້າເຊື່ອຖືສູງ.

4. ຜົນສະທ້ອນຖືກບັນທຶກໄວ້ໃນປະຫວັດສາດ. ຕັ້ງແຕ່ເຄື່ອງບິນຕົກໄປຈົນເຖິງການຈຳຄຸກທີ່ຜິດພາດ, ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດໄດ້ສ້າງຄວາມສູນເສຍຕໍ່ຊີວິດ, ອິດສະລະພາບ ແລະ ເງິນຫຼາຍພັນລ້ານໂດລາ. ເຫຼົ່ານີ້ບໍ່ແມ່ນຄວາມສ່ຽງທາງທິດສະດີ.

5. ການຝຶກອົບຮົມພຽງຢ່າງດຽວບໍ່ພຽງພໍ. ການອອກແບບລະບົບສຳຄັນກວ່າກຳລັງໃຈຂອງບຸກຄົນ. ການສະແດງຄວາມເປັນໄປໄດ້, ການບັງຄັບທາງສະຕິປັນຍາ ແລະ ການອອກແບບຂັ້ນຕອນການເຮັດວຽກທາງສັງຄົມ-ເຕັກນິກ ມີປະສິດທິພາບຫຼາຍກວ່າການບອກໃຫ້ຄົນ "ພະຍາຍາມໃຫ້ໜັກຂຶ້ນ."

6. ຄວາມໄວ້ວາງໃຈຕ້ອງໄດ້ຮັບການປັບທຽບ, ບໍ່ແມ່ນເຮັດໃຫ້ສູງສຸດ. ເປົ້າໝາຍບໍ່ແມ່ນການບໍ່ໄວ້ວາງໃຈລະບົບອັດຕະໂນມັດ ແຕ່ແມ່ນການຈັບຄູ່ຄວາມໄວ້ວາງໃຈໃຫ້ເຂົ້າກັບຄວາມສາມາດຕົວຈິງ. ການເຂົ້າໃຈບໍ່ພຽງແຕ່ວ່າລະບົບເຮັດຫຍັງ ແຕ່ເຂົ້າໃຈວ່າມັນເຮັດວຽກແນວໃດ ແລະ ມັນລົ້ມເຫຼວຢູ່ໃສນັ້ນເປັນສິ່ງສຳຄັນ.

7. ຍຸກ AI ຂະຫຍາຍຄວາມສ່ຽງ. ໂມເດວພາສາຂະໜາດໃຫຍ່ສື່ສານຜ່ານພາສາທຳມະຊາດ, ກະຕຸ້ນກົນໄກຄວາມໄວ້ວາງໃຈທາງສັງຄົມທີ່ຝັງເລິກ. "ການຍອມຮັບພາບລວງຕາ" (Hallucination acceptance)—ການເຊື່ອໃນສິ່ງທີ່ຖືກສ້າງຂຶ້ນມາເຊິ່ງຟັງເບິ່ງຄືວ່າມີເຫດຜົນ—ເປັນຕົວແທນຂອງຮູບແບບໃໝ່ ແລະ ມີພະລັງຂອງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດທີ່ສັງຄົມຫາກໍ່ເລີ່ມຮັບມື.

18. ແຫຼ່ງຂໍ້ມູນເພີ່ມເຕີມ (Further Resources)

ເອກະສານທາງວິຊາການ

• Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991–1006.
• Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410.
• Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.
• Lyell, D., & Coiera, E. (2017). Automation bias and verification complexity: A systematic review. Journal of the American Medical Informatics Association, 24(2), 423–431.
• Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127.

ປຶ້ມ

• Parasuraman, R., & Mouloua, M. (Eds.). (1996). Automation and Human Performance: Theory and Applications. Lawrence Erlbaum Associates.
• Wickens, C. D., & Hollands, J. G. (2000). Engineering Psychology and Human Performance (3rd ed.). Prentice Hall.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Reason, J. (1990). Human Error. Cambridge University Press.
• Lee, J. D., Wickens, C. D., Liu, Y., & Boyle, L. N. (2017). Designing for People: An Introduction to Human Factors Engineering (3rd ed.). CreateSpace.

ບົດໃນປຶ້ມ

• Mosier, K. L., & Skitka, L. J. (1996). Human decision makers and automated decision aids: Made for each other? In R. Parasuraman & M. Mouloua (Eds.), Automation and Human Performance (pp. 201–220). Lawrence Erlbaum Associates.

19. ບັດສະຫຼຸບ (Summary Card)

20. ອະພິທານສັບທີ່ໃຊ້ (Glossary of Terms Used)

21. ຄຳຖາມສຳລັບການສົນທະນາ (Discussion Questions)

ສຳລັບຊົມລົມໜັງສື, ຫ້ອງຮຽນ ຫຼື ການສະທ້ອນຄວາມຄິດຂອງຕົນເອງ:

1. ບົດລາຍງານໂຕ້ແຍ້ງວ່າ "ຍິ່ງເຄື່ອງຈັກມີຄວາມໜ້າເຊື່ອຖືຫຼາຍເທົ່າໃດ, ຄວາມຜິດພາດຂອງຜູ້ປະຕິບັດງານທີ່ເປັນມະນຸດກໍຍິ່ງມີຄວາມເປັນໄປໄດ້ອັນຕະລາຍຫຼາຍຂຶ້ນເທົ່ານັ້ນ." ຄວາມຂັດແຍ້ງກັນນີ້ສາມາດແກ້ໄຂໄດ້ຫຼືບໍ່, ຫຼື ມັນເປັນຂໍ້ຈຳກັດໂດຍທຳມະຊາດຂອງການເຮັດວຽກຮ່ວມກັນລະຫວ່າງມະນຸດກັບລະບົບອັດຕະໂນມັດ?

2. Stanislav Petrov ສາມາດຕ້ານທານຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດໄດ້ສຳເລັດ ແລະ ອາດຈະປ້ອງກັນສົງຄາມນິວເຄລຍໄດ້. ຄຸນສົມບັດສ່ວນຕົວ, ການຝຶກອົບຮົມ ຫຼື ສະຖານະການໃດແດ່ທີ່ເຮັດໃຫ້ລາວສາມາດເຮັດແນວນີ້ໄດ້ ໃນຂະນະທີ່ຄົນອື່ນໆ (ເຊັ່ນ ຜູ້ປະຕິບັດງານ Patriot) ບໍ່ສາມາດເຮັດໄດ້?

3. ເລື່ອງອື້ສາວ Horizon ຂອງໄປສະນີອັງກິດ ສະແດງໃຫ້ເຫັນເຖິງຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດທີ່ຍັງຄົງຢູ່ເປັນເວລາ 15+ ປີໃນລະດັບສະຖາບັນ. ການປ່ຽນແປງທາງລະບົບອັນໃດແດ່ທີ່ຈຳເປັນເພື່ອປ້ອງກັນຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດໃນລະດັບສະຖາບັນທີ່ຄ້າຍຄືກັນນີ້ໃນອະນາຄົດ?

4. ເມື່ອໂມເດວພາສາ AI ມີຄວາມຊັບຊ້ອນຫຼາຍຂຶ້ນ, ພວກມັນສື່ສານຜ່ານຊ່ອງທາງຄວາມໝາຍດຽວກັນກັບທີ່ມະນຸດໃຊ້ເພື່ອຖ່າຍທອດຄວາມຈິງ. ສິ່ງນີ້ເຮັດໃຫ້ຄວາມລຳອຽງຕໍ່ລະບົບອັດຕະໂນມັດຂອງ AI ແຕກຕ່າງຈາກຮູບແບບກ່ອນໜ້ານີ້ຢ່າງສິ້ນເຊີງຫຼືບໍ່? ຍຸດທະສາດການຫຼຸດຜ່ອນທີ່ມີຢູ່ພຽງພໍຫຼືບໍ່?

5. ຄວນມີຄວາມຮັບຜິດຊອບທາງກົດໝາຍຫຼືບໍ່ ເມື່ອມະນຸດປະຕິບັດຕາມຄຳແນະນຳອັດຕະໂນມັດທີ່ຜິດພາດ? ພວກເຮົາຈະດຸ່ນດ່ຽງຄວາມຮັບຜິດຊອບລະຫວ່າງຜູ້ປະຕິບັດງານທີ່ເປັນມະນຸດ, ອົງກອນ ແລະ ຜູ້ຈຳໜ່າຍລະບົບອັດຕະໂນມັດແນວໃດ?