มนุษย์ไม่รู้ว่าระบบมีรูโหว่ จนกระทั่งทุกรูเรียงตรงกัน!

เวลาที่เกิดหายนะครั้งใหญ่ในรูปแบบที่ดูเผิน ๆ แล้วมันไม่ควรจะเกิดขึ้น ไม่ว่าจะเป็นอุบัติเหตุ เพลิงไหม้ เครื่องบินตก ระบบล่ม หรือแม้แต่ปัญหาบางอย่างในองค์กร คำถามหนึ่งที่มักจะเกิดขึ้นตามมาด้วยน้ำเสียงตำหนิก็คือ “ทำไมถึงไม่มีใครป้องกันก่อน?” หรือ “ทำไมถึงรอให้วัวหายก่อนแล้วค่อยล้อมคอก?” ทำให้สิ่งที่เกิดขึ้นถูกมองว่าเป็นผลลัพธ์ของความประมาท ชะล่าใจ ละเลย หรือมองข้ามสัญญาณเตือนบางอย่างที่มีให้เห็นอยู่ทนโท่ตั้งนานแล้ว

ทั้งที่ในความเป็นจริง การล้อมคอกก่อนที่วัวจะหาย อาจเป็นเรื่องท้าทายอย่างหนึ่งของมนุษย์ มนุษย์ไม่ได้มีความสามารถในการมองเห็นทุกความเสี่ยงล่วงหน้า ดังนั้น เรื่องเลวร้ายจำนวนมากจึงไม่ได้เกิดขึ้นเพราะมนุษย์ “ไม่สนใจ” แต่เกิดจากการที่มนุษย์ “ยังมองไม่เห็น” ว่าระบบนั้นมีรูรั่วหรือช่องโหว่ตรงไหนต่างหาก เพราะตราบใดที่ทุกอย่างยังคงดำเนินต่อไปได้โดยไม่เกิดปัญหา มนุษย์มักจะเชื่อว่าระบบนั้นยังปลอดภัย แม้ว่าภายในจะเต็มไปด้วยรอยร้าวเล็ก ๆ ที่สะสมอยู่ตลอดเวลาก็ตาม

ที่สำคัญ ข้อเท็จจริงอย่างหนึ่งเกี่ยวกับมนุษย์คือ “มนุษย์เรียนรู้โลกจากประสบการณ์และความผิดพลาด ตราบเท่าที่ยังไม่มีอะไรเกิดขึ้น มนุษย์อาจจะไม่มีทางรู้ได้เลยว่าสิ่งนั้นจะกลายเป็นปัญหา” ดังนั้น อาจพูดไม่ได้เต็มปากว่า มนุษย์มักจะรอให้เกิดเรื่องจนพังก่อนที่จะแก้ไข เพียงแต่มันเป็นข้อจำกัดที่มนุษย์ยังมองไม่เห็น

เพราะ “หายนะ” มักซ่อนอยู่ในสิ่งที่ดูธรรมดา

หากลองสังเกตดู จะพบว่าก่อนเกิดหายนะ ทุกอย่างมักดูปกติเหมือนทุกวันที่ผ่านมา ระบบทุกอย่างยังคงเดินต่อ เครื่องจักรยังคงทำงาน ผู้คนก็ยังใช้ชีวิตเหมือนเดิม ไม่มีสัญญาณเตือนรุนแรง ไม่มีภาพของความพินาศให้เห็นล่วงหน้า สิ่งที่มีอยู่ อาจเป็นเพียงปัญหาเล็ก ๆ ที่กระจัดกระจายอยู่ทั่วระบบ ซึ่งส่วนใหญ่มันก็ดูเล็กเกินกว่าที่จะสร้างผลกระทบใหญ่โตได้ด้วยตัวของมันเอง หรืออีกนัยหนึ่ง มันเล็กเสียขนาดที่มนุษย์ไม่ได้รู้สึกว่ามันเป็นปัญหาด้วยซ้ำ

มีทฤษฎีหนึ่งที่เป็นที่รู้จักในวงการจัดการความเสี่ยง ชื่อว่า Swiss Cheese Model หรือทฤษฎีเนยแข็งสวิสของ James Reason นักจิตวิทยาชาวอังกฤษ เป็นทฤษฎีที่ใช้อธิบายลักษณะของหายนะเหล่านี้ได้อย่างชัดเจน และช่วยให้เราได้เห็นภาพความจริงแจ่มแจ้งขึ้น แนวคิดดังกล่าวเปรียบเทียบกลไกต่าง ๆ ในระบบงาน ไม่ว่าจะเป็นคน หรือเครื่องมืออะไรก็ตาม เหมือนชีสหลายแผ่นที่วางซ้อนกัน แต่ละแผ่นมีความพรุนและ “รูโหว่” ของตัวเอง ซึ่งรูโหว่เหล่านี้เปรียบเสมือนความผิดพลาดเล็ก ๆ น้อย ๆ ที่เกิดขึ้นเป็นปกติในทุกระบบ บางรูเกิดจากความผิดพลาดของมนุษย์ บางรูเกิดจากระบบที่ล้าสมัย บางรูเกิดจากกฎระเบียบที่ไม่รัดกุม หรือบางรูก็เกิดขึ้นจากความหย่อนยานของวินัยที่ทำต่อเนื่องมานานจนไม่มีใครตั้งคำถาม หรือมองว่ามันเป็นเรื่องที่ควรต้องมาสังคายนากันใหม่

อย่างไรก็ตาม โดยปกติแล้ว รูโหว่เหล่านี้จะไม่เรียงตรงกัน ต่อให้มีข้อผิดพลาดบางอย่างเกิดขึ้น ระบบก็ยังสามารถป้องกันไม่ให้ความเสียหายทะลุผ่านไปได้ทั้งหมด พูดง่าย ๆ ก็คือ ตราบใดที่รูโหว่บนแผ่นชีสแต่ละแผ่นไม่ได้เรียงตัวตรงกัน หายนะก็จะยังไม่เกิดขึ้น เราจะยังคงใช้ชีวิตต่อไปอย่างมั่นใจว่า “ทุกอย่างยังปลอดภัยดี” ในเมื่อไม่มีอะไรพังลงมา เราก็แทบจะไม่มีทางรู้เลยว่าชีสเหล่านั้นมีรูโหว่ซ่อนอยู่มากแค่ไหน ดังนั้น ปัญหาในระดับหายนะจะเกิดขึ้นทันที เมื่อรูโหว่จากชีสหลายชั้นเกิดเรียงตัวตรงกันพอดี จนทำให้ความผิดพลาดสามารถทะลุผ่านทุกระบบป้องกันออกมาได้ และเมื่อถึงจุดนั้น โศกนาฏกรรมก็จะเกิดขึ้นอย่างหลีกเลี่ยงไม่ได้

สิ่งน่าสนใจก็คือ รูโหว่จำนวนมากที่เห็นอยู่แล้วว่ามี ไม่เคยถูกมองว่า “เป็นอันตราย” ตั้งแต่แรก เพราะหลายอย่างดูไม่มีอะไรผิดสังเกต บางปัญหาเคยเกิดขึ้นมาก่อนแต่ก็ไม่เคยสร้างความเสียหายร้ายแรง บางขั้นตอนอาจถูกละเลยเล็ก ๆ น้อย ๆ จนกลายเป็นความเคยชิน หรือบางเรื่องก็อาจจะไม่เคยมีใครคิดเลยว่ามันจะสามารถปะทุไปสู่หายนะได้

มนุษย์อาจจะไม่ได้เพิกเฉยกับปัญหา เพียงแต่ไม่รู้ว่ามันจะเป็นปัญหา

มนุษย์อาจจะไม่ได้เพิกเฉยต่อปัญหาเสมอไป แต่สมองของมนุษย์มีแนวโน้มที่จะเชื่อว่า “ถ้าที่ผ่านมาไม่เคยเกิดอะไรขึ้น อนาคตก็คงไม่เกิดเช่นกัน” นั่นทำให้เราตีความความผิดปกติให้กลายเป็นเรื่องธรรมดา ชินชา จนไม่รู้สึกว่ามันต้องแก้ไข ซึ่งตราบใดที่ระบบยังทำงานได้อยู่ ความเสี่ยงจำนวนมากจึงถูกซ่อนเอาไว้ภายใต้ภาพลวงตาของคำว่า “ปกติดี”

อย่างไรก็ดี เมื่อเกิดเหตุร้ายขึ้นแล้ว ทุกอย่างจะดูชัดเจนไปหมด ผู้คนจึงเริ่มมองย้อนกลับไปมองเห็นว่านั่นคือสัญญาณเตือน นี่คือช่องโหว่ หรือเรื่องนี้ “น่าจะป้องกันได้ตั้งนานแล้ว” ทั้งที่ในความเป็นจริง ก่อนที่ระบบจะพังลงจนเกิดหายนะ ไม่มีใครเห็นภาพทั้งหมดพร้อมกันได้อย่างชัดเจน ด้วยปัญหาเล็ก ๆ ในแต่ละจุดล้วนอยู่แบบกระจัดกระจาย รวมถึงไม่ได้ดูร้ายแรงมากพอจะที่สร้างหายนะได้เพียงลำพัง นี่จึงเป็นเหตุผลว่าทำไมมนุษย์ถึงมักจะเรียนรู้โลกจาก “ความผิดพลาด” มากกว่าสิ่งที่ยังทำงานได้อยู่ เพราะเมื่อระบบพังลง ความเสียหายจะช่วยเปิดเผยให้เห็นว่าจุดอ่อนอยู่ตรงไหน อะไรคือปฏิกิริยาลูกโซ่ที่เกิดขึ้นแบบโดมิโน และรูใดบ้างที่เชื่อมถึงกัน

ดังนั้น สิ่งที่ต้องรู้ก็คือ ไม่มีระบบใดบนโลกที่สมบูรณ์แบบ หรือปราศจากช่องโหว่โดยสิ้นเชิง ทุกระบบล้วนมี “รูโหว่” ซ่อนอยู่เสมอ เพียงแต่ในวันที่ทุกอย่างยังดำเนินต่อไปได้ เรามักจะไม่รู้ว่ารูเหล่านั้นอยู่ตรงไหน และมันอาจก่อให้เกิดอันตรายเพียงใด การล้อมคอกที่ชาญฉลาด จึงไม่ใช่การพยายามจะปิดทุกรู แม้แต่รูที่เรายังมองไม่เห็น นั่นเป็นเรื่องที่เป็นไปไม่ได้และไร้ประสิทธิภาพ เพียงแต่ต้องตระหนักให้มากขึ้น เมื่อเกิดความผิดพลาดขึ้นจนผ่านรูใดรูหนึ่งของชีส ก็ให้เริ่มจากการอุดรูนั้นก่อน นี่อาจเป็นวิธีการที่ดีที่สุดในการใช้บทเรียนที่เจ็บปวดน้อยที่สุดมาทำให้ระบบแข็งแกร่งขึ้นทีละนิด ๆ

แล้วทำไมเราถึงมองไม่เห็น “ความเสี่ยง” ตั้งแต่แรก

อีกประเด็นที่น่าตั้งคำถามก็คือ ในเมื่อชีสทุกแผ่นมีรูโหว่ และมีโอกาสที่รูนั้นจะขยับมาตรงกันทุกรู แต่ทำไมถึงไม่มีใครมองเห็นถึงความเสี่ยงที่อาจเกิดขึ้น สิ่งที่เป็นไปได้ก็คือ

• มนุษย์มักตีความความเสี่ยงจาก “ประสบการณ์เดิม” มนุษย์ไม่ได้ประเมินโลกจากความเป็นไปได้ทั้งหมด แต่ประเมินจากสิ่งที่คุ้นเคย สิ่งที่เคยเกิดขึ้น และสิ่งที่สมองรู้สึกว่า “ไม่น่าอันตราย”
  • ความคุ้นชินที่บิดเบี้ยว คิดว่าทุกอย่างจะยังคงปกติ อธิบายง่าย ๆ ก็คือ มนุษย์มีแนวโน้มจะเชื่อว่า “ที่ผ่านมาไม่เคยเกิดอะไร แปลว่าอนาคตก็คงไม่เกิด” เลยมองสัญญาณอันตรายว่าเป็นเรื่องธรรมดา หรือคิดว่า “คงไม่เป็นไรหรอก ที่ผ่านมาก็ไม่เห็นเป็นไร” เมื่อความเสี่ยงถูกเปลี่ยนสถานะให้กลายเป็น “เรื่องปกติที่ไม่น่าจะอันตราย” ในชีวิตประจำวัน กระทั่งเมื่อเกิดหายนะ ถึงจะยอมรับว่ามันคือปัญหา และเริ่มตระหนักว่า “มันเป็นปัญหามาตลอดนี่นา”
  • ความชาชินกับปัญหาที่ค่อย ๆ แย่ลง ใช้อธิบายว่า ถ้าปัญหา “ค่อย ๆ เพิ่มระดับทีละนิด” คนจะไม่รู้สึกว่ามันอันตราย เพราะการเปลี่ยนแปลงอย่างค่อยเป็นค่อยไป ทำให้สมองปรับตัวจนชินแทนที่จะเตือนภัยให้ระวัง
  • มนุษย์ประเมินความเสี่ยงจาก “ภาพจำ” มนุษย์มักสร้างความเข้าใจโลกจาก “สิ่งที่เคยเกิด” ในเมื่อมันไม่เคยเกิดขึ้น หรือไม่เคยปรากฏความเสียหายร้ายแรงให้ได้เห็น มนุษย์ก็จะ “ไม่เคยเห็น” ผลลัพธ์ร้ายแรงด้วยตาตัวเอง สมองจะประเมินว่านี่คือความเสี่ยงต่ำ แต่พอเกิดเหตุใหญ่ขึ้นมา ภาพมันชัดในหัวทันที แล้วหลังจากนั้นถึงจะลุกขึ้นมาทำอะไรจริงจัง ดังนั้น หายนะจำนวนมากในหน้าประวัติศาสตร์ คือสิ่งที่ “ไม่เคยเกิดมาก่อน”
  • ความลำเอียงว่าตัวเองจะรอด มนุษย์มีความลำเอียงในการมองโลกในแง่ดีเกินไป มักคิดว่า “เรื่องร้าย ๆ คงไม่เกิดขึ้นกับตัวเอง”
  • มนุษย์ชอบการคงสภาพเดิม มนุษย์มีแนวโน้มที่จะให้คุณค่ากับ “ความสบายในปัจจุบัน” มากกว่า “ความเสี่ยงในอนาคต” ที่สำคัญ การแก้ปัญหาต้องใช้พลังงาน ใช้เงิน ใช้เวลา และอาจกระทบกับความสบายเดิม เลยเลือกที่จะไม่ทำอะไรเพื่อป้องกัน “สิ่งที่อาจจะเกิด” สมองเลยเลือกที่จะผัดวันประกันพรุ่งไปก่อน “ถ้าไม่มีอะไรเสียหาย ก็ไม่เห็นต้องรีบแก้” จนกระทั่งความเสียหายจริงเกิดขึ้น
• สมองมนุษย์มีข้อจำกัดในการมองเห็นปัญหา ต่อให้มนุษย์พยายามระวังมากแค่ไหน แต่สมองของเราก็ไม่ได้สามารถมองเห็นทุกความเป็นไปได้บนโลกพร้อมกันได้อยู่ดี
  • สิ่งที่เราไม่รู้…ว่าเราไม่รู้ แนวคิดนี้มาจากทฤษฎีการบริหารความเสี่ยงและหน้าต่างของความรู้ อธิบายว่าความเสี่ยงในโลกนี้ถูกแบ่งเป็น 4 ระดับ แต่ระดับที่น่ากลัวที่สุดก็คือ Unknown Unknowns คือเราไม่มีทั้งข้อมูล และไม่เคยเอะใจมาก่อนเลยในชีวิตว่าสิ่งนี้มันจะเกิดขึ้นได้ และด้วยสมองมนุษย์ประมวลผลข้อมูลได้จำกัด จึงไม่สามารถจินตนาการถึงความเสี่ยงทุกรูปแบบบนโลกได้ โดยเฉพาะสิ่งที่เราไม่เคยรู้ว่ามันมีอยู่จริง
  • สมองของมนุษย์มีข้อจำกัด สมองมนุษย์ไม่สามารถประมวลผลทุกตัวแปรได้พร้อมกัน เรามีข้อจำกัดทั้งด้านข้อมูล เวลา และความสามารถในการคาดการณ์ นั่นทำให้บางครั้ง ต่อให้เราพยายามวิเคราะห์จุดต่าง ๆ เพื่อหารอยรั่วและอุดมันแค่ไหน สมองเราก็เก็บตัวแปรได้ไม่ครบ 100% อยู่ดี
  • ปัญหาจะชัดเจน ก็ต่อเมื่อมันเกิดขึ้นแล้ว เพราะก่อนเกิดปัญหาใหญ่ขึ้นจริง ๆ ปัญหาเล็ก ๆ หรือสัญญาณเตือนมักกระจัดกระจาย คลุมเครือ และตีความได้หลายแบบ ดังนั้น เมื่อรู้ผลลัพธ์แล้ว สมองถึงจะเริ่มปะติดปะต่อภาพย้อนหลังให้มันชัดเจนมากขึ้น
  • วงจรการตอบสนองเชิงรับ มนุษย์จำนวนมากขับเคลื่อนด้วยการรอให้มีสัญญาณสะท้อนกลับเชิงลบมากระตุ้นก่อนที่จะขยับตัวทำอะไร ตราบใดที่ยังไม่มีระบบชี้วัดความเสี่ยงที่ดีพอ สัญญาณเดียวที่จะปลุกให้มนุษย์ตื่นได้ก็คือ “ความเสียหายที่เกิดขึ้นจริง” เท่านั้น
• บางครั้ง ปัญหาไม่ได้อยู่ที่มนุษย์ แต่อยู่ที่ “ความซับซ้อนของระบบ” ในหลายกรณี หายนะไม่ได้เกิดจากความผิดพลาดของคนใดคนหนึ่ง แต่มาจากการที่ข้อผิดพลาดเล็ก ๆ หลายจุดเชื่อมต่อกันจนเกินกว่าที่ใครจะมองเห็นทั้งหมดได้พร้อมกัน
  • ระบบจะเผยจุดอ่อน ตอนที่มันล้มเหลว “ความล้มเหลว” คือข้อมูลที่ทำให้รู้ว่าระบบมีปัญหา แนวคิดนี้อธิบายว่า หลายครั้งมนุษย์ไม่ได้รอให้ระบบพัง แต่เราจำเป็นต้องเห็น “รูปแบบของความพัง” ก่อน ถึงจะเข้าใจปัญหา
  • ความซับซ้อนของระบบ ในระบบที่มีความซับซ้อน ปัญหาบางอย่างไม่ใช่ความผิดของใครคนใดคนหนึ่ง แต่มันเป็น “อุบัติการณ์เชิงระบบ” ที่รูรั่วของทุกจุดมาบรรจบกันพอดีในจังหวะที่บังเอิญ (โชคร้าย) ที่สุด
  • มนุษย์รู้จักโลกเพราะความผิดพลาด บางระบบหรือบางสิ่งในโลก ไม่สามารถพัฒนาให้สมบูรณ์แบบได้ด้วยการ “จินตนาการคิดวิธีป้องกัน” แต่มันต้องเรียนรู้ผ่านความผิดพลาด ดังนั้น ถ้าระบบไม่เคยพัง เราก็จะไม่รู้ว่าขีดจำกัดสูงสุดหรือจุดเปราะบางที่แท้จริงของระบบอยู่ตรงไหน

กล่าวโดยสรุปก็คือ “บางครั้ง” การที่มนุษย์ไม่ป้องกันก่อนเกิดเรื่อง ไม่ใช่เพราะเราประมาท แต่เป็นเพราะเราจะมองเห็นความเสี่ยงก็ต่อเมื่อมันปรากฏให้เห็นอย่างเป็นรูปธรรมแล้วเท่านั้น

เมื่อหายนะกลายเป็น “สปอตไลต์” ที่ทำให้เห็นว่าแท้จริงแล้วมีปัญหาซ่อนอยู่มากแค่ไหน ในวินาทีที่เกิดความผิดพลาดครั้งร้ายแรง นั่นไม่ใช่จุดจบของปัญหาทุกอย่าง แต่เป็นจุดเริ่มต้นของการแก้ปัญหา เพราะหายนะที่เกิดขึ้น มันได้คือสปอตไลต์ที่ส่องผ่านรูชีสที่เรียงตัวกันพอดี และเฉลยให้เราเห็นพิกัดที่แม่นยำที่สุดว่า “จุดอ่อนของระบบอยู่ตรงไหน” ดังนั้น ในหลาย ๆ กรณี หายนะที่เกิดขึ้น แม้จะมีความสูญเสียที่ไม่มีใครอยากให้เกิด แต่มันก็ทำหน้าที่เป็นข้อมูลที่มีค่ามากที่สุดที่มนุษย์จะหาได้ ทั้งในแง่ของมูลค่าความเสียหาย และคุณค่าของชีวิตที่ไม่อาจประเมินราคา ว่ารูรั่วที่แท้จริงในระบบนั้นคืออะไร อยู่ที่ใด และทำให้คุณเห็น “จุดบอด” ที่แม้แต่ผู้เชี่ยวชาญด้านการจัดการความเสี่ยงระดับโลกก็ไม่มีวันมองเห็นได้จากในหน้ากระดาษ

ดังนั้น หายนะที่เกิดขึ้นตามทฤษฎี Swiss Cheese Model จึงไม่ใช่แค่เรื่องของความประมาทเท่านั้น เพราะในอีกมุม มันคือข้อจำกัดของมนุษย์ที่ไม่สามารถที่จะมองเห็นปัญหาที่ยังไม่เคยเกิดขึ้นได้ โศกนาฏกรรมจำนวนมากจึงไม่ได้เกิดจากความผิดพลาดใหญ่เพียงครั้งเดียว แต่เกิดจากข้อผิดพลาดเล็ก ๆ ที่ค่อย ๆ สะสมอยู่ในระบบ จนในวันหนึ่งที่ทุกอย่างมันเรียงตัวตรงกันพอดี อย่างไรก็ตาม สิ่งที่น่ากลัวที่สุด อาจไม่ใช่การมีช่องโหว่มากมายในระบบ แต่คือการที่มนุษย์เริ่มคุ้นชินกับรอยร้าวเล็ก ๆ เหล่านั้น จนมองว่ามันเป็นเรื่องธรรมดาไปแล้วต่างหาก และนั่นอาจหมายความว่าเราไม่คิดที่จะเริ่มอุดช่องโหว่ใด ๆ เลย