흥미돋 체르노빌이 터지기 2년 전에 대형 원전 사고들을 예견한 책 (feat.정상사고 이론)

[감정과다사용자]

출처: 여성시대 (감정과다사용자)
 

 
"대형 원전 사고가 아직 일어나지 않은 이유는 아직 그럴 만큼 충분한 시간이 지나지 않았기 때문이다.
우리가 대단히 운이 좋지 않는 한 향후 10년 안에 방사능 유출 사고가 1건 이상 발생할 것이다."
 
 

ㄷㄷ한 예견을 한 사람은 바로 사회학자 찰스 페로.
그의 책 '정상 사고'는 제목부터 묘함..

이 책이 쓰일 당시만 해도 사람들은 원전을 사고가 일어날 수 없는 안전한 기술이라고 믿고 있었음.
전문가들은 공개적으로 이런 말을 했다고 함 

-원전은 여러 겹의 안전장치가 있어서 중대 사고는 사실상 불가능하다
-설계상 그렇게 되지 않게 되어 있다

물론 불안한 사건이 아주 없었던 건 아님.
 
 

1979년 미국의 스리마일섬 원전사고. 
다행히 대형방사능 유출 참사는 아니었고 이 외에는 단 한건도 원전 사고가 없던 시기였음.
그래서 당시 사람들은 이를 예외적인 아찔한 사고로만 봤지만...찰스 페로는 이 사고를 완전히 다른 시각에서 봤음.
 
 
오히려 이런 복잡한 시스템은 사고가 안 나는 게 더 이상한 상태 라고 본거임. 
 
 

놀랍게도 13초 만에 모든 급격한 변화가 진행되었다.

13초 동안 잘못된 신호 때문에 복수 펌프에 문제가 생겼고, 비상 냉각을 위한 2개의 밸브가 정상 위치에서 벗어났고,
 압력 제어 밸브는 다시 닫히지 않았으며, 계기는 그 사실을 제대로 알리지 않았다.
 운용자들은 이러한 문제들을 하나도 인식하지 못했다. 

운용자들은 냉각 수위가 내려간 것과 터빈이 멈춘 것 사이의 상관관계를 확실히 파악하지 못했다. 
그들은 시스템의 복잡한 상호 작용 때문에 두 사건 사이의 밀접한 상관관계가 있다는 사실을 몰랐다. 

그리고 책이 나온지 불과 2년 뒤, 체르노빌 원자력 발전소 사고가 터졌음.
이후 2011년에는 후쿠시마 제1원자력발전소 사고까지 발생하면서 그의 경고가 들어맞은 셈..
실제로 후쿠시마 사고 이후 페로는 <후쿠시마와 터질 수밖에 없는 사고>라는 글을 쓰기도 했다고 함.
 

"그럼 이 사람이 말한 '정상사고'란 게 뭔데??" 🤔
 
 
정상사고는 '복잡하고 긴밀하게 연결된' 시스템에서 필연적으로 발생하는 사고라고 함!
 
시스템이 일정 수준 이상으로 복잡해지면 각 요소들이 너무 촘촘하게 얽혀 있어서, 사람이 아무리 조심하고 또 조심해도 예상 못 한 사고가 터질 수밖에 없다는 얘기임.
 
그래서 페로는 이런 대형사고를 그냥 운 나쁜 예외적 사고가 아니라, 사람이 늙고 병들어 죽는 것처럼~ 복잡한 시스템 안에서 언젠가는 일어날 수밖에 없는 '정상적인 사고'라고 보고 있음 ㄷㄷ 매우 파격적이지..
 

여기서 이런 의문이 들 수도 있음.
 
"체르노빌 원전은 원래부터 부실하지 않았어?"
"운용자가 실수 한거 아냐?"
 
 
우리는 사고가 나면 보통 '그래서 누가 잘못했냐'부터 찾기 시작함.
사고 원인을 따지면 다 맞음. 근데 페로는 거기서 멈추지 말고 전체 시스템을 보자고 말함.
왜 그런 실수와 결함이 시스템 안에서 계속 쌓였는지, 왜 아무도 그 위험을 전체적으로 알아차리지 못했는지를 봐야 한다는 거임.
 

우리도 살면서 별 상관 없어 보이던 악재들이 이상하게 한꺼번에 겹치면서 하루가 완전히 망해버린 경험이 있을 거임ㅠ
정상사고 이론도 비슷함.
 
어떤 사고는 특정 개인 하나의 실수로 설명할 수 없음. 

평소에는 별거 아니었던 작은 문제들이 하필 너무 연달아, 너무 재수없게 겹치기도 하기 때문임. 
 

(이 부분은 '스위스 치즈 이론'이랑도 비슷)

드라마 체르노빌의 한 장면

 
그리고 정상사고가 진짜 무서운 지점도 여기에 있음.
우리는 일상에서 재앙이 닥친 순간, "아... 늦잠 잤는데 하필 버스가 파업하고 택시까지 안 와서 결국 지각하네ㅠ"라는 식으로 사고가 난 흐름과 원인을 이해함.

근데 대형 정상사고는 다름.
사고가 벌어지는 그 순간엔 아무도 전체 그림을 모름.
참사가 일어나고 있는데 왜그런지 아무도 몰라..ㄷㄷ
 

왜냐하면 시스템이 너무 복잡하고, 각자 관련 없어보이는 요소들이 긴밀하게 연결 되어있기 때문임..
그래서 하나를 막으면 다른 데서 터지고, 그걸 막으려다 또 다른 문제가 생김.
그리고 나중에 조사가 다 끝나고 나서야 "아..이게 이렇게 연결돼 있었네..." 하게 되는 것..
 
 

"그럼 안전장치를 더 추가하면 되잖아?"
 
 
N O O o o  。  . . . 　　
시스템의 복잡성 증가 = 사고 확률 업!

복잡한 고위험 산업에서 사고를 막겠다고 다른 시스템을 계속 덧붙이면, 사고 가능성이 0으로 수렴하는 게 아니라 시스템의 복잡성만 더 증가한다고 함
즉, 안전을 위해 넣은 장치가 오히려 새로운 사고 가능성을 만드는 상황이 생긴다는 거임;;
 

 
찰스 페로는 "기술을 계속 보강하면 언젠가 완벽하게 안전해질 것"이라는 믿음 자체를 부정함.
왜냐하면 어떤 시스템은 관리만 잘하면 안전해지는 물건이 아니라,
구조적으로 사고를 품고 있는 존재라고 보기 때문.
 
 

 
잠깐 짚고 넘어가면 모든 대형참사가 다 '정상사고(시스템 사고)'이론에 속하는건 아님. 
정상사고에는 중요한 조건이 두 개 있다고 합니둥
 
1.첫 번째는 '복잡한 상호작용'
시스템 안의 요소들이 너무 많이 얽혀 있어서, 원인과 결과를 즉시 파악하기 어려운 상태.
 
2.두 번째는 '긴밀한 결합'
하나가 틀어졌을 때 중간에 멈출 틈 없이 바로 다음 단계로 연쇄적으로 넘어감.
 
  

 
"그럼 고위험 시스템은 뭘 어떻게 해야되는건데??"🤷‍♀️
 
 

페로의 대답은 이럼.
[ 언제 일어날지 모르는 위험을 안고 살거나, 해당 기술을 포기하거나, 아니면 근본적으로 재설계해야 한다.]
 
례..그럴 수밖에 없긴 하네요..
 
 

덤으로 페로는 대중의 불안을 무시하는 태도도 비판함.
많은 합리적 전문가들은 불안해하는 대중들에게 이렇게 말함.

"확률상 안전합니다."
"일반인이 과도하게 불안해하고 있어요." 🧐

근데 페로는 대중의 공포감은 지극히 합리적인 것이라고 얘기함
자신이 선택하지 않은, 통제하지 못하는 위험성에 대한 불안은 당연하다는것임.. 
대중이 불안해하는 이유는 확률 계산을 못 해서가 아님.
사람들이 느끼는 불안은 이런 거임.
 

-내가 그 위험을 거부할 수 있나?
-사고가 나면 피해가 얼마나 커지나?
-그 피해를 내가 떠안게 되나?
-결정권은 누가 쥐고 있는가?
 

각종 산업에 대한 불안은 자기 인생에 영향을 주는 위험에 대해 아무런 결정권이 없기 때문이라는것임
그래서 대중의 불안을 무지, 비이성으로 치부하면 도움이 안된다고 한닭.
 
 

한국 출판 ver

참사는 쉽게 일어나지 않는다. 모든 요소가 적절하게 맞물려서 부정적인 시너지를 일으켜야만 참사가 발생한다.
그렇기 때문에 권력자들은 위험한 시스템을 서슴지 않고 늘려간다.

-무엇이 재앙을 만드는가?  

 
책에는 챌린저호 폭발 사고도 나오고 항공, 선박 사고 등의 다양한 사례들과 시스템 사고(정상사고)는 아니지만 시사점이 큰 사고들도 많이 다룸.

읽어볼 만하긴 한데.. 설명이 상당히 길고 지루해서 대형사고 분석 자체에 흥미 없으면 비추ㅋㅋㅠ
이 책 이후로 정상사고를 다룬 연구들이 많이 나왔다고 하니까 아마 관련 책들도 꽤 있을 거 같음
 
 
이 이론이 흥미로운 건 일상 속에도 정상사고처럼 생각해볼 만한 사고들이 있다는 점 같음
요즘엔 AI도 점점 인간이 전체 작동 방식을 이해하기 어려운 복잡한 시스템이 되어가고 있다고 하잖음..그래서 이 이론이 문득 생각났음

실제로 일부 사람들은 페로의 정상사고 이론을 ai에 적용해보기도 하는 거 같아 꽤 흥미로웠음
이게짅자라멶ㄷㄷ AI 사고 역시 아직 크게 터지지 않은 이유는.. 아직 그럴 만큼 충분한 시간이 지나지 않았기 때문일 수도..아닐수도?ㅋㅋ

 
어,,,아무튼 이런 이론이 있슴다,,
 
 
끝

[오로지]

와 흥미롭다 글 고마워 여시

[하리보리하]

오 너무 신기하다..... 똑똑여시 고마워!!!

[영하 77도]

으악 흥미롭다가 마지막에 무서워

[빨간차마스터]

재밌다 책 읽어봐야겠어..

[De’Longhi]

ai로 발생할 재난은 머가 있을까

[나무심자]

와 흥미돋 고마워!!!!

[새빨간볼빨기]

ㄹㅇ 흥미돋이다 좋은글 고마워!!!

[어쩜 매일그렇게 기특해]

오 너무 좋은글이다.
Ai가 초지능이될경우 의료문제에 대한 답을
[문제의 원인이 되는 인류의 존재를 삭제하는것이 합리적이다.
라는 결론이 나왔다는거야]
하루가 다르게 ai자율화 되는세상인데 어느날부터는 살인마가 아니라 ai판단에 의한 타살자가 일어나지 않을까
<경제 환경발전을 위한 인류감소system> 뭐 이런식으로 으흑흑

[댕댕견]

흥미롭다 진짜 복잡하고 대비되어서 더 못막는다는게

[하암품]

와 여시야 고마워 뮤슨 비문학 읽는 것처럼 주르륵 읽었다

[just do it now]

너무 흥미로워 이런 새로운관점 뚫어주는거 넘좋음 너무잘봤어 책도함봐봐야지

[너무더워요정말요]

너무 흥미롭다..

[특별한기적을기다리지마]

존나 무섭다...

[니 뉘 기 야]

엥!?!? 책 일고싶어서 검색했는제 절판ㅠ

[감정과다사용자]

저도 도서관에서 빌려 읽엇다죠,, 근데 그것도 따로 보관하고 있어서 한참 찾다 사서한테 물어봄ㅠ

[니 뉘 기 야]

아 나 이런 책 좋아하는데
여시 약간 이런 잼난 책 더 추천해줄 수 있어!?
이거 찾아보고 도서관에서 빌려서 읽어봐야겠다
도서관에서 빌렸어~~~ 진짜 없는데 운 좋게 동네도서관에 딱 1권있었어

[감정과다사용자]

다행이다! 확 땡길 때 봐야 재밌지ㅋㅋ
음... 사고를 다룬 책은 저거 하나밖에 안 읽어본 듯? 근데 읽으면서 오와..😲싶었던건 감정은 어떻게 만들어지는가(감정은 우리가 만든 개념), 암컷들(남과학자들 편견땜에 가려진 실제 동물 이야기), 호모 데우스(인간의 자유의지 부분이ㄷㄷ) 정도 생각남..팩트풀니스도 비슷한 분석 계열 같고..블랙 스완도 추천받았는데 아직 못 읽어봤는데 비슷할듯ㅋㅋ

[니 뉘 기 야]

1. 감정은 어떻게 만들어지는가
2. 암컷들
3. 호모 대우스
4. 팩트풀니스
5. 블랙 스완

여기서 아는 게 암컷들뿐인데 너무 재밌겠다 도장깨기해야지🤭 고마워 여샤
글 너무 재밌다 많이 써서 존잼이야기 많이 알려줘😆

[프루팁스8]

와 여시 요약 진짜 잘한다 잘읽었어

[감정과다사용자]

[밀크블랙티 짱맛잇어]

헥 흥미롭다

[검토하기]

롸..

[지옥페미대장]

와 흥미돋이다 글 고마워 여시!

[튀소삼형제]

헐 너무 재밌고 흥미로운글...

[All mine]

와 진짜 말머리에 맞는 글이다.. 재밌어

[왁구와구왁]

겁나 흥미로워 고마워 여샤

[예쁜이]

오!! 신기하다

[잠이라도익절해야지]

오오 흥미롭다

[너구릐]

넘 재밌다

[뉴찜스]

재밌다! 무섭기도하고ㅜ..?

[도토도톰]

너무 흥미롭다 고마워

[대충살자대충이]

와재밌다

[해외인프피]

우와!!!!

[pqlsmdnbd]

와 진짜 흥미롭다.. 저 책도 함 보고 싶다 절판 돼서 아쉽네ㅠㅠㅠ

[Green hexagon]

AI 업계에서 일하는데 무조건 사고 날거야 ㅎ … 이 글 보고 사회학적으로 생각하니 더 확신이 든다

[404 the new eraera]

무섭다...ai로 인한 사고는 과연 어떤 사고일까..

[서율여행]

존잼... 잘 읽고 갑니다 !

[릴렉]

진짜재밌다.. 오늘 업무 할때 내가 한 작업에대해서 진단할 수 있는 계기가됨.. 좋은글 고마워

[너너뉘기야]

오...맞네 오히려 너무 촘촘해서 사고가 터질 수밖에

각종 산업에 대한 불안은 자기 인생에 영향을 주는 위험에 대해 아무런 결정권이 없기 때문이라는것임
그래서 대중의 불안을 무지, 비이성으로 치부하면 도움이 안된다고 한닭 👈왜 불안할까? 싶었는데 결정권이 없기 때문이네...맞네ㅠ 나한테 영향은 주는데 결정권은 없고

진짜 흥미로운 글이다. 잘 읽었어 여시!

[안챠]

오… 흥미로운이론 좋다 고마워

[곰브리치야 내 이름 적어둬라]

오…흥미롭다

[좆된 여시]

진짜 개흥미돋,,

[닷냥커플]

와 근데 타당하다. 복잡하고 긴밀할수록 완전함을 추구하지만 또 그만큼 사고가 일어날 가능성이 높아진다는게!! 상반되는 문장 같지만!!