트롤리 딜레마(Trolley Dilemma), 다섯 명을 살리기 위해 한 명을 희생해도 되는가?

브레이크가 고장 난 기차가 달리고 있습니다.

선로 위에는 다섯 명의 인부가 서 있고
기차가 선로를 바꾸지 않으면 이 다섯 명이 죽게 됩니다.
만약 기차가 선로를 바꾸면 다섯 명은 살지만
바꾼 선로 위에 서 있는 어떤 한 명이 죽게 됩니다.
이때 당신은 어떤 선택을 하게 될까요?

 

트롤리 딜레마란?

이 난제는 트롤리 딜레마라고 불리고 있습니다.

‘트롤리 딜레마“는 하버드대 교수이자 정치철학자인 마이클 샌델(Michael Sandel) 교수가 그의 저서 ｢정의란 무엇인가(Justice)｣에서 언급하면서 유명해졌습니다.

트롤리 딜레마(Trolley dilemma)는 윤리학에서 가정하는 사고 실험의 하나로, 제동 장치(브레이크)가 고장나 정지할 수 없는 탄광 수레(trolley, 광차)가 소수 또는 다수의 사람을 희생시킬 수밖에 없을 경우 어느 쪽을 선택해야 하는가에 대한 질문입니다.

영국의 철학자 필리파 풋(Philippa Ruth Foot)이 가장 먼저 제시하였으며 미국의 철학자 주디스 자비스 톰슨(Judith Jarvis Thomson)에 의해 체계적으로 분석되었습니다. 여기서 말하는 trolley는 광차로 번역되는데, 대부분 좀 큰 기차 같은 것으로 표현되곤 합니다.

 

다음의 사례에서 트롤리는 기차의 일종이라 생각하면 됩니다.

 

사례 1
트롤리 전차가 철길을 따라 달려오고 있고, 철길에는 다섯 명의 인부들이 서 있습니다. 당신은 철길 밖에 서 있고 다섯 명의 인부를 구하기 위해서는 철길 변환기를 당기면 되지만 그렇게 되면 다른 철길에 있는 다른 한 인부가 죽게 됩니다. 철길 변환기를 당기는 행위는 도덕적으로 허용 가능할까요?

사례 2
트롤리 전차가 철길을 따라 달려오고 있고, 철길에는 다섯 명의 인부들이 서 있습니다. 당신은 선로 밖에 서 있고, 바로 옆에는 상당히 덩치가 큰 사람이 한 명 서 있습니다. 다섯 명의 인부를 구하는 유일한 방법은 옆에 서 있는 덩치 큰 사람을 철길 위로 밀쳐서 그 무게로 트롤리 전차를 멈추게 하는 것인데, 이 경우 트롤리 전차는 멈추겠지만 그 사람은 죽게 됩니다. 이는 도덕적으로 허용 가능할까요?

 

이 트롤리 딜레마의 논점은 다수를 위해 소수를 희생해도 되는지 혹은 소수를 위해 다수가 희생하는 것에 대해 윤리학적 관점에서의 선택 문제입니다.

 

진화심리학자 마크 하우저(Marc Hauser)는 트롤리 딜레마를 바탕으로 통계 심리 실험을 실시했는데, 사람의 도덕적 판단이 이성보다는 감정의 영향을 받는다고 주장하였습니다. 사례 1에서는 피실험자들의 89%가 찬성한 반면, 사례 2에서는 11%만이 찬성을 했다는 결과를 내놓았습니다. 이러한 결과는 성별, 교육차, 문화차 등에 상관없이 공통적이었습니다.

 

기존의 트롤리 딜레마는 다섯 명의 인부와 한 명이 타인이라는 전제였지만, 만일 그 한 명이 타인이 아닌 친구나 가족이면? 혹은 다섯 명이 80세 노인이고 한 명이 어린아이라면 선택의 결과는 어떠할까요?

2010년에 발표된 한 연구에 의하면 한 명이 친적이거나 배우자이면 이 경우에는 다섯 명보다 한 명을 구하겠다고 한 응답자가 많다고 발표했습니다.

 

트롤리 딜레마 실험을 한 ‘필리파 풋’은 이중 효과 원칙(Doctrine of the double effect)’을 딜레마의 해결책으로 내놓았습니다. 이 원칙은 어떤 행동을 할 때 좋은 결과를 위해 나쁜 행위를 의도하는 것은 그르지만 선한 행위가 때로는 나쁜 결과가 예견되었음에도 그 행동을 피할 수 없었다면 허용 가능하다는 내용입니다.

 

자율주행 자동차의 윤리적 고민, 트롤리 딜레마

최근에는 자율주행 자동차의 윤리문제 논란에 활용되고 있습니다. 당신이 운전하고 있는 자율주행 자동차의 브레이크가 고장이 났습니다. 그런데 앞쪽에 길를 건너고 있는 많은 사람들이 있습니다. 만약 이때 자율주행 자동차의 알고리즘이 핸들을 그대로 유지하면 앞의 많은 사람들이 죽게 되고, 만약 핸들을 틀어서 경로를 바꾸면 당신이 죽는다고 가정할 때, 과연 자율주행 자동차는 어떤 선택을 할게 될까요?

 

MIT 테크놀로지 리뷰 중 “자율 주행 자동차가 누군가를 죽이도록 설계되어야 하는 이유 (Why Self-Driving Cars Must be Programmed to Kill.”)이라는 논문에서 자율주행 자동차가 피할 수 없는 사고를 마주했을 때를 가정하며 문제를 제기합니다. 가정 상황은 다음과 같습니다.

 

 

a. 직진 시, 10명을 치게 되지만, 방향을 급격히 꺾으면 해당 방향에 있던 1명을 치게 된다.

b. 직진하게 되면 보행자를 치게 되지만, 급격히 방향을 바꾸면 차에 타고 있는 본인 1명만 크게 다치거나 죽게 된다.

c. 그대로 직진하면 여러 사람이 죽거나 다치고, 급격히 방향을 틀면 차에 타고 있는 본인만 죽거나 다친다.

 

위의 상황에서 더 추가되어 노인과 임산부 중 누구를 선택해야 하는지, 보행자와 짐승, 탑승자 중 누구를 우선시해야 하는지 등도 자율주행 자동차의 윤리적 숙제입니다.

 

자율주행 차동차를 개발 중인 구글은 ‘자율주행 자동차에는 트롤리 딜레마가 없다’는 입장입니다. 즉, 인공지능을 코딩하는 단계에서부터 누구를 살린다는 식의 코딩을 하지 않는다 것입니다.