자율 머신의 안전 확보와 윤리적 가이드라인

자율 머신의 안전 확보와 윤리적 가이드라인

 

지난 7월 미국에서 잇달아 발생한 자율주행 자동차와 로봇 사고로 인해 자율 머신의 안전 확보 방안과 윤리적 담론에 대한 논의가 뜨겁다. 우리나라도 철학, 사회과학, 자연과학, 공학 등의 전문가가 함께 머리를 맞대고 대안을 마련할 때가 됐다.

 

글 변순용 서울교육대 윤리교육과 교수

 

자율주행 자동차는 이제 더 이상 공상영화에서나 볼 수 있는 것은 아니다. 구글은 2016년 7월 31일 기준으로 총 58대의 자율주행 자동차를 소유하고 있으며, 구글의 자율주행 누적 거리만 해도 296만 km에 이른다.

한국에서도 자율주행 자동차 개발과 관련된 여러 노력이 있다. 6월 13일에는 범부처 민관협의기구 ‘자율주행차 융·복합 미래포럼’이 발족돼 자율주행 자동차에 관한 논의의 저변을 확대하는 한편, 이를 통해 제도 개선과 정책 지원이 이루어진다고 한다.

그러나 지난 7월 5일 미국 플로리다에서 발생한 테슬라의 모델S 운전자의 사망사고 이후 오토파일럿 기술은 안정성 논란에 휩싸이고 있다. 미국 일부 사회에서는 테슬라가 아직 완벽하지 않은 상태인 오토파일럿을 너무 일찍 내놨다고 비판했다. 7월 12일에는 미국 캘리포니아 주 스탠퍼드 쇼핑센터에서 보안 업무를 담당하던 자율운행 로봇이 16개월 된 유아를 공격하는 일도 발생했다.

이로 인해 전 세계적으로 자율 머신의 안전 확보 방안과 윤리적 담론의 필요성이 제기되고 있고, 대안적 가이드라인을 마련해야 한다는 의견이 많다. 이 글에서는 자율주행 자동차에 초점을 맞춰 윤리적 가이드라인을 만들기 위한 준비작업으로 윤리적 이론을 적용해본다.

 

 

 

 

공리주의적 자동차

공리주의적으로 접근한 자율주행 자동차와 관련된 연구로는 2015년 장 프랑수아 보네폰 외 2인의 연구를 들 수 있다.

이 연구는 위의 그림과 같은 3가지 상황을 제시하고, 윤리적 사고 실험에 대한 의견을 설문조사해 분석한다. 이 연구는 실험적 윤리학에 기초한 데이터 기반의 접근을 취하고 있는데, 이를 통해 사람들의 의견을 수용하고 공리주의적인 차에 대한 수용 정도를 알아보려 했다.

물론, 많은 사람들이 원한다고 해서 공리주의적인 자율주행 자동차가 윤리적인 자동차라고 단정할 수는 없겠지만, 자율주행 자동차라는 것은 사람들이 구매, 소유 및 이용하는 것이기 때문에 사람들의 기대와 소비자의 선호를 무시할 수 없다는 것이다.

이 연구에서 드러나는 공리주의적 자동차의 어려움은 사람들이 보행자 입장에서 생각할 때는 공리주의적 차를 선호하지만. 자동차를 구매하는 차량 소유주 입장에서는 공리주의적 자동차에 매력을 덜 느낀다는 것이다. 만약, 차량 소유주가 부상을 입는 정도에 그쳤다면 공리주의적 차량에 대한 선호는 더 높아졌을 것이다.

2014년 구달의 연구에서는 공리주의적 접근을 할 때 비용과 이득 평가가 예상보다 복잡할 수도 있음을 의미한다. 먼저, 피해를 계량할 때 보험사에서 피해 측정에 이용하는 금액 중심의 산정이 가장 명확하며, 충돌 시 이러한 금액을 최소화하는 방향을 택한다고 하자. 자율주행 자동차는 헬멧을 쓰지 않은 오토바이 탑승자보다는 헬멧을 쓴 오토바이 탑승자와 충돌하는 것을 선택할 것이다. 이 경우 안전에 비용을 지불한 헬멧을 쓴 오토바이 탑승자가 오히려 충돌의 대상이 된다는 불공평한 결정을 내리게 된다.

정보를 선택하고 배제하는 문제도 발생한다. 운전자의 연령, 나이, 성별 또는 법의 위반 여부 등 다양한 정보 중 어떤 것을 선택할 것인가? 어떤 것을 판단할 때 배제해도 되는가를 미리 결정해야 한다는 것이다.

2014년 패트릭 린은 왼쪽으로 핸들을 돌리면 여덟 살짜리의 여자아이와 충돌하고 오른쪽으로 핸들을 돌리는 경우 여든 살의 노인과 충돌한다고 할 때, 여덟 살 여자아이의 목숨을 살리기 위해 여든 살의 노인과 충돌한다는 것은 나이와 관련해 이미 선입견을 지닌 것은 아닌지 문제를 제기한다.

이런 다양한 문제를 고려해볼 때 공리주의적인 접근은 설득력이 높긴 하지만 공리주의적 차량 구매 시 선호도 저하 문제, 정보 선택과 배제 문제, 정보를 기반으로 사람의 목숨을 결정하는 것이 옳은지와 관련된 문제가 제기될 수 있다.

의무론적 자동차

자율주행 자동차에 대한 의무론적 접근은 아이작 아시모프의 ‘로봇이 따라야 하는 3가지 규칙’에서 출발해볼 수 있다. 구달은 이러한 원칙이 자율주행 자동차를 설계할 때 엔지니어들이 선호하는 접근이라는 의견을 제기하면서, 규칙을 따르게 하는 것이 컴퓨터의 속성에 적합하다는 의견을 피력한다. 그러나 의무론의 제한점 역시 제시하고 있다. 먼저, 법칙들 사이에 갈등이 있을 경우, 혹은 법칙 내에 갈등이 있을 경우 로봇은 자신의 행동을 결정할 수 없다고 말한다. 특히 아시모프의 제1원칙에 따르면 자율주행 자동차는 급정거조차 할 수 없다는데, 이는 인간에게 상해를 입힐 수 있기 때문이다.

2013년 J. 크리스티안과 연구에서도, 아시모프의 원칙은 자율주행 자동차의 윤리적 행동의 틀을 만들기에 충분하지 않다고 주장한다. 그렇지만 이러한 단순한 구조가 첫 번째 원칙으로 작용하는 데에는 효과적이라고 언급한다. 아시모프의 로봇 3원칙의 정신을 계승한 자율주행 자동차의 원칙을 다음과 같이 제시한다.

 

(1) 자동화된 차량은 보행자 또는 자전거 탑승자와 충돌해서는 안 된다.

(2) (1)의 원칙을 위반하는 충돌을 피하기 위한 경우를 제외하고는, 자동화된 차량은 다른 차량과 부딪혀서는 안 된다.

(3) (1)과 (2)의 원칙을 위반하는 충돌을 피하기 위한 경우를 제외하고는, 자동화된 차량은 자신이 처한 상황에서 어떤 다른 물체와도 충돌해서는 안 된다.

 

크리티안과 사라의 연구는 아시모프의 로봇 3원칙을 자율주행 자동차에 적용, 구체화시켰다는 점에서 의의가 있다. 또한 충돌 시 가장 우선 고려해야 하는 것이 보행자 및 자전거 탑승자이고, 그 후 고려해야 하는 것이 다른 차량, 마지막으로 고려해야 할 것이 다른 물체라는 충돌 대상 간의 위계를 확실하게 해준다.

그러나 이 원칙만으로는 여전히 원칙 내 갈등을 배제할 수 없다. 자동화된 차량이 어느 방향으로 핸들을 꺾는지에 따라 서로 다른 보행자와 충돌하는 경우 어떤 선택을 해야 할지 아무런 제안도 주지 못한다. 이 경우 결국 보행자의 피해 정도 등을 고려해야 하므로 앞에서 제시한 공리주의적인 접근을 다시 고려하는 경우가 발생할 수 있다. 3원칙이 지나치게 충돌의 원칙에만 국한됐다는 한계도 있다. 아시모프의 로봇 3원칙을 다음과 같은 방식으로 바꾸는 것은 어떨까.

 

(1) 자율주행 자동차는 사람에게 위해를 가하는 주행을 해서는 안 되며, 위험한 상황에 처했을 때 이를 방관해서도 안 된다.

(2) 자율주행 자동차는 (1)에 위배되지 않는 한, 도로 법규 및 탑승자의 판단에 따라야 한다.

(3) 자율주행 자동차는 (1)과 (2)에 위배되지 않는 한, 차량 자체가 손상되지 않도록 보호해야 한다.

 

추상적이라고 비판받을 수도 있으나, 이 경우 충돌 이외의 주행 상황에서도 적용할 수 있는 원칙이라고 볼 수 있다.

 

 

 

 

인간의 생명을 가장 우선시하는 선택

실제 자율주행 자동차를 설계하는 경우 공리주의적 접근 및 의무론적 접근을 혼합하는 방식이 될 것으로 예상된다. 의무론적 접근을 활용하면 자율주행 자동차의 가장 기본 원칙을 정하기 쉽다.

따라서 윤리적인 자율주행 자동차의 설계 첫 단계는 아시모프의 로봇 3원칙에 기반을 둔 자율주행 자동차의 가장 큰 원칙을 설정하는 일이라고 할 수 있다. 큰 원칙 및 하위 규칙을 설정하고 프로그래밍 해서 할 수 있는 행동의 틀을 제시하는 것이 로봇과 유사한 자율주행 자동차에 쉽게 적용할 수 있는 방법이기도 한다.

자율주행 자동차가 실제 도로를 주행할 때에는 원칙으로 행위를 결정할 수 없는 충돌 상황의 경우 결국은 공리주의적 관점의 도움을 받아야 한다. 물론 인간의 생명은 단순한 계산만으로 결정할 수 있는 문제는 아니다. 여러 변수를 고려한다고 해서 그것이 최선의 선택이라는 보장도 없다. 그렇지만 인간의 생명은 다른 어떤 것보다 우선돼야 하는 가치다. 따라서 더욱 신중한 고려가 필요하다.

 

* 저작권법에 의하여 해당 콘텐츠는 코스콤 홈페이지에 저작권이 있습니다.

* 따라서, 해당 콘텐츠는 사전 동의없이 2차 가공 및 영리적인 이용을 금합니다.