[칼럼 코너] 황지영의 ‘사회 속의 기업 이야기’ – 열다섯 번째 이야기
3월 18일 애리조나 주에서 차량 공유 서비스 우버(Uber)의 자율주행차(Self-driving cars)가 길을 건너가던 여성을 치어 숨진 사고가 일어났다. 이와 함께 최근 몇 년간 구글, 우버, 테슬라 등이 앞다투어 추진하고 있는 자율주행차의 안전성, 그리고 사고 발생 시 책임은 누가 져야 하는지에 대한 여론이 뜨거워지고 있는 상황이다. 이번 칼럼에서는 인공지능 기반의 자율주행차가 떠오른 배경과 관련 사고들, 그리고 자율주행차를 둘러싼 윤리적 딜레마에 대해서 살펴본다.
#자율주행차 사고
3월 18일 저녁 10시, 애리조나 주 템피(Tempe) 지역, 자전거를 타고 길을 건너던 한 여성이 자율주행 테스트 중이던 우버의 볼보XC90 차량에 치여 사망했다. 당시 우버 차량은 운전자가 탑승한 상태에서 자율운행 모드로 운행되고 있었다. 전문가들은 이 사고에 대해 자율주행 시스템이 길을 걷는 보행자나 자전거를 탄 보행자들의 변수를 인식하는 과정에서의 오류를 드러낸 것이라고 평가한다.
사고가 발생하자마자 우버 CEO Dara Khosrowshahi는 트위터를 통해 깊은 유감과 신속한 조치를 언급했다. 또한 템피, 피츠버그, 샌프란시스코, 토론토 지역에서의 자율주행 테스트를 중단했다.
자율주행차로 인한 교통사고는 사실 이번이 처음이 아니다. 지난 2017년에도 우버의 자율주행차로 인한 교통사고가 같은 지역, 템피에서 발생했었다. 우버의 볼보 XC90 차량은 도로 위를 주행하던 중에 측면에서 달려오던 차량에 부딪혀 전복된 사고였다. 이 당시에도 운전자가 탑승한 상태로 자율주행 모드로 운전되고 있었다. 당시 경찰은 자율주행 중이던 차량 잘못이 아니라고 결론지었다.
2016년에는 테슬라(Tesla) 차량에 의한 사고가 플로리다 주에서 발생했다. 테슬라의 자율주행 프로그램 소프트웨어인 오토파일럿(Autopilot) 모드로 운전 중이던 자율주행차가 도로를 가로질러 가던 트럭 트레일러를 인식하지 못하고 충돌하면서 일어났다. 이 사고로 운전자는 사망했다. 그렇지만 이 사건 역시 자율운행 시스템 자체는 오점이 없다고 판결이 났다.
물론 매해 일어나는 수많은 교통사고에 비하면 자율주행차로 인한 사고는 소수다. 그렇지만 아직 인공지능 기반의 자율주행은 아직 테스트 중인 데다 무인 자율주행이라는 새로운 시도라 더 관심과 걱정을 불러일으킨다. 연이은 사고로 인해 아직 대중화되진 않았지만 앞으로 우리 생활 속에 들어올 자율주행에 대한 안전성과 무엇보다도 사고가 났을 때의 책임은 누가 져야 하는지 등에 관한 논란이 예상되는 것이다.
#자율주행, 왜 주목받나
자율주행차가 주목을 받는 가장 주된 이유는 자율주행을 통해 차 사고로 인한 사망자를 줄일 수 있다는 가능성 때문이다. 미국 고속도로 교통 안전국(National Highway Traffic Safety Administration)에 따르면 한 해 교통사고로 인한 사망자는 3만 7천 명에 이른다. 한 주당 무려 711건의 사망사고가 발생한다는 것이다. 더구나 이 수치는 2015년에 비해 6% 증가한 수치다. 이렇게 사망 사고가 점차 증가한 데는 스마트폰이 일반화되면서 운전 중에도 스마트폰을 사용함으로 인한 부주의가 한몫했다. 반면, 자율주행은 운전하는 동안 주의가 산만해지거나 방해받지 않는다는 점에서 교통사고로 인한 사망을 줄일 수 있는 대안으로 떠올랐다.
그런데 자율주행을 공격적으로 추진하는 기업들은 누구일까? 우선 구글의 모회사, 알파벳(Alphabet)의 자율주행 유닛인 웨이모(Waymo)와 테슬라가 있다. 또한 우버나 리프트(Lyft) 같은 차량공유 업체들이 떠오른다. 특히 우버는 구글의 웨이모로부터 웨이모의 자율주행 관련 핵심기술정보를 유출했다는 이유로 법적 논쟁에 연루되었다. 이는 며칠 전 3월 16일 우버의 0.34%의 지분(약 2천 4백5십만 달러)으로 소송이 마무리되었다.
사실 우버가 적극적으로 자율주행을 도입하려고 하는 이유는 비즈니스 모델 때문이다. 우버나 리프트 같은 차량공유 업체의 비즈니스 모델은 차를 가진 개인들이 개별 피고용자로서 운전사 역할을 하는 ‘차량 공유’에 기반한다. 우버와 리프트는 운전사들과 이익을 배분하는 시스템이다. 그러나 자율운행을 도입하면 운전자 없이도 차량 운행이 가능하기 때문에 이들을 고용할 필요가 없어 우버의 수익이 증가한다.
전통적인 자동차 제조업체들도 자율주행을 도입하려고 자율주행 스타트업들과 손을 잡고 있다. 포드(Ford) 는 아르고(Argo: 인공지능 스타트업)과, GM은 크루즈(Cruise)와, 폭스바겐과 현대는 오로라(Aurora: 전 구글 차 테크 리더였던 크리스 엄슨이 세운 자율주행회사)와 손을 잡았다. 자동차 제조업체들이 자율주행에 뛰어든 이유는 소비자 트렌드의 변화 때문이다. 차량을 소유하는 대신 편리하고 저렴한 차량 공유를 선호하는 사람들이 늘어났기 때문이다. 전체적인 차량 판매 수요는 줄어들고, 앞으로 전망도 밝지 않은 상황에서, 자율주행차량은 줄어드는 차량 판매로 인한 손실을 메꿀 수 있는 좋은 대안이 된 셈이다.
#왜 애리조나 주(Arizona State)일까
사고를 다시 한 번 살펴보면 두 번의 사고가 애리조나 주에서 일어났다. 또한 우버 자율주행팀뿐 아니라, 웨이모도 애리조나 주에서 자율주행 시스템을 테스트한다. 웨이모의 경우는 운전자가 탑승하지 않은 상태의 자율주행 (무인자율주행) 모드를 테스트 애리조나 주 피닉스 지역에서 테스트하고 있다. 작년부터 퍼시피카 미니밴(Pacifica minivan)에 베타 프로그램을 장착하여 테스트 중이고 올해 후반에는 피닉스 지역에 오픈할 예정이다.
이렇게 애리조나 주에 자율주행 팀들이 집중되는 이유는 애리조나 주 정부의 자율주행 관련 규제 입장 때문이다. 애리조나 주 정부는 자율주행에 굉장히 친화적인 태도를 보여왔을 뿐 아니라 자율주행 산업에 대한 규제를 하지 말아야 한다고까지 주장하고 있다. 더구나 올해 3월에는 애리조나 주지사 더그 듀시(Doug Ducy)는 주정부 도로에 무인 자율주행차 운행을 허용하는 행정명령을 허가했다.
현재 애리조나 외에 캘리포니아(샌프란시스코)와 필라델피아(피츠버그) 주가 자율주행에 대해 친화적인 입장이다. 얼마 전 3월 발표에 따르면 캘리포니아 주는 올해 4월부터 완전자율운행 모드 테스트를 허가할 예정이다. 자율주행에 대한 호의적인 정책을 펼치는 주 정부들이 늘어나고 있는 추세다.
#피할 수 없는 윤리적 딜레마
앞서 언급한 것처럼 자율주행차가 낸 사고에 대한 책임은 누가 져야 할까? 다음과 같은 몇가지 경우를 생각해보자.
• 자율주행차의 시스템이 오류가 나서 사고가 난 경우
• 자율주행차의 시스템상 오류는 없지만, 탑승한 운전자의 시스템 오작동으로 인해 사고가 난 경우
• 테슬라의 사고처럼(트럭 트레일러의 넓은 공간으로 들어오는 빛 때문에 차를 인식하지 못해 차량을 들이박음) 시스템의 불완전성으로 인해 사고가 난 경우
사실 사고가 날 만한 위험한 순간에도 다양한 경우가 있다. 예를 들면 앞의 차로 인한 사고가 날 만한 상황에서 자율운행시스템은 다음과 같은 여러 가지경우를 고려하게 된다.
• 한쪽에는 차가, 다른 한쪽에는 오토바이가 주행 중인 경우, 상대적으로 운전자가 살아날 가능성이 높다는 이유로 차를 들이받는 선택
• 양쪽 옆이 둘 다 오토바이인 경우, 한쪽 오토바이 운전자는 헬멧을 썼고 다른 쪽 운전자는 헬멧을 쓰지 않았으면 헬멧을 쓴 운전자가 살아남을 가능성이 크므로 그쪽을 들이받는 선택
• 한쪽에 오토바이 (헬멧 안 쓴 운전자), 다른 한쪽에는 자전저 (헬멧 쓴 운전자)가 주행 중인 경우, 헬멧 쓴 운전자가 살아남을 가능성이 높으므로 오토바이 대신 자전거를 들이받는 선택…
물론 이외에도 다양한 경우가 있을 것이다. 그렇기 때문에 여러 자율주행업체들은 몇 년간에 걸쳐 그 수많은 경우를 고려해서 인공지능(AI)의 알고리즘을 짜고, 테스트를 반복하며 오류를 줄이고 최적의 선택을 하도록 수정을 하는 중이다.
그러나 생각해보자. 위의 단순한 몇 가지 경우에서도 과연 어떤 선택이 “더” 윤리적인 선택이라고 단정 지을 수 있을까?
자율주행차에 대해 소비자 워치독(Consumer Watchdog: 소비자 감시기관)같은 단체들은 아직까지 기술이 주변 환경을 인식해 운전하는 것은 시기상조라고 역설한다. 애리조나 주나 캘리포니아, 미시간 주의 입법관료들이 모빌리티 시대에서의 승리를 선점하겠다는 너무 큰 야심에 차 있다고 비판하기도 한다. 소비자 워치독은 특히 로봇이 운행하는 자율주행차의 도로 주행의 위험성에 대해 전 국가적인 모라토리움이 필요하고, 현재 일어난 사고들에 대한 외부 전문가들의 정확한 판단 또한 공유되어야 한다고 주장한다.
자율주행차량에 대한 소비자들의 의견은 어떠할까? 2017년 알릭스 파트너스(Alix Partners)가 실시한 조사를 보면, 참여자 중 49%가 AV(Automated Vehicle:자율주행차량)가 과연 안전하게 주행할지에 대해 불안하다는 답을, 84%는 자율주행 프로그램 소프트웨어의 오작동이 염려된다고 답했다. 80%는 자율주행 차량 자체의 잠재적 오류가 우려된다고 걱정했다. 물론 한 조사가 전체 의견을 대표하진 않지만, 적어도 많은 수의 소비자들이 자율주행을 담당하는 소프트웨어 또는 차량 자체의 오작동에 대한 불안을 느끼고 있다는 점은 분명하다.
요컨대, 자율주행차량으로 인한 사고로 인해 그에 대한 이점과 우려에 팽팽하게 맞서고 있는 요즘이다. 업체들은 각자의 이유로 앞다투어 인공지능 기반의 모빌리티 산업의 선두가 되기 위해 적극적으로 나서고 있다. 반면 소비자 단체들과 소비자들은 아직까지는 여러 면에서 안심하지 못하는 상황이다. 위험 상황에 닥쳤을 때 자율주행 알고리즘이 어떤 선택을 하더라도 그 선택이 과연 윤리적으로 최선인가에 대한 의문도 100% 해소되기 어려울 것이다. 그렇기 때문에 기업, 엔지니어, 정책, 소비자를 아우르는 다양한 여론의 수렴과 정책적 합의가 더욱더 중요한 의미를 가진다.