자율주행차 사고 책임, 수학 모형으로 가려내자 – 수다피플

2035년 무렵이면 자율주행차 시대가 시작될 거라고들 합니다. 지금 논의되고 있는 자율주행차는 부분 자율주행인 3단계 또는 긴급한 순간에 사람이 개입하는 4단계 자율주행차입니다만, 도로에 ‘무인차’가 돌아다니는 풍경을 보게 될 날도 머지않은 것 같습니다.

사실 자율주행차가 돌아다니는 게 사람이 운전하는 것보다 오히려 안전할 것 같단 생각이 들곤 합니다. 기계는 적어도 음주운전이나 보복 운전은 하지 않을 테니까요. 하지만 기계 오작동으로 사고가 나지는 않을까, 걱정도 됩니다. 기계가 알아서 판단한다는 것을 어디까지 신뢰할 수 있을지도 궁금하고요. 안전성의 기준을 규정하는 것도 어려운 일이죠.

인텔은 10월18일 포시즌스호텔에서 ‘인텔 테크 토크 : 자율주행’ 행사를 열었습니다. 이날 암논 샤슈아 모빌아이 CEO 겸 인텔 부사장은 자율주행차량의 의사결정 소프트웨어의 표준으로 ‘책임 민감성 모델(Responsibility Sensitive Safety, RSS 모델)’이라는 개념을 제시했는데요. 이름이 좀 어렵습니다.

간단히 말하자면 책임 민감성 모델은 자율주행차를 타고 가다가 사고가 났을 때 누구 책임인지 수학 공식으로 가려내자는 겁니다. 사고가 났을 때 어디부터 어디까지가 자율주행차의 책임이 되는지 명확한 ‘표준’을 세우자는 거죠.

자율주행차를 바라보는 우리들의 자세

“미국에서는 1년 교통사고 사망자가 3만5천명이다. ‘앞으로 (자율주행차가) 사망자 수를 줄일 수 있다. 1만명을 줄여서 2만5천명으로 만들겠다.’ 이렇게 말하면 사회는 용인하지 않을 것이다. 컴퓨터가 사람을 죽이는 것이기 때문이다.”

암논 샤슈아 인텔 부사장은 최근 인텔에 인수된 이스라엘 자율주행차 기업, 모빌아이의 CEO이기도 합니다. 자율주행차를 연구해왔던 그는 샤이 샬레브-슈와츠 교수와 함께 책임 민감성 모델 수학 공식 모형을 직접 만들었습니다.

한국경제연구원 자료에 따르면 자율주행차 상용화에 있어 가장 논란이 많을 것으로 예상되는 분야가 ‘교통사고 관련 민·형사상 책임 소재 문제와 이에 따른 보험 문제’라는데요. 똑같은 교통사고라도 사람이 낸 교통사고와 자율주행차의 결함으로 발생하는 사고는 체감상 다르게 받아들여집니다.

불과 몇 건의 사고라고 해도 원인이 명확히 규명되지 않는다면 사람들이 자율주행차를 타려고 할까요? 하나의 사고가 자율주행차 산업에는 치명적인 브레이크로 작용할 수 있습니다.

암논 샤슈아는 “자율주행이 사람의 운전보다 훨씬 안전하다는 사실이 명확해지기 전까지는 (사회가) 자율주행차를 받아들이지 않을 것”이라고 짚었습니다.

자동차 제조업체와 보험사 입장에서도 보상을 위해서는 사고 원인을 판단할 수 있어야 할 겁니다. 암논 샤슈아는 “자율주행차 사고가 발생했을 때 사고 책임의 소재를 명확히 하지 않는다면 자율주행차는 대량생산 단계로 나아갈 수 없다”면서 “기계가 사람을 죽이는 상황이 없게 해야 한다”라고 말했습니다.

통계 데이터만으로 ‘안전’ 보장할 수 있을까

책임 민감성 모델의 핵심은 ‘잘못을 규정하는 능력’에 있습니다. 암논 샤슈아는 “안전성을 통계 데이터에 기반하는 것은 완전히 잘못된 방법”이라며 “비용 차원에서 보기에도 타당하지 않고 실용성도 없다”라고 못박았습니다.

“오늘날 (자율주행차의) 안전성은 통계 데이터에 기반해 있다. 자율주행 테스트 차량이 300만 km를 주행했는데 사고가 안 나면 시스템 성숙도에 대해 안심할 수 있다. 여기에 100만 km를 더 테스트하고, 데이터를 쌓으면서 ‘경험적인 안전성’을 점검한다. 확신을 가지기 위한 방법이다.
사회가 용인할 수 있는 수준의 사망자 수는 몇일까? 현재 사망자 수가 3만5천명이라면 35명 수준으로 대폭 낮추는 것이다. 1천배 이상의 개선이 필요하다. 이 ‘매직넘버’에 도달하려면 이론 상 300억 km를 주행해야 검증할 수 있다. 300만 km 정도로는 충분하지 않다. 데이터 수집에만 2조달러가 소요된다.”

이러한 이유로 암논 샤슈아는 “완전한 안전성은 보장할 수 없다”면서 “(그러므로) 자율주행차의 책임에 의해 사고가 나지 않도록 하는 것이 중요하다”라고 말했습니다.

데이터가 쌓여 있어야 자율주행차의 운전 정책을 정할 수 있긴 하지만 완전히 데이터만 가지고 ‘지금까지 사고가 안 났으니 안전하다’라고 말할 수 없단 겁니다. 그는 “만약 자율주행 차량으로 인해 사고가 발생하게 되면 자동차제조업체 등은 사고 상황에 대해 ‘설명’할 수 있어야 한다”면서 “해설이 가능하려면 ‘룰’이 있어야 한다”라고 말했습니다.

유연하고 융통성 있게 주행하면서도 사고를 내지 않으려면, 안전한 숫자를 정하고 그 숫자를 지키게끔 하면 된다는 거죠.

예시를 들어보자

자, 2대의 자동차가 동일한 차선에서 앞뒤로 달리는 상황을 생각해봅시다. 앞차가 갑자기 브레이크를 밟아서 뒤에 오던 차가 앞차를 들이받으면, 사고는 뒤따르던 운전자의 책임이 됩니다. 후행 안전 거리를 충분히 유지하지 않았기 때문이죠.

자율주행차는 도로의 상황을 센서를 통해 파악할 수 있습니다. 도로가 젖어 있는지, 건조한 상황인지. 앞뒤 차량의 속도도 파악할 수 있죠. 아마 사람보다 정확할 겁니다. 책임 민감성 모델을 적용한 자율주행차는 스스로 ‘안전한 상태’를 유지하기 위해서 여러 파라미터 값을 방정식에 집어넣고 계산해서 안전 거리를 유지하게 됩니다.

안전 거리가 어느 정도고, 어떤 규정을 지켜야 하는지 정하려면 각국의 규제 당국과의 협의 하에 안전 모형을 만들어야 합니다. 모형을 만들면 보험 정책도 수립될 수 있을 거고, 새로운 교통 법규를 제정할 때도 도움이 되겠죠.

그래서 암논 샤슈아는 “모빌아이 그리고 인텔에만 혜택이 오는 것이 아니라 RSS 모델은 자율주행차를 연구하는 모두에게 도움이 될 것”이라고 강조했습니다.

안전에 대한 ‘표준’이 마련되면 제조업체들은 여기에 따를 테니, 사용자의 안전성도 좀더 확보될 수 있을 겁니다. ‘자율주행차’하면 떠오르는 ‘위험 상황에서 어떤 선택을 할 것인가’라는 윤리적인 문제들 역시 숫자로 풀어내면 사고가 발생하더라도 사회적으로 용인이 가능할 수 있을 거고요.

물론 자율주행차가 ‘정말로’ 안전하기 위해서는 지금보다 훨씬 개선된 기술이 필요합니다.

일단 자율주행차는 클라우드를 통해 데이터를 전송 받고, 전송해서 의사결정을 내리는 것이 아니라 차 스스로 안전하게 주행할 수 있어야 합니다. 통신이 불안정한 단 몇 초 사이에도 끔찍한 대형사고가 발생할 수 있기 때문이죠. 그래서 자율주행차에 탑재된 라이다, 레이더, 센서, 카메라, 칩 전부 계속해서 발전돼야 합니다. 요즘 칩셋에 AI를 심는 이유도 이와 같습니다. 기계 자체가 똑똑하게끔 만드는 거죠. 여기에 더해 소프트웨어 머신러닝 알고리즘은 더욱 더 정교해져야 할 거고요.

정부는 오는 2020년 부분자율주행차를 상용화할 계획을 밝혔습니다. 그러나 아직 국내에서는 자율주행차와 관련한 구체적인 법과 제도가 마련되지 않은 상태입니다. 자율주행차는 먼 미래의 얘기가 아닙니다. 시장 가능성이 무궁무진한 자율주행차 산업을 육성시키기 위해서는 지금부터 관련 법제를 함께 논의하고 차근차근 준비해나가야 하지 않을까요?

from Bloter.net http://www.bloter.net/archives/292573