도덕적 딜레마 외에도 자율주행차가 도입되었을 때 예상할 수 있는 몇 가지 고민할 지점들이 있다. 정부가 제시한 ‘자율주행 윤리 가이드라인‘은 행위 주체로서 인급된 설계자, 제작자, 이용자, 관리자,
서비스 제공자들의 행위 준칙으로 투명성, 제어 가능성, 책무성, 안전성, 보안성 등을 언급하고 있다. 하지만 학습하고, 정보를 처리하고, 최종적으로 판단을 내리며 자동차를 제어하는 인공지능의 딥러닝 과정은 블랙박스와 같다. 판단의 투명성을 보증할 수 없다는 것이다. 인공지능이 학습하고 판단하는 데이터들에 이미 인간 사회에서 만들어진 가치들과 편견들이 반영될 수 있기 때문이다. 또한,
로를 달리는 중에 고성능 GPS의 고장이나 중앙통신 시스템의 블랙아웃으로 차량 제어를 할 수 없게 될 경우에 커다란 혼란을 야기할수도 있다.
자율주행차가 곧 상용화될 것이 예측되면서 인공지능에게 타당한 윤리와 기계적 자율성의 의미 규정이 뜨거운 감자가 되었다. 개인의 윤리와 자유와 마찬가지로, 이 문제 역시 공동체적 관점에서 보는 것이 한 가지 실마리가 될 수 있지 않을까?
- P187