션 루크는 버지니아주 조지 메이슨 대학의 연구실에 모든 종류의 로봇을 보유하고 있다. 바퀴달린 대형 로봇, 중간 크기의 인간형 로봇, 그리고 20여개의 작은 금속 상자처럼 보이는 로봇들을 갖고 있다.
자율형 로봇 공학 연구실에서 루크와 그의 연구팀은 인간의 개입 없이 로봇들이 함께 일하도록 훈련한다.
루크와 그의 팀은 장차 이 작은 로봇들이 개미처럼 일할 수 있기를 희망한다. 예를 들어, 집을 짓는다거나 재난 후에 생존자를 찾는 따위의 수 많은 상황에서 말이다.
"이 로봇들은 매우 빨리 변화하며 최근에는 우리 예상보다 훨씬 빨리 변화하고 있습니다."고 루크는 말한다.
새로운 알고리즘과 대량의 새로운 데이터베이스가 로봇이 복잡한 공간에서 길을 찾는 일이 가능하도록 하고 있고, 최근에 인공 지능은 일어날리 없다고 생각했던 승리를 - 구글이 만든 컴퓨터가 바둑 경기에서 프로 기사를 이겼다 - 거두기도 했다.
로봇 군단이 전쟁터에서 사용되는 미래를 상상하기 그리 어렵지 않다. 과학 소설속 이야기처럼 들리는가? 그렇지 않다.
이번달 초 82개국 이상의 대표자들이 이러한 종류의 개발이 초래할 영향을 논의하기 위해 제네바에 모였다. 마침내 그들은 전쟁 무기에 대한 표준을 규정한 UN 핵심 기구의 의제에 살인 로봇을 추가해야 한다는 권고사항을 내놨다.
'도덕적 경계'
인권 감시 기구와 하버드 법대 국제 인권 클리닉은 자율형 살인 로봇에 대한 완전한 금지를 요구하는 보고서를 발행하여 긴급하게 회의에 추가했다.
하버드 법대 교수이자 보고서의 주 저자인 보니 도처리는 인류가 "도덕적 경계"를 넘기 전에 기술을 막아야만 한다고 말한다.
"[치명적인 자율형 로봇]은 화약과 핵무기 이후 전쟁의 3차 혁명이라 불립니다. 로봇은 전쟁의 방식을 완전히 바꿔버려 아마 우리는 상상하지도 못할 방법으로 싸울 것입니다. 살인 로봇은 군비 경쟁을 유발할 수 있으며, 전쟁 범죄에 대한 책임이 누구에게 있는지 모호하게 할 수 있습니다. 그리고 무엇보다 기본 인권 문제가 있습니다. 인간 생명의 가치를 이해 못하는 기계에 의해 살해당하는 일은 인간의 존엄성을 손상시킬 것입니다"라고 도처리는 말했다.
신 미국 안보 센터에서 윤리적 자율성 프로그램을 운영하고 제네바 회의에도 참석했던 폴 샤르는 "사일런(미국 드라마 '배틀스타 갈락티가'에서 인간을 공격하는 로봇)"이나 "터미네이터"를 원하는 사람은 아무도 없으며, 현실에서 살인 로봇의 문제는 과학 소설보다 사실상 훨씬 복잡한 문제라고 말했다.
미군을 위해 개발중인 장거리 대함 미사일(LRASM:Long-Range Anti-Ship Missile) 록히드 마틴을 예로 들면, LRASM은 인간과 연결이 끊어져도 자신의 감지기로 바다를 뒤져 목표를 찾고 타격하는 일이 가능하다.
샤르는 묻는다. "'기계가 생과 사를 결정해서는 안된다'는 말은 쉬워 보입니다. 하지만 '결정 내리다'의 의미는 무엇입니까? 제 로봇청소기가 소파에 부딪쳐 옆으로 돌아갈때 결정을 내립니까? 지뢰가 결정을 내립니까? 어뢰가 결정을 내립니까?"
'인간에 의한 엄격한 통제'
샤르는 살인 로봇에 대하여 미국이 정책을 세우는데 도움을 주었고, 결국 그 일을 좋아하게 되었다.
국방부 지침 3000.09에 따르면 자율형 기술의 예외적 사용에는 국방부 고위 관계자의 승인이 필요하며, "이러한 힘의 사용에는 적절한 수준의 인간의 판단력"을 항상 유지하는 체계 또한 요구한다.
살인 로봇 금지 지지자들은 그 정책에는 너무 많은 여지가 있다고 말한다. 그들은 모든 군사 무기에 대한 "인간에 의한 엄격한 통제"를 유지해야 한다고 주장한다.
국내의 주요 로봇 윤리학자 중 한명인 조지아 공대의 론 아킨은 그 차이를 논의하는 일도 중요하지만 살인 로봇이 주는 잠재적인 이익 또한 무시해서는 안된다고 말한다.
"로봇은 비전투원을 대신하여 어떤 인간보다 훨씬 많은 위험을 제정신으로 떠맡을 수 있습니다. 어쩌면 전쟁의 안개를 헤치고 나아가기 위한 더 나은 감각을 가질 수도 있습니다. 로봇은 인간의 실수를 유발하는 분노, 공포, 절망과 같은 감정을 갖지 않도록 설계할 수 있습니다."
아킨은 로봇이 새로운 종류의 정밀 유도 무기가 될 수 있다며, 저격수를 잡기 위해 시가지 안으로 보내는 예를 들었다. 그는 이런 일이 아마 먼 미래가 될지도 모르나, 그가 아는 한 지금 전쟁에서는 무고한 사람이 너무 많이 죽어가고 있다고 말한다.
"우리는 이것을 위해 무언가 해야만 하고, 기술은 그 일을 하는 한가지 방법이 될 수 있습니다. 과학 소설이 앞으로 나아가려는 우리의 판단을 흐리게 해서는 안 됩니다. 언젠가 살인 로봇이 매우 정밀해져서 사용하지 않는 것이 비인간적이 될지도 모릅니다."라고 아킨은 말한다.
다음 제네바 회의는 12월에 열린다. 그 때 UN은 살인 로봇에 적용되는 새로운 국제법 제정을 정식으로 시작할지 결정할 것이다. 지난 회의 이후로 14개국이 전면 금지 요구에 합류했다.
기사 원문: http://www.npr.org/sections/alltechconsidered/2016/04/28/476055707/weighing-the-good-and-the-bad-of-autonomous-killer-robots-in-battle