형사책임과 인공지능

프로그래머들이 형사 제재를 받을 수 있는 경우라면 형사 책임의 심각성 때문에 새롭고 더 강력한 인공지능의 발전과 개발에 찬바람이 불 수 있다.

인공지능이 일으킨 피해의 피해자에게 배상하는 재정적 부담은 고용주 또는보험업자에게 전가될 수 있거나 단순히 사업적 위험처럼 다뤄질 수 있다. 

반면에 형사 책임은 일반적으로 개인적이며, 개개의 사람이 단지 윗사람의 명령에 따랐을 뿐이라고 말해서 피하는 것이 어렵다. 더욱이 유죄는 돈으로 대체되거나 삭제될 수 없는 사회적 비용을 갖고 있다. 이런 위협이 프로그래머들 위에 걸려 있으면 유용한 기술을 발명하거나 출시할지 망설일 수 있다.  - P110


댓글(0) 먼댓글(0) 좋아요(4)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

대리책임의 장점과 단점

대리 책임이 인공지능의 독립적 대리권을 인정하는 것과 그 행위에 책임지는 현재 인정된 법인격을 갖는 것 사이의 균형을 유지한다. 과실과 제조물책임은 인공지능을 대리인보다는 사물로서 정하려 하는 반면, 대리 책임은그렇게 제한적이 아니다. 이런 이유 때문에 예상할 수 없는 인공지능의 일방적 또는 자율적 행동이 책임을 지는 사람과 피해 간의 인과 관계 고리를 깨뜨릴 만큼 반드시 작동하지는 않는다. 그러므로 대리 책임 모델은 인간이 만든 다른 개체들과 차별화되는 인공지능의 독특한 성능들에 더 잘 맞는다. - P92

대리 책임이 일반적으로 대리인이 행한 행동의 어떤 영역으로 제한된다는 사실은 장점이며 단점이기도 하다. 인공지능의 모든 행위가 인공지능의 소유자 또는 운영자에게 반드시 돌아가지는 않는다는 뜻이다. 그래서 인공지능이 정해진 과제로부터 더 멀리 벗어날수록 책임에서 갭이 더 커질 것이다. 단기적 그리고 중기적으로, (주로 협의의) 인공지능이 제한된 폭 내에서 작동하는 동안에는 이런 걱정이 덜 하다. - P92


댓글(0) 먼댓글(0) 좋아요(4)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

2015년 BBC 라디오 프로그램에서 사회자가 여러 전문가들에게 "이 분야의 새로운 법률을 필요로 합니까"라고 물었다. 인터넷 법학 교수 릴리언 에드워드가 회의적 접근법으로 정리했다

"우리가 인공지능을 위한) 아주 새로운 법을 필요로 한다고 난 생각하지 않는다. 법률가가 아닌 대부분의 사람들이 이해하지 못하는 법의 본질은 법이란 원칙들로 규정되는 것인데, 법적 책임 제도의 아주 많은 원칙들이 이미있다는 것이다. 우리는 과실 법규, 제조물 책임 법규, 보험법에서 위험을 분배하는 법 역시 갖고 있다. 새로운 기술이 올 때마다 말썽은 있게 마련이다.
우리는 배에 법률을 적용하는 어려움. 말에 법을 적용하는 어려움을 갖고있다. 그러므로 법이 개편되며 논의되고 소송될 필요가 없는지는 분명치 않지만 대단히 근본적인 새로운 법을 필요로 한다고는 생각하지 않는다."

같은 프로그램에 등장한 변리사 마크 딤hark Deem은 에드워드에게 동의하면서 해결책으로 점진적 발전을 지지했다. 말하기를 "법률은 간격을 메꿀 바로 이 능력을 갖고 있으며 우리는 그것을 붙잡아야 한다"." 이 장의 나머지는 점진적 접근법이 어째서 문제가 많은지 말하고 있다. - P47


댓글(0) 먼댓글(0) 좋아요(4)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

농경의 덫
- 석기시대 경제학

정착 농경의 초창기에 사람들의 생활 수준이 정확히 어떠했는지는 알 수 없지만, 초창기의 중앙집권적 국가에서 대부분의 사람들이 풀타임으로 곡식 경작에 종사했고 이들의 생활 수준이 수렵 채집을하던 조상보다 낮았다는 점은 명백해 보인다. 

입수 가능한 추산치들을 보면, 수렵 채집민은 하루에 5시간 정도 일했고 다양한 종류의 식물과 고기를 먹었으며 상당히 건강했고 기대 수명도 21-37세로 짧지 않았다. 영아사망률은 높았지만 일단 45세에 도달하면 그 이후로 14~26년은 더 살 것으로 기대할 수 있었다.

이와 달리, 정착해서 곡물을 경작하게 된 사람들은 하루에 두배 가량인 10시간 이상을 일했고, 노동 자체도 더 고되어졌으며, 곡식이 주요 작물이 된 후에는 더욱 그랬다. 이들의 식생활이 완전한 정책생활을 하기 전에 비해 악화되었음을 보여주는 증거도 많다. 그래서 이들은 평균적으로 수렵 채집민보다 키가 10~13센티미터 더 작았고 골격 손상도 더 컸으며 치아에도 문제가 많았다. 정착 농경민은 감병에도 더 취약했고, 출생 시 기대 수명이 19세 정도로 수렵 채집민보다 짧았다. - P181


댓글(0) 먼댓글(0) 좋아요(3)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

테크노크라시 대 데모크라시

우리가 주장하고자 하는 민주제의 장점은 이와 관련은 있지만 조금 다르다. 민주제의 장점은 단순히 여러 견해가 통합된다는데 있는 것이 아니라 다양한 견해가 서로에게 길항 요소로 작용할 수 있다는 데 있다. 따라서 민주제의 장점은 상이한 견해 사이의 숙의에서도 나오지만 여기에서 종종 발생하는 불일치 자체에서도 나온다. 1장에서도 언급했듯이, 우리의 접근 방식이 함의하는 바는 다양성이 그저 "있으면 좋은 것"에 그치는 게 아니라는 점이다. 다양성은 과잉 확신에 찬 지배층의 비전에 맞서고 그것을 제약하는 데 반드시 필요하다. 또한 다양성은 민주제가 강점을 발휘하게 하는 데도 필수적이다. - P145

이 주장은 서구 민주국가의 정치적 지배층 사이에 널리 믿어지고 있는 통념과 거의 정반대라고 볼 수 있다. 오늘날의 통념은 "테크노크라트에게 위임"한다는 아이디어를 토대로 한다. 최근 몇십 년 사이에 강하게 세를 얻은 이 견해에 따르면, 통화정책, 조세정책, 구제금융,
기후변화 완화, 인공지능 규제와 같은 중요한 정책의 결정은 해당 분야의 전문가인 테크노크라트들에게 위임되어야 한다. 대중은 그러한 정책의 세부 내용에 과도하게 관여하지 않아야 사회적으로 더 좋다.

하지만 바로 이 테크노크라시적 접근이 월가 은행들의 과도한 행동을 부추기는 정책을 가져왔고, 그 다음 2007~2008년의 금융위기 때 그 은행들을 믿을 수 없을 만큼 너그럽게 용서하고 구제해 주는 정책을 가져왔다. 금융위기 직전과 직후, 그리고 금융위기 동안 핵심 의사결정 대부분이 비공개로 이뤄졌다는 점은 시사하는 바가 있다. 민주주의를 테크노크라시로 접근하면 특정한 비전에 사로잡히기 쉽다는것이 우리의 주장이다. 2000년대 초에 대부분의 정책결정자들이 "거대 금융은 좋은 것"이라는 견해를 받아들였던 것처럼 말이다 - P146

어떤 기업이 군중 속에서 사람들을 특정하기 위해, 혹은 제품마케팅을 더 잘하기 위해, 혹은 사람들이 저항에 참여하지 못하게 하기 위해 안면 인식 기술을 개발하기로 할 때, 그 소프트웨어를 어떻게 설계할지는 그 기업 엔지니어들이 가장 잘 판단할 수 있을 것이다. 하지만 그러한 소프트웨어가 개발되고 활용되어야 하는지 아닌지에 대해서는 사회 전체적으로 목소리가 나올 수 있어야 한다. 다양한 목소리가 나올 수 있으려면 이러한 결과들이 더 명백하게 알려져야 하고 비전문가들이 자신이 보고 싶은 결과가 무엇인지에 대해 말할 수 있어야 한다. - P147


댓글(0) 먼댓글(0) 좋아요(4)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo