시스템 에러

시스템 에러 - 빅테크 시대의 윤리학
롭 라이히.메흐란 사하미.제러미 M. 와인스타인 지음, 이영래 옮김 / 어크로스 / 2022년 4월

2000년이후 기술은 점점 빠르고 급하게 발전하고 있습니다. 이 기술을 빅테크라고 합니다. 그런데 이 빅테크가 인간과 다양한 갈등이 나타나고 있습니다 물론 그 원인은 인간이고요. 빅테크를 사용함에 있어 나타나는 영향에 대한 인간의 윤리가 사회적 문제로 대두되고 있습니다. <시스템 에러>는 기술혁신가들이 명심해야 하는 윤리를 다룹니다. 미국전대통령 트럼프는 재선에 실패하고 선거에 승복하지 않고 트위터를 통해 자신의 지지자들의 폭동을 독려해서 실제 의사당으로 지지자들이 난입을 해서 큰 문제를 야기했습니다. 여기에 사용되었던 트위터의 윤리적 사용의 문제가 대두되었습니다. 이는 테슬라의 일론머스크가 트위터를 최근 사들여 트위터운영자들의 윤리기준을 새롭게 제시하려고 합니다. 이점도 사회시스템에 대한 논의의 일부겠죠. 저자들은 기술을 사용하는 사람들이 그리고 이로인해 위험에 처한 사람들이 가져야한 경로를 검토합니다

저자 롭 라이히는 스탠퍼드대 정치학교수입니다. 동대학 사회윤리센터장이고 인간중심인공지능연구소 부소장이라고 합니다. 빅테크시대의 윤리를 다룰수있는 위치에 있습니다. 메흐란 사하미는 스탠퍼디대 컴퓨터과학교수입니다. 구글초기맴버였고 프로그래밍강의도 하고 있습니다. 제러미 와인스타인은 스탠퍼드대 정치학교수로 오바마대통령때 백악관핵심참모로 신기술을 어떻게 시민에게 영향을 미치는지 연구했습니다. 3명의 저자가 모두 세계 최고 기술의 요람 스텐포드대소속이고 스텐포드는 기술뿐아니라 기술을 다루는 학생들에게 인간을 위한 윤리관을 고민하도록 한 점에서 스텐포드대학의 우수한을 간접적이지만 알게 해줍니다

기술자(엔지니어)는 어떤사람일까요. 저 어릴때는 과학자라고 많이 했는데 요즘은 과학자보다는 기술자라고 하죠. 과학보다는 기술이 더 핫한 시대일듯합니다. 이 기술자들은 기술의 최적화에 심려를 기울입니다. 효율적인것 '소이랜트'라는 간편제품으로 시간을 줄이는 것이 대표적입니다. 개인적으로 인공지능을 배우고 있는데 코드에도 최적화, 표준화, 규제정화 등을 통해 성능개선을 위해 노력합니다. 이를 조직경영평가에 적용하는 OKR기법이 있습니다. 구글들 많은 빅테크기업에서 사용하는데 이 기법도 효율과 최적화에 촛점을 맞춘점을지적합니다. 그리고 20년전부터 파괴적혁신이라고 부는 기술계의 바람도 규제라는 벽을 뚫어서 사회에 피해를 주는 영역도 많습니다. 한국사회에 공유택시 우버가 들어오지 못하는 것이 바로 그 문제겠죠. 기술의 시대 기술자의 사고는 너무 효율화에만 맞춰져있습니다.

그럼 기술은 어떤가요. AI가 발달하면서 인재선발을 AI에 맡기는 경우가 늘고 있습니다. 패턴만 찾으면 사람보다 휠씬 빠르고 비용도 적게 좋은 인재를 뽑는 다는거죠. 그런데 아마존에서 AI인재 채용시스템을 돌리니 남자직원만 선발하는 문제가 발생했습니다. 이는 과거 인재채용에서 남자들이 주로 채용되는 특징을 추출해서 선발에 적용한 결과입니다. 앞으로 자동의사결정시스템이 활성화될텐데 기술에도 큰 문제가 있죠. 그리고 세계적인 팝가수 테일러 스위프트는 스토커로 부터 자신을 보호하기위해 모든 팬들의 사진을 찍어서 범죄자를 찾는 알고리즘을 시행했습니다. 하지만 이때 개인정보에 대한 불법수집문제가 발생했습니다. 기술이 가치중립적이지 않다는 걸 알려주는 사례입니다. 그리고 앞으로 들이닥칠 자동화의 문제 인간의 능력을 약화시킬수있고 당연히 일자리로 뺏을 겁니다. 기술도 통제가 안되게 인간을 뛰어넘어 발전하려고 하지만 통제가 되지 않는 문제가 발생합니다.

기술은 도구입니다. 선하게 사용할수도 있고 나쁘게 사용할수도 있습니다. 최근 전쟁의 양상이 컴퓨터게임으로 되고 있습니다. 미군은 아예 게임머를 고용해서 사람을 죽이는 무인드론 조정사로 쓴다는 이야기도 있습니다. 실제 무인무기들이 전쟁의 핵심으로 등장하고 있습니다. 그리고 러시아에서 UN에서 금지한 초강력무기를 우크라이나전에 사용하고 몇일전에는 북한이 핵무기를 강화해서 한국을 선제타격하겠다고 선언도 했습니다. 이렇게 정치에 휘둘리면서 사람의 생존을 위협하는 기술을 개발하는 기술자들은 어떤 윤리를 가져야 할까요. 이는 전쟁관련 기술자들의 문제만도 아니고 AI, 바이오, 원전등에 관련된 대부분의 기술자에게 적용이 될겁니다. 저자도 강하게 지적했습니다만 빅테크들이 가지는 제한없는 힘과 시장지배력은 사용자의 사생활을 침해하는 법위반이 여러차례 문제가 되기도 했습니다. 인공지능중에 강한 인공지능이 있습니다. 이는 스스로 사고하고 행동하는 인공지능을 뜻합니다. 많은 인공지능학자들은 100년안에는 불가능하다고 합니다. 그것이 사실일지 모릅니다. 하지만 미래는 점점 기술이 지배하는 세상일 가능성이 높습니다. 민주주의로 그것을 통제하고 인간의 행복을 위해 논의를 본격화해야 할때인것만은 틀림없습니다.

본 도서는 출판사로부터 무상으로 제공받아 주관적인 리뷰를 했습니다.