지금 읽고 있는 《감시자본주의의 시대》사회학자가 보는 데이터 수집에 대한 문제점을 말하는 책이에요.
AI에 대한 문제는 주로 3가지 부분으로 접근하는데, 데이터 수집, 데이터 처리과정, AI의 결과 이렇게 3가지 부분으로 접근하여요. 대상은 기업, 정부, 기업과 정부 모두를 대상으로 삼기도 하지요.
데이터 처리과정은 주로 자연과학이나 공학도들이 문제를 많이 제기하고 나머지 데이터 수집, AI의 결과는 사회학자들이 많이 문제를 제기하지요. AI의 결과 부분에서는 AI에 우호적인 사회학자들도 있다는 것을 알아요. 이 부분은 논란의 여지가 많은데, 사회학자들은 사회에 영향을 주는 결과를 다른 사회문제와 연결시키는 경우가 많고, 자연과학이나 공학쪽에 있는 분들은 이 것을 데이터 처리 과정과 엮어서 말하는 경우가 많아요. 또한 데이터 수집과정은 전체주의 국가에서 비밀경찰과 같고 《1984》의 Big Brother이 했던 것이기 때문에 부정적이고 독재국가 위험성을 말하는 경우가 많은데, 여긴 AI이외의 영역에서도 일어나고 있기 때문에, AI라고 꼭 집어 말하지 않을 때도 있지만 AI도 데이터 수집을 하는 이상 이 부분도 무시할 수 없으며 AI라고 언급되지 않더라도 AI의 문제점이에요.
여기에서 AI의 과정이 사실 수학이여서 수학자들도 이 논쟁에 많이 참여하고 있어요. 심지어 AI가 되느냐? 하는 부분의 중요 문제로 p=np인가? 문제도 있는데, 수학의 난제 중에 하나로 수학자들도 아직 해결못한 문제에요. 근데 p=np인가? 이전에 다른 부분에서도 수학자들이 인공지능 안된다는 주장은 많이 나오고 있어요. 수학자들이 제기한 인공지능이 안된다는 많은 수학이론중에서는 가장 쉬운 부분이 미분방정식 정도로 인공지능 안된다는 것을 말하는 수학자가 있다는 것을 아는데, 저는 고등학교 통계학 정도로도 문제점을 제기할 수 있다는 것을 알고 있어요.
사회학의 특징상 다양한 가치를 추구하기 때문에 이 가치에서 어떤 것을 추구하느냐? 에 따라서 대립적이고 모순적인 결과가 다양한 사회학자들에게 도출될 수 있어요. 여기에서 우리는 이 과정에서 전제및 가정, 사회학자가 자져온 다른 이론의 출처, 그리고 논리전개과정을 살피고 어떤 가치를 중점적으로 보는지를 확인해야 할 거에요.
이번 책에서는 이 3가지 문제를 모두 언급하고 있었어요. AI의 문제점을 보는 사람들의 생각은 거의 차이가 없는 것 같아요^^.
단지 저자와 제 생각에 차이점도 있고 같은 점도 있고 그런 부분이에요. 가치 부분의 차이가 존재하기 때문이에요. 그럼에도 저자가 2011년 8월 9일에 있었던 일에 대해서 말하는 부분은 매우 신기했어요.
2011년 8월 9일은 ① 미국에서 애플이 시총 1위가 된날 ② 영국에서 경찰이 시민에게 발포한 사건으로 대규모 시위가 일어난 날 ③ 스페인에서 데이터 수집및 처리과정, 결과에 의해서 일어난 인권 침해에 맞서서 잊힐 권리를 달라는 시위가 발생하였어요.
이 3가지는 모두 인공지능과 관련된 사건이라는 것이 저자의 주장이고 이 3가지 사건을 분석하는 것이 처음 내용의 시작이더라고요. 본론에서요^^. 흥미로운 부분인데, 이 3가지 부분은 모두 인공지능과 관련된 사건으로 보는 것이 맞다고 보고 있어요.
지금 문제가 되고 있는 것은 경제적 이익이나 기술발전을 위해서 인권을 포기하라는 압박이 국민들에게 가해지고 있다는 거에요. 그러나 인권은 경제적 이익이나 기술발전보다 우위에 있는 개념이이에요.
인권을 무시하면서 개발하고 인권을 짓밟으면서 발전한 기술이 어떤 의미가 있겠어요?
우리를 위협할지도 모르는 기술이 부상한 ①의 결과와 ②와 ③은 그것보다 형평성이나 인권이 더 중요하다는 국민의 결과가 같은 날 동시에 일어나게 되었어요.
우리는 국가가 위급한 상황에서는 인권이 간혹 제한되기도 하여요. 예를 들어서 전쟁같은 상황이지요. 그럼 경제적 이익이나 기술발전을 위해서 인권이 제한되는 상황은 받아들일 수 있을까요?
이것을 받아들일수 없다는 것이 제 생각이에요. 그러나 한국의 현실은 이와 반대로 가고 있는 것이 사실이지요. 왜 우리가 우리의 이익도 아닌 테크 기업의 이익을 위해서 우리의 기본권을 포기해야 할까요? 이런 기본권을 포기시키는 행위는 독재국가와 다를 바 없고, 독재국가로 나아가는 길일 거에요.
기술이 결국 인간을 위한 것이 아니라 개발자의 이익을 위해서 발전하면서 인간의 기본권을 제한하려 한다면 이것은 매우 큰 문제가 있어요.
저자도 이런 부분을 매우 잘 이야기하고 있어서 마음에 들었어요.
그러나 이 저자는 테크와 체제를 분리해서 생각하는데, 이 부분은 구분해야 함은 분명할 거에요. 테크놀로지. 즉 기술과 그 기술을 위해서 이루어진 체제는 분명 달라요. 앞서 포스팅한 데이터 3법, 마이데이터법, 개인정보보호법의 결함이 합쳐져서 어떤 문제가 나오는지에 대해서 언급했지만, 우리나라는 체제를 제대로 만들지 못해서 많은 개인정보보호의 문제점이 있어요. 그런데 기술적 부분을 보면, 이러한 기술중 일부는 처음부터 기본권에게 위협적이여서 존재해서는 안되는 기술도 분명히 존재하고 있다는 것이이에요.
기술이 가치 중립성을 가지고 있다는 부분에 동의할 수 없어요. 이 부분은 과학자와 공학자들은 다른 생각을 가질 수도 있어요. 그러나 어떤 기술은 그 기술 자체가 나빠요. 프레온 가스 같은 부분은 분명 문제가 있는 기술이에요. 이 기술을 가치 중립에 두고 사용자들이 해결해야 할 문제라고 하면서 생산자가 마구 생산할수는 없어요. 기술에 대한 지식은 연구할 수 있지만, 그렇게 연구되어야 프레온 가스가 오존층을 파괴한다는 것도 알아낼 수 있으니까요. 그러나 기술의 사용에 대해서는 가치 중립적일 수 없는 것이지요. 물론 연구도 윤리적으로 해야 함은 당연하고요.
이런 부분을 허가해야 하는지? 아닌지? 에 대한 문제에 대해서 이 저자는 소비자에게 도움이 되고 그 부분에서만 사용되면 괜찮다라는 입장을 갑자기 보이면서 일관성 없는 태도를 보이는 점이 살짝 아쉽긴 하네요.
식료품에 대해서 신제품을 개발할 때 아무렇게나 개발하고 시장에 내어놓은 다음에 소비자의 반응에 따라서 식료품의 제품을 수정하면서 개발하겠다는 생각을 하지 않아요. 식료품 업체가 만약 실수를 하면 브랜드 평판에 많은 위험이 있기 때문이에요. 이 회사들은 전문 맛평가를 위한 전문가들에게 의뢰를 해서 충분히 시장성등에 대해서 나온 결과를 바탕으로 성공할 수 있는 제품을 시장에 내어놓게 되지요.
그러나 테크 기업들은 그렇게 하지 않아요. 일단 우리의 개인정보를 마구 모아서 제품을 만든 다음에 소비자들 반응을 살피면서 제품을 수정하지요. 이것이 올바른 방식일까요?
그들은 우리에게 제품의 향상을 위해서 개인정보를 수집받아야 한다면 그것은 먼저 제품 개발과정에서 전문가 집단을 만들고 그들을 고용해서 제품에 대해서 피드백을 받아, 먼저 퀄리티 확보를 해야 하고 그 다음 시장에 대한 제품의 수요를 확인해야 하는데, 여기서도 개인정보를 수집해서는 안된다고 생각되어요. 이 모든 과정이 테크 기업에게는 적용되지 않고 그들은 개인정보를 마구 사용해도 된다는 생각을 가지고 있어요. 왜 제품을 만들기 전에 더 완벽하게 만들 수 있음에도 그들의 경제적 이익을 위해서 이런 과정을 무시하고 인권을 무시하는 제품을 만드는 것일까요?
기술과 그들의 경제적 성공을 위해서 우리의 인권을 포기하라는 것은 있을 수 없어요. 또한 기술 자체도 우리의 인권에 포함하는 정보를 마구 이용하도록 설계되어 있어요. 이런 기술 자체가 필요없는 것이지요. 우리의 피드백을 강제로 회사에게 주고 싶지 않은 정보까지 받아서 회사가 분석하는 것이 아니라, 우리가 주는 피드백만 받아서 그안에서 회사의 의사결정에 필요한 정보로 사용해야 합니다. 1:1문의 내용 정도만 사용하면 되는데 왜 그 선을 넘어서 우리의 일상생활과 사생활까지 수집하려 하느냐? 하는 거에요.
저자의 초반 서술에서 약간 이 부분을 혼란스럽게 진행하는 점이 살짝 아쉽긴 하지만, 저자의 경우 이런 부분. 즉 기술의 발전을 위해서 인권을 포기하는 것은 괜찮지만 그 밖의 경우는 안된다라는 부분에 대해서는 저의 의견과 다르지만 이 후의 내용에 대해서 더 살펴보고 싶긴 하네요^^.
기술을 위해서 인권을 포기히라는 지금 인공지능 개발자들이 떠드는 내용이기도 해서, 이런 부분을 포기해서는 안된다고 저는 말하고 싶어요. 이것은 독재국가를 만들어져도 기술발전만 하면 되나요? 같읕 것이기도 하고 AI에서 데이터 수집 부분은 독재국가를 만들 잠재력도 충분합니다. 전체주의 국가의 비밀경찰과 똑같은 행위거든요. AI가 뛰어난 것이 아니라 AI를 하겠다는 이유로 데이터 수집을 하는 행위가 바로 독재국가들이 하는 행위와 같기 때문이에요. 민주주의 국가에 사는 사람들이 왜 민주주의 체제를 위협하는 이런 리스크를 추가로 테크 기업들의 이익을 위해서 가져야 하는 것일까요? 그럴 필요가 없음에도 말이죠.
감시자본주의 시대를 읽고 있는데, 책이 좀 큰 책이고 볼륨이 많은 두꺼운 책인데 읽는 속도가 좀 늦고 있네요^^. 날씨도 이런 부분에 한 몫을 하고 있는 것 같아요. 오늘은 완독하기 위해서 좀 더 노력해봐야 될 것 같아요.
그림 내 폰트 출처: 고양체
