그런데 프라이버시 보호를 한다는 것이 무엇을 의미하는가? 프라이버시는 간단히 요약해서 개념을 잡기가 쉽지않다. 사실 프라이버시의 개념을 둘러싸고 학계에서는 지금까지 수많은 논의가 있었다. 프라이버시는 계속해서 변화하는 무빙 타깃moving target의 성격이 있어서, 이를 구체화하는 데에 추가적인 어려움이 있다. 무빙타깃이란 시대가 바뀌고 사회가 바뀌면서 그 실질적인 의미가 계속해서 변화한다는 뜻이다. - P194
사실 ‘프라이버시 = 숨김‘이라는 시각 자체가 그릇된 프레임이다. 프라이버시 개념을 뭔가 숨기고 싶어 하는 것으로 해석하게 되면, 개개인에 대해 호기심을 가지고 적극적으로 정보를 수집하고 싶어하는 입장과 그 반대로 정보를 지켜내고 싶어 하는 입장 사이의 대결구조로 상황을 바라보기 쉽다. 그런 식으로 쫓고 쫓기는 게임의 구도가 형성되면 정말 피곤한 세상이 될 수밖에 없다. 또한 어느 만큼의 정보수집을 허용할 것인지를 둘러싸고 답이 없는 지리한 공방이 무한반복될 가능성도 있다.
프라이버시가 없이 누군가로부터의 지속적인 모니터링이나 감시의 대상이 될 경우에 나타날 수 있는 가장 큰 문제는 민주사회의 기본원칙이 훼손될 가능성에 있다. 즉 프라이버시 보호가 충분치 않다는 인식이 생기면 이로부터 개인의 표현이나 행동에 상당한 위축효과chilling effects 가 발생하게 된다. 예를 들어, 국가건 거대 기업이건 누군가 인터넷 공간에서 나에 관한 세밀한 정보를 수집하고 있고 이러한 정보가 내 이익에 반하는 형태로 이용될지도 모른다는 의혹이 생기면 인터넷 안에서의 나의 일거수일투족에 대해 각별히 조심하자는 태도가 발생할 수 있는 것이다. - P199
지나친 정보수집이나 무분별한 정보수집은 그 자체로도 문제일 수 있지만, 나아가 사회적으로는 대다수 개인이 무기력함powerlessness, vulnerability을 느끼는 문제를 일으킬 수 있다. 거대한 시스템 안에서 개인이 실질적으로 할 수 있는것이 거의 없다고 판단하면 그로부터 무기력함을 느끼게되는 것은 당연하다. 또한 이는 민주사회의 기본적인 구성원리를 훼손하는 것이 될 수 있다. 이런 점에서 프라이버시를 단순히 ‘무언가를 숨기는 것‘이라고 바라보는 것은 매우 단편적인 시각이다. - P200
2019년에 최종 발표된 가이드라인은 ‘신뢰할 수 있는‘ 인공지능을 위한 윤리 가이드라인 Ethics Guidelines for TrustworthyArtificial Intelligence‘이다. 인공지능과 관련된 사회적 신뢰도 확보가 중요하고, 이를 위해 윤리 가이드라인이 필요하다는것이 이 작업의 대전제다. 이 가이드라인은 합법성 lawful, 윤리성 ethical, 기술적·사회적 견고성robust의 3가지 대원칙을 담고 있다. - P224
OECD 권고에 담긴 인공지능 원칙을 보자. 신뢰할 수 있는 인공지능을 만들기 위한 기본 원칙 5가지가 제시되어있는데, 먼저 포용적 성장, 지속가능한 개발 및 웰빙Inclusivegrowth, sustainable development and well-being이 있고, 두 번째는 인간 중심의 가치 및 공정성 Human-centred values and fairness, 세 번째는 투명성 및 설명가능성 Transparency and explainability이다. 그리고 네 번째는 견고성, 보안 및 안전 Robustness, security and safety, 다섯 번째는 책임성Accountability이다. - P225
이처럼 인공지능의 일부 맥락에서는 인간이 개입하는것이 정당화되는 한편, 또 다른 측면에서는 인간의 역할이최소화될 것이 요구되기도 한다. 상황에 따라 필요한 관여의 내용이나 방식도 달라질 수 있다. 인공지능에 대한 관여의 수준에 유연성이 있으려면 더욱 더 신뢰의 확보가 중요하다. - P254
이를 더 일반화하면, 훈련 데이터나 입력값에 대한 통제에 관한 논의와 연결된다. 훈련 데이터나 입력값에 대해 통제를 하면 그에 따라 인공지능 알고리즘의 성능은 전반적으로 저하될 수밖에 없고, 기대하는 성과를 내지 못할 가능성이 커진다. 다른 한편, 훈련 데이터나 입력값에 대한 통제를 하지 않으면 사회적 차별이 심화되는 등 부작용이 커지지 않을까 하는 우려가 본격화되어 나타날 수 있다. 이런우려를 불식시키기 위해서는 인공지능 윤리에 대한 지속적인 관심을 통해 사회적 신뢰를 충분히 쌓기 위한 노력을 본격적으로 기울일 필요가 있다. - P255
|