지금 한국 정치의 상황을 보면, AI의 자리에 강성 커뮤니티를 넣어봐도 문맥은 다르지 않을듯. 이미 우리는 정치인을 넘어선 무엇에 의해 끌려가고 있지 않은가
인간이 해석할 수 없는 AI가 인간이 수용할 수 없고 종래에 상상하지 못한 결정을 내린다면, 그것을 정 정하거나 무시할 근거가 인간에게는 없다. AI를 방해하지 않으려는 충동만 커지고, 과거의 인간 통치에 비해 자명해 보이는 AI 통치의 우수성 때문에 이러한 충동은 악화될 것이다. AI 통치자는 실로 더는 좋을 수 없는 최상의 결과를 가져올 수 있다. 만일 그렇게 된다면 AI를 그만 사용하거나 사용 범위를 한정하는 것은 비논리적으로 보인다. 특히 지정학적 경쟁에서 AI의 사용 제한이 반드시 불이익으로 이어지는 맥락에서는 더 더욱 그렇다.
마찬가지로 AI가 제공하는 우수한 결과에 익숙해진 인간 지도자들은 자신의 정통성을 확보하기 위해 습관적으로 AI에 의존할 것이다. 또한 AI가 스스로 편향을 키울 수도 있다. AI 파트너에게 충성스러운 인간 지도자가 임명 기간보다 오래 권력을 유지하길 원하여 규약을 위반하려 한다면, 과연 AI가 이를 저지하기 위해 개입할까? - P131
|