이 부분을 읽고 있을 즈음, 미국의 하메네이 참수작전이 이뤄졌다. 트럼프는 협력 않는 앤트로픽에 대해 불만을 토하고 있다. AI는 이미 통제불능의 리더를 만나 통제불능의 戰士가 되지 않았나.
하지만 만일 AI가 사실상 독립적인 정치적-외교적-군사적 주체로 출현한다면, 아주 오래된 힘의 균형은 사라지고 새로운 미지의 불균형이 나타날 것이다. 민족국가들의 국제적인 협력은 지난 한두 세기 동안 균형을 달성했으나 내부에서 는 불안정하게 흔들렸다. 그런데도 협력이 유지된 부분적인 이유는 협력의 주체들 사이에 내재된 평등성이었다. 몇몇 국가가 다른 국가들보다 AI를 더 기꺼이 정치적 리더십에 도입한다면, 세계의 대칭은 예측할 수 없을 정도로 심각하게 무너질 것 이다. AI가 대단히 많이 응용되는 국가나 AI 자체에 군사적으로나 외교적으로 대적해야 하는 상황에서 인간은 경쟁은 물론이고 생존조차 할 수 없을 정도로 무력해 보인다. 그러한 중간 질서가 도래하면 인간 사회는 내부에서 무너지고 외적 갈등 역시 통제가 안 될 만큼 폭발적으로 증가할 수 있다. - P141
|