3장
무서운 상상
(전략). 하지만 이제부터 할 이야기는 하나도 어렵지 않습니다. 단, 매우 무서울 수는 있습니다. 미래에 대한 무서운 상상을 한번 해보려고 합니다.- P127
정확하게 미래를 예측하는 것은 당연히 불가능합니다. 예측이라는 단어는 물리학에서나 쓸수 있습니다. - P127
다시 한번 말하지만, AI는 인간의 특정 능력을 대체하는 기계입니다.- P128
앞에서 다니엘 코코타일로의 2027년 AI 시나리오 보고서를 소개하면서, 2년까지는 아니더라도 수십 년 안에는 우리 모두가 AGI를 경험할 가능성이 높다는 이야기를 했습니다. (중략). 그런데 이 보고서에서 강조하는 AGI로 가는 단계, 그 첫 번째는 AI가 자동으로 코딩을 시작하는 겁니다. - P129
그럼 이런 위험성이 있는데 왜 인공지능 연구를 계속할까요? 간단합니다. 인공지능이 제대로 작동하면 경제학의 ‘생산성 역설‘을 풀 수 있다고 믿기 때문입니다.- P130
인공지능 유토피아의
도래인가?
결과적으로 우리가 지금 상상해볼 수 있는 건, AI를 넘어서 AGI가 등장하면 인간의 비효율성 때문에 발전이 없었던 문제들을 풀 수 있다는 것입니다.- P131
하지만 인공지능은 다 기억할 수 있습니다. (중략). 그러면 이제 우리는 우주의 비밀도 다 찾아낼 수 있지 않을까? 이런 상상을 하고 있습니다. 이게 인공지능 유토피아입니다.- P132
한 가지 더 덧붙이자면, 이게 정말 유토피아일지에 대해서도 우리가 진지한 고민을 해볼 수가 있습니다.- P133
(전략). 그렇게 해서 유토피아가 도래한다고 하지만, 더 이상 인간이 일을 할 필요도 없고, 생각을 할 필요도 없는 세상이 진정한 의미에서 유토피아일까요? 거기에 대해서는 우리가 고민을 해볼필요가 있습니다.- P134
유토피아로 가는 길목에 놓인
문제를
(전략). 샘 올트먼이 이미 이런 얘기를 했습니다. 우리는 AGI를 어떻게 만드는지 이미 알고 있습니다. (중략). . 하지만 AGI, 다시 말해서 기계가 인간의 모든 능력을 대체하기 시작하면, 이건 더이상 단순한 도구가 아닙니다. - P135
샘 올트먼이 내린 결론은 세 가지입니다.
첫 번째, AGI를 가장 먼저 달성하는 기업이나 국가는 세계적인 시장지배력을 갖게 된다.
두 번째, 반드시 미국이 가장 먼저 AGI를 달성해야 한다.
세 번째, 무슨일이 있어도 중국이 미국보다 AGI를 먼저 달성하는 건 막아야한다.- P136
다시 말해서, 인공지능이 노동시장에 주는 역할은 이미 데이터에서 보이기 시작했습니다.- P138
하지만 AGI가 지적 노동을 자동화할 수 있다면, 이제 지적노동력도 대량 생산이 될 수 있는 미래가 오게 됩니다. 결과적으로 이게 불러오는 것은 새로운 산업혁명이라고 할 수 있습니다.- P140
로마의 영광과 기본소득,
과거에서 미래를 읽는다
(전략). 산업이라는 게 죄다 사라지지는 않을텐데, 그러면 인공지능 시대에 인간은 뭘 하게 될까요? 물론 우리가 미래를 정확히 예측할 수는 없습니다.- P141
찾아보니까 로마제국 시대에 한 번 있었던 것 같습니다. 로마는 초기에 공화국이었습니다. - P141
(전략).
그런데 문제는 전혀 예상치 못한 방향에서 터졌습니다. 로마의 비극은 놀랍게도 로마가 너무 성공적인 국가였다는데에서 기인했습니다.- P143
뭐냐 하면, 계속 이기면서 전선을 확대해 나가다 보니 농한기에 원정을 나갔다가 도저히 농번기까지 돌아올 수 없게 되었다는 것입니다. 당시 도로망, 인프라로는 한번 원정을 나가면 돌아오는데 몇개월, 몇 년이 걸렸습니다.- P143
(전략). 남아있는 가족들이 생계를 유지하기 위해서는 돈을 빌려야 했습니다. 누구한테 돈을 빌렸을까요?
(중략).
모든 시민군의 가정이 다 이렇게 됐다는 것은 아니지만, 이런 일들이 점점 많이 생겼습니다.- P144
(전략). 물론 정확하게 따지면 육체노동의 가치가 없어진 것은 아니지만, 당시 로마에서는 노예에게 시민권이 없었기에 현대인의 기준과는 다소 차이가 있을수밖에 없습니다. ‘로마시민‘들의 입장에서 보면 시민 개개인의 노동에는 아무런 가치가 없게 되었습니다. - P145
시민들이 노동을 하려야노동을 할수 없게 되었다는 얘기입니다. 무료로 일하는 노예(aka. AI)가 있는데 보통 사람에게 노동을 시키고 대가를 치를 필요가 없었습니다.- P145
결국 무슨 일이 벌어졌을까요? 첫 번째, 로마 국가는 점점잘 살게 되는데, 중산층은 완전히 몰락해버립니다. 두 번째, 로마제국에서 실업률이 40% 정도로 치솟습니다.- P145
미국 역사학자들이 말하길, 2025년 미국에서 벌어지는 일이 딱 후기 로마 공화정과 똑같다고 말합니다. (중략). 지금 아주 보수적인 학자들도 미국의 민주주의가 미국 공화정이 수십 년 안에 제국으로 대체될 거라고 예측하고 있습니다.- P146
기본소득이라는것이 현대에 와서야 탄생한 개념이 아니라, 로마에서 처음으로생각해 낸 개념이라는 것입니다. (중략). 말씀드린 것처럼 로마는 다른나라를 계속 정복하고, 지중해 권역을 죄다 손아귀에 넣을 정도로 번영한 부자 국가였기 때문에 이게 가능했습니다.- P147
그런데 엔터테인먼트엔 문제가 있습니다. 무료로 제공되는데, 매일 보니까 순식간에 질려버립니다. (중략). 그런데 로마 중산층은 더 이상 자아실현을 할 방법이 없었습니다.- P149
기회가 되시면수전 손택Susan Sontag의 『타인의 고통 Regarding thePain of Others』이라는 책을 꼭 읽어보시기를 권합니다. 그가 말하기를, 인간이 느끼는 가장 큰 행복 중 하나가 타인의 고통이라는 겁니다. - P150
