012. 김대식의 인간 vs 기계

김대식의 인간 vs 기계 - 인공지능이란 무엇인가
김대식 지음 / 동아시아 / 2016년 4월

이 책은 인공지능의 발달 역사와 함께 머지않은 미래에 도래하게 될 인공지능의 시대에 대해, 그리고 그 위험성에 대해 말하는 책이다. 뇌과학으로 유명하고 활발히 활동을 하고 있는 김대식 교수의 책이라 예전부터 관심이 갔던 책이었다.

하지만 사실 앞부분이 내게 그렇게 흥미 있게 다가오진 않았다. 컴퓨터와 뇌의 차이점을 분석하며 어떻게 다른가를 서술하는데 인공지능이 탄생하기까지의 역사를 소개하는 과정이 생각보다 지루했다. 물론 내 주관이다. 그리고 그렇게 해서 탄생되어진 인공지능의 학습기술 '딥러닝'에 대해서도 상세히 밝혀낸다. 인공지능에 대해 현재 알려진 모든 것을 알려준다. 물론 상세한 정보는 아니라서 우리 같은 일반인 입문자들이나 학생들이 읽기 수월한 느낌이었지만, 오히려 그렇기 때문에 쓰여진 지식들이 피상적인 느낌도 없지 않아 있었다.

그렇지만 책의 중후반부는 흥미로웠고 두렵다는 느낌이 많이 들었다. 시대가 변하고 기술의 발전은 우리에게 득이 될지 실이 될지 알 수 없다. 그러한 과도기 지점에 있는 우리들은 변동하는 세계에 발빠르게 맞춰가지 않는다면 도태되어 버리고 만다는 것이다. 가치로 판단이 되어지는 자본 사회에서 기계에게 나의 가치마저 빼앗겨 버린다면 마르크스가 표현한 대로 아무런 능력이 없는 잉여인간이 되는 것이다. 그렇기에 더욱 준비해야 한다. 인간만이 할 수 있는 마지막 방편을 향해..

각종 기업에서 다양한 시뮬레이션을 해보았던 결과는 하나같이 인류멸망이라는 종착역에 도달한다고 한다.... 미래가 그런 방향을 제시한다면 지금까지의 인류가 그랬듯이 새로운 종을 인정하고 열등하지만 또 하나의 종으로서 그러한 종의 변화를 받아들여야 하지 않을까... 불쾌한 느낌이 들긴 하겠지만...

그래서 특히 마지막 결론 부분이 무척 맘에 들었다. 기계에게 인간이 왜 필요한지 납득이 가도록 인간은 해로운 생명체가 되어선 안된다는 말. 거시적으로 본다면 그것이 지구를 위한 것이고 모두를 위한 것이다. 인류의 보존을 위해서라도 인간이 올바른 행동을 하게 된다면 그때는 정말 밝은 유토피아적 세계에 살 수 있게 되지 않을까?

아무렴 지금의 나는 기계와는 차별화된 인간만이 할 수 있는 일을 하도록 노력해야겠다.

p 103
생각과 언어를 봤을 때 상당히 다양한 생각들이 동일한 단어로 맵핑될 수가 없겠죠. 왜냐하면 생각의 숫자가 언어의 숫자보다 훨씬 더 많으니까요. 따라서 단어만 보고 역으로 ‘어떤 생각을 했었는가?‘라는 재구현 역시 불가능합니다.

p 177
당연히 뇌는 무엇인가를 계산을 하고 그 일부만을 언어로 표현하는데, 언어로 표현할 수 없는 모든 걸 우리가 적분해서 합쳐서 직감이라고 이름을 붙여준거라고 생각합니다.

p 272
인공지는 기반의 기술이 분명 특이점을 만들 것인데, 이 시점이 언제인지는 아무도 모릅니다. 확실한 것은 200년 후가 아니라 10~30년 남짓 남았다는 거죠. 하지만 우리는 여전히 일상을 즐기던 칠면조들처럼 ‘지금까지 일어나지 않았으니 앞으로도 일어나지 않을 일‘이라고 착각하며 살고 있지는 않나요?

p 308
하나 알 수 있는 것은, 언제든지 상황을 냉철하게 분석하고 세상을 정확하게 파악해서 무엇이 필요하다고 최대한 빨리 결론을 내서 거기에 빠르게 적응할 수 잇는 능력을 키워야 한다는 것입니다. 즉, 세상을 항상 현실적으로 냉철하게 분석할 수 있는 능력과 자신의 능력을 분석할 수 있는 솔직함, 결론이 났을 때 실천할 수 있는 노력정신 말입니다.

p 313
튜링이 걱정했었던 점은 이것입니다. 기계에게 특별한 지능이 있어도 인간은 믿어주지 않을 거란 거죠. 다르게 생겼으니까. 아무리 기계에게 인공지능이 생겨서 ‘나는 생각한다. 고로 나는 존재한다‘라고 말해도 ‘네 조상이 전자레인지인데 무슨 지능이 있을까‘라며 무시할 거예요. 그건 새로운 인종차별이라 볼 수도 있습니다. 확인할 수도 없고 검증할 수도 없지만 인간은 서로 믿어주는 것처럼, 아무리 질문을 해도 인간과 기계를 구별할 수 없다면 기게도 지능과 자아를 가지고 있다고 믿어줘야 한다는 거죠. 그렇지 않으면 그건 차별이라는 겁니다. 그냥 기계이기 때문에 지능이 없다. 이렇게 우리가 인공지능을 만든다는 건 사실 튜링테스트를 통과하기 위해서 기계는 사람을 속일 수 있는 방법을 배워야 한다는 거에요.

p 322
그러다가 어느 한순간 인간을 놓고 질문을 하게 됩니다. ‘인간은 지구에 왜 있어야 되나?‘ 이때 인간이 만든 ‘인간의 존엄은 절대적이다‘는 설득력을 잃을 것입니다. 강한 인공지능은 좀 더 객관적인 근거를 찾겠죠. 그때 인류는 딱히 할 말이 별로 없습니다.

p 344
유일하게 좋은 시나리오는 강한 인공지능이 그나마 ‘지구에 인간이 있는 것이 좋다‘라는 결론을 내게 하는 것입니다. 그렇다면 지금부터라도 우리가 해야 하는 일은 우리가 미래 기계의 평가 수준에 맞도록 행동하는 것입니다.

p 350
앞으로 닥칠 미래가 있는데 인간이 이미 기계 같은 삶을 살고 있다면, 기계한테 100퍼센트 집니다. 결국 우리가 기계에게 이기기 위해서는 인간다운 삶을 살아야겠죠. 다시 말해, 내가 하는 일이 이미 기계 같다면 살아남을 수 없습니다. 따라서 인간이 가진 유일한 희망은 ‘우리는 기계와 다르다‘입니다. 그 차별화된 인간다움을 가지고 살아가면 되지 않을까 하는 희망을 가져봅니다.