오늘 읽기 시작한 부분에서는 일본 바둑계에서 활동했던...

오늘 읽기 시작한 부분에서는 일본 바둑계에서 활동했던 한국 출신의 프로기사인 조치훈 9단에 관한 일화가 하나 나온다. 조치훈 9단이 챔피언의 자리에 오르기 전, 기존 챔피언이었던 후지사와 슈코 9단은 7판 4선 승제인 결승 대국에 앞서 조치훈 9단을 도발한다. ‘딱 4판만 가르쳐주겠다‘고. 이 말은 자기가 한 판도 지지 않고 4판 다 이기겠다는 자신감의 표현이자 조치훈 9단이 내 상대가 되지 않는다는 것을 압축적으로 표현한 것이었다.

자존심이 다소 상할 법도 한데 이 말을 들은 조치훈 9단은 결코 호락호락하게 물러서지 않았다. 도전자의 입장에서 기존 챔피언의 자존심을 어느정도는 세워주는 듯 하면서도 자신이 새로운 챔피언이 되겠다는 마음을 결코 숨기지 않았다. ‘딱 3판만 배우겠다‘고 맞받아친 것이다.

본문에 따르면 그 결승 대국에서 조치훈 9단은 최종 스코어 4 : 3으로 챔피언에 올랐다고 하는데, 이 일화를 보면서 이런게 진짜 멋있는 거라는 생각을 하지 않을 수 없었다.

이런 멋을 보여주기 위해서는 기본적인 바둑 실력은 당연히 있어야 할 것이고, 여기에 더해 상대방과의 멘탈싸움에서도 결코 지지 않겠다는 정신력이 필히 뒷받침되어야 할 것이다. 위 사례에서 조치훈 9단의 뼈있는 말 한마디가 이러한 정신력을 잘 보여준다는 생각이 든다.

또한 이 사례를 통해 바둑이라는 것이 멘탈스포츠라는 것을 실감할 수 있었다. 인간 대 인간이 두는 것이다보니 멘탈이 흔들리면 최선의 수를 두지 못할 수 있고 그런 것에 따라 승패가 얼마든지 뒤바뀔 수 있다는 점에서 멘탈의 중요성은 우리가 일반적으로 생각하는 것보다 훨씬 더 크다고 할 수 있겠다.

물론 이 책 전반에 핵심 소재로 등장하는 ‘알파고‘로 대변되는 인공지능 프로그램이 요 근래에 등장함에 따라 추상적인 성격의 멘탈이나 직관보다는 객관적인 성격의 데이터에 기반한 의사결정이 각광받고 있는 게 지금의 현실이긴 하지만, 적어도 위의 사례처럼 인간 대 인간으로 대결하거나 경쟁하는 구도에서만큼은 멘탈의 중요성을 결코 간과할 수 없을 것이다. 어차피 시간이 지나면 인공지능이라는 것도 점점 사람들에게 일상적으로 받아들여질 것이고 결국에는 그것을 어떻게 활용하느냐의 싸움이 될텐데 이 지점에서 승부를 가르는 건 결국 인간의 멘탈에 달려 있기 때문이다. 아무 생각없이 AI를 활용한 사람과 자신만의 철학을 가지고 AI를 활용한 사람이 경쟁한다면 최종적으로 그 경쟁에서 승리할 확률이 높은 사람은 후자가 좀 더 높지 않을까? 그래서인지는 몰라도 요즘 대학 입시에서 철학과의 인기가 점점 올라가고 있는 건 결코 우연이 아닌 듯하다.

"딱 네 판만 가르쳐 주겠다" _후지사와 슈코 9단 - P273

"딱 세 판만 배우겠습니다" _조치훈 9단 - P273

"목숨을 걸고 둔다" _조치훈 9단의 자서전 제목 - P274

"기권하느니 차라리 바둑판 앞에서 죽겠다" _조치훈 9단 - P274

많은 영역에서 인공지능으로 인해 초라해지는 인간 전문가들이 쏟아져 나올 것이다. - P277

‘진짜 기업은 기업이구나‘ - P278

바둑계 종사자들은 구글이 알파고를 은퇴시키고 다음 과제로 단백질 구조 예측을 택한 이유를 단순하게 본다. 바둑은 돈이 안되니까. 반면 인공지능으로 단백질 구조를 예측하면 신약 개발에 걸리는 시간과 비용을 극적으로 줄여 바둑대회 상금과는 비교도 안 되는 엄청난 이익을 거둘 수 있다. - P279

구글은 그냥 기업이 아니다. 뉴욕대 스턴경영대학원 스콧 갤러웨이 교수의 표현을 빌리자면 구글은 한마디로 ‘현대인의 신‘이다. 구글은 "우리의 가장 은밀한 비밀을 모두 알고 우리가 지금 어디에 있는지, 어디로 가야 하는지 알려주며 사소한 것에서 심오한 것까지 온갖 질문에 대답해 준다". "그 어떤 기관도 사람들이 구글에게 보이는 믿음과 신뢰를 따라가지 못한다." 그 신은 자신은 사악해지지 않을 거라며, 옳은 일을 할 거라며 사람들을 안심시킨다. 그러나 실제로 옳은 일을 하지는 않으며, 옳은 일이 뭔지 고민하지도 않는다. 그 변덕스러운 신에게 바둑계 정도 규모의 공동체를 뒤흔들고 바둑계 종사자들의 가치의 근원을 박살 내는 일은 어렵지 않다. 신은 그 일을 할 수 있으며, 주저 없이 그렇게 행동한다. - P285

애플도 현대의 신이다. 이번에도 스콧 갤러웨이 교수의 표현을 빌리자면 애플은 "독자적인 믿음 체계, 존경 대상, 광신적인 추종 그리고 그리스도 상을 동원해 종교를 흉내 낸다". 애플은 "부와 교육과 서구적 가치관의 전 세계적인 상징"이며, "이성에게 더 매력적이고 싶어 하는 욕구를 근본적인 차원에서 충족시켜 준다" - P285

(빅테크 기업의 시가총액과 이 국가들의 GDP를 비교하는 것이 무의미한 일은 아니다. 어떤 나라의 주식시장이 고평가되어 있는지 아닌지 가늠할 때 흔히 그 주식시장의 시가총액과 해당국가의 GDP와 비교하기 때문이다). - P286

빅테크 기업들은 단순히 음료 시장이나 유통 시장, 혹은 휴대전화 시장 점유율을 높이겠다는 목표로 행동하지 않는다. 무언가를 마신다는 행위, 물건을 구매한다는 행위, 다른 사람과 연결된다는 행위 자체를 바꾸겠다는 식으로 움직인다. 빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어 낸다. 이것은 국가가 하지 못하는 일이다. - P286

신이 아니라 신앙이 힘을 발휘한다. - P292

기술과 인간 지능이 융합하면서 우리의 지능은 몇십 배, 몇백 배 더 높아질 것이며, 우리 인격은 현실세계와 가상 세계 여러 곳에 동시에 존재할 것이다. 아니, 그쯤 되면 현실과 가상의 구분이 없어질 것이다. - P293

모든 가치는 개념의 부분 집합 - P293

"그러므로 십자가는 항상 준비되어 있어서 어디에서도 당신을 기다리고 있다. 당신은 어디로 도망치더라도 그것으로부터는 도망칠 수 없다. 당신이 어디에 가더라도 자기 자신과 함께 있으며, 어디에서도 당신 자신을 발견하기 때문이다. (...) 당신이 기꺼이 십자가를 진다면 십자가가 당신을 지고 희망의 땅, 모든 고통이 끝나는 땅까지 당신을 안내해 준다." _중세 수도사, 토마스 아 켐피스 - P298

어떤 고통은 삶에서 제거해야 하는 얼룩이 아니다. 그 고통은 삶의 일부이며, 우리 삶은 순백이 아니다. 순백이어서도 안 된다. - P298

외로움을 견디는 힘을 가진 사람은 외로움을 통해 성장하고 건강해진다. 외로움을 견디는 힘을 지닌 사람은 보다 좋은 삶을 살 수 있고, 외로움을 견디는 힘을 모르는 사람은 좋은 삶을 살지 못한다. 사실 좋은 삶을 살려면 어느 정도의 외로움이 꼭 필요하다. - P299

외로움을 견디는 힘이 있는 사람만이 외로움을 달래기 위해 다른 사람이나 사물에 의존하는 태도를 버릴 수 있다. 우리는 그 힘을 배워야 하고, 아이들에게 가르쳐야 한다. - P299

고통스럽겠지만, 그런 고통이 있는 삶이 더 좋은 삶이다. 이 점을 이해하지 못하고 기술을 개발하면 과격하고 유아적인 해결책을 추구하게 된다. - P302

우리네 보통 사람들은 당면한 문제가 해결되면 여가를 즐기는 게 아니라 미래의 위험을 해결하는 데 시간을 쏟는다. 혹은 승진을 하거나 업계의 인정을 받기 위해 애쓴다. 식기세척기가 설거지 시간을 줄여주면 그 시간만큼 초과근무를 하거나 외국어 학원에 다닌다. - P303

가치가 기술을 이끌지 못하고 기술이 가치를 훼손하는 현상은, 기술이 개념에 영향을 미친다는 사실에 우리가 아직 익숙하지 않기 때문이기도 하다. - P304

과학자들은 과학이 중립적이라고 말하며 과학의 사회적 영향력에 대한 논의를 피한다. 기술자들은 기술은 도구일 뿐이며, 쓰는 사람이 그 용도를 정한다고 주장한다. 그런 주장들은 틀렸다. 기술은 하나의 사상이다. - P304

과연 쓰는 사람이 기술의 용도를 정할 수 있는 것일까? 일본도의 용도는 일본도를 만든 장인이 거의 정한 것 아닐까? 우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다. 만약 어떤 사람이나 정당, 제도가 그런 권력을 행사하려 들면 반드시 견제 장치가 마련될 것이다. - P304

기술이 정신세계의 개념들을 바꾸고 사회의 주요한 정신적 가치들을 훼손하거나 변질시키는 일은 결코 21세기 빅테크 기업과 함께 발생한 것이 아니다. - P305

관찰력이 뛰어난 사람이 정직하게 쓴 글은 늘 읽는 사람들을 불편하게 만든다. - P309

우리가 인간의 자질로 찬미하는 것 가운데 상당수는 사실 재앙이나 고통이나 어려움에 맞서는 과정에서만 발휘될 수 있다. 그런데 기계적 진보의 경향은 재앙이나 고통이나 어려움을 제거하는 것이다. _조지 오웰 - P310

"대개 진보라 불리는 것이 대개 퇴보라 불리는 것도 수반한다" - P311

『1984년』에서는 사람들에게 고통을 가해 통제한다. 『멋진 신세계』에서는 즐길거리를 쏟아부어 사람들을 통제한다. 한마디로, 오웰은 우리가 증오하는 것이 우리를 파멸시킬까봐 두려워했다. 헉슬리는 우리가 좋아서 집착하는 것이 우리를 파멸시킬까봐 두려워했다. _미국 사회평론가, 커뮤니케이션 이론가 닐 포스트먼 - P315

구약성서의 예언자는 미래를 예측하는 사람이 아니었다. 잘못된 행동을 바꾸지 않으면 끔찍한 재앙이 올 거라고 동시대인들에게 경고하는 사람이었다. - P316

"권력의 목적은 권력 그 자체"다. 권력은 더 큰 권력을 탐한다. 민주주의 국가 독재국가건 마찬가지다. 민주주의 국가의 정부건 독재국가의 정부건 국민을 감시하고 싶어 한다. - P317

과학기술은 감시하는 자의 시간과 노력을 절감시켜 줄 수 있다. - P318

어떤 경우에는 소비자보다 더 그의 행동을 잘 예측하는 것이 기업 이익의 핵심이다. 보험회사는 고객이 교통사고를 일으킬 가능성을 고객보다 정확히 알아야 한다. - P322

불확실성은 커다란 스트레스다. 때로는 확실한 불행이 차라리 낫다는 생각마저 든다. 사람들은 불확실성을 줄이기 위해 기꺼이 지갑을 열고, 그렇기 때문에 데이터 예측분석 기술은 계속해서 투자를 받아 점점 정교해질 것이다. 많은 사람이 데이터 예측분석 기술의 고객이 되리라는 사실 자체가 데이터 예측분석에서 하나의 변수가 될 것이다. - P323

우리는 절박하게 미래를 예측하고 싶어 하면서도 놀라울 정도로 자기 자신이 만들어 내는 데이터를 분석할 줄 모르는 존재이기도 하다. - P323

히타치 중앙연구소의 야노 가즈오 소장에 따르면 행복은 가속도 센서로 측정 가능하다. 물론 사람마다, 직무마다 몸을 움직이는 정도는 다르다. 하지만 같은 사람은 행복한 날 몸을 더 활발히 움직인다. - P323

나는 사람이 기술을 통해서 자기 자신의 현재와 미래를 파악하는 게 좋은 일인지 아닌지 모르겠다. 나는 불확실성 역시 소중한 가치임을 우리가 너무 뒤늦게 깨닫게 되는 게 아닐까 우려한다. 사람은 불확실한 상태에서만 결단할 수 있다. 그리고 결단을 통해서만 성장하고 운명에 맞설 수 있다. 모든 정보를 아는 상태에서 최적의 해답을 고르는 것은 결단이 아니라 인지능력 테스트다. - P324

STS를 ‘과학기술과 사회(Science, Technology, and Society)‘로 보는 학자들은 과학기술이 일으키는 사회적 문제와 과학의 책임을 탐구한다. STS를 ‘과학기술학(Science and Technology Studies)‘이라고 보는 학자들은 과학 지식과 과학이라는 활동 자체를 연구 대상으로 삼는다. 내가 STS SF라는 용어를 만들어 냈을 때 의도한 것은 전자의 의미였다. - P326

구체적인 개념 용어를 만드는 것은 목표를 분명히 하는 데에 도움이 된다. - P326

"미리 예견된 인간의 왜곡이 비로소 우리로 하여금 이러한 왜곡으로부터 보전해야 할 인간의 개념을 찾아낼 수 있도록 도와주는 것이다" _생태주의 철학자 한스 요나스 - P328

STS SF는 기술이 가치를 훼손할 가능성에 대한 소설가들의 문학적 대응이다. 인공지능에 대한 이야기만 하는 게 아니라, 기술 전체에 대한 이야기를 하려 한다. 우리도 오웰처럼 어떤 악몽들을 막고 싶다. 가치가 기술을 이끌지 못하고 기술이 가치를 앞설 때 실현될 악몽들. 우리는 기술에 대한 가치의 통제를 주장한다. - P329

오늘날 과학기술 발전 속도에 박차를 가하는 커다란 주체는 기업과 국가이며, 그들의 주된 동기는 이윤과 군사력 강화다. - P332

가치의 근원을 설명하고 우리가 그걸 다룰 수 있게 해주는 인문학이 필요하다. 인간성이 무엇인지, 가치가 무엇인지 설명하지 않으면서 가치를 훼손하지 않는 기술을 만들어달라고 기술자에게 주문할 수는 없다. 인간적인 과학기술을 만드는 것이 과학기술인의 임무라고 말하는 순간, 인간적인 과학기술을 규정할 권리를 과학기술인에게 넘기게 된다. 지금 많은 사람이 바로 그런 실수를 저지르고 있다. 다시 한번 강조하지만 기술이 가치를 이끄는 게 아니라 가치가 기술을 이끌어야 한다. 그런데 가치란 대체 뭘까? 우리는 놀라울 정도로 모른다. - P336

삶의 가치는 어디에서 오는가? 삶 밖에서 오는가, 아니면 바로 그 삶을 사는 내가 삶에 부여하는 것인가? 가치 기준이 삶 밖에 객관적으로 존재한다면 우리는 어떤 사람들은 가치 없는 삶을 살고 있음을 받아들여야 한다. 가치 기준이 각 개인의 삶 안에 있다면 악행을 규제할 도덕적 근거가 사라진다. 그러면 도스토옙스키가 두려워한 대로 ‘모든 것이 허용된다‘. - P336

물질세계를 통제해 모든 고통을 제거하겠다는 해법은 가능하지도 바람직하지도 않다. 세상에는 감내할 가치가 있는 고통, 없애버리는 방식으로 해결해서는 안 되는 고통, 삶의 일부로 통합해야 하는 고통이 있다. 하지만 우리가 좋은 삶에 대해 숙고한 뒤에 과학기술을 이용해 주변 물질세계를 통제하고, 무의미한 고통을 줄여 더 좋은 삶을 살 수 있을 거라고 나는 믿는다. - P337

먼 곳에 있는 사람들의 이익은 흐릿하다. 곁에 있는 사람들의 불이익만큼 확실하지 않다. - P339

내 생각에는 인공지능이 아직 할 수 없고 인간만이 할 수 있는 일은 따로 있다. 좋은 상상을 하는 것, 우리가 미래를 바꿀 수 있다고 믿는 것, 그렇게 미래를 바꾸는 것이다. - P340

우리는 우리 운명의 주인이다.
우리는 우리 영혼의 선장이다.
아직까지는.

_윌리엄 어니스트 헨리의 시 「인빅투스」 마지막 구절을 일부 변형 - P340

위기십결의 나머지 아홉 가지 격언은 다음과 같다.

입계의완(入界宜緩) : 경계를 넘어설 때는 느긋하게 하라.

공피고아(攻彼顧我) : 공격할 때는 먼저 자신을 돌아보라.

기자쟁선(棄子爭先) : 돌을 버리더라도 선수를 잡아라.

사소취대(捨小就大) : 작은 것을 버리고 큰 것을 취하라.

봉위수기(逢危須棄) : 위험에 처했을 때는 버릴 것은 버려라.

신물경속(愼勿輕速) : 경솔하게 서두르지 말고 신중하게 생각하라.

동수상응(動須相應) : 상대가 움직일 때는 같이 움직여라.

피강자보(彼强自保) : 상대가 강하면 나의 안전을 도모하라.

세고취화(勢孤取和) : 형세가 고립되었을 때는 화평을 도모하라. - P359

"불쉿 직업이란 유급고용직으로 그 업무가 너무나 철저하게 무의미하고 불필요하고 해로워서, 그 직업의 종사자조차도 그것이 존재해야 할 정당한 이유를 찾지 못하는 직업형태다. 그가 고용되려면 그 직업의 존재가 전제 조건인데도 말이다. 종사자는 그런 직업이 아닌 척해야 한다는 의무를 느낀다." - P364

이 책은 하나의 패배가 단지 결과가 아니라, 세계를 새롭게 바라보는 방식이 될 수 있다는 것을 보여준다. _정재승(KAIST 뇌인지과학과 교수) - P-1