"딱 네 판만 가르쳐 주겠다" _후지사와 슈코 9단 - P273
"딱 세 판만 배우겠습니다" _조치훈 9단 - P273
"목숨을 걸고 둔다" _조치훈 9단의 자서전 제목 - P274
"기권하느니 차라리 바둑판 앞에서 죽겠다" _조치훈 9단 - P274
많은 영역에서 인공지능으로 인해 초라해지는 인간 전문가들이 쏟아져 나올 것이다. - P277
바둑계 종사자들은 구글이 알파고를 은퇴시키고 다음 과제로 단백질 구조 예측을 택한 이유를 단순하게 본다. 바둑은 돈이 안되니까. 반면 인공지능으로 단백질 구조를 예측하면 신약 개발에 걸리는 시간과 비용을 극적으로 줄여 바둑대회 상금과는 비교도 안 되는 엄청난 이익을 거둘 수 있다. - P279
구글은 그냥 기업이 아니다. 뉴욕대 스턴경영대학원 스콧 갤러웨이 교수의 표현을 빌리자면 구글은 한마디로 ‘현대인의 신‘이다. 구글은 "우리의 가장 은밀한 비밀을 모두 알고 우리가 지금 어디에 있는지, 어디로 가야 하는지 알려주며 사소한 것에서 심오한 것까지 온갖 질문에 대답해 준다". "그 어떤 기관도 사람들이 구글에게 보이는 믿음과 신뢰를 따라가지 못한다." 그 신은 자신은 사악해지지 않을 거라며, 옳은 일을 할 거라며 사람들을 안심시킨다. 그러나 실제로 옳은 일을 하지는 않으며, 옳은 일이 뭔지 고민하지도 않는다. 그 변덕스러운 신에게 바둑계 정도 규모의 공동체를 뒤흔들고 바둑계 종사자들의 가치의 근원을 박살 내는 일은 어렵지 않다. 신은 그 일을 할 수 있으며, 주저 없이 그렇게 행동한다. - P285
애플도 현대의 신이다. 이번에도 스콧 갤러웨이 교수의 표현을 빌리자면 애플은 "독자적인 믿음 체계, 존경 대상, 광신적인 추종 그리고 그리스도 상을 동원해 종교를 흉내 낸다". 애플은 "부와 교육과 서구적 가치관의 전 세계적인 상징"이며, "이성에게 더 매력적이고 싶어 하는 욕구를 근본적인 차원에서 충족시켜 준다" - P285
(빅테크 기업의 시가총액과 이 국가들의 GDP를 비교하는 것이 무의미한 일은 아니다. 어떤 나라의 주식시장이 고평가되어 있는지 아닌지 가늠할 때 흔히 그 주식시장의 시가총액과 해당국가의 GDP와 비교하기 때문이다). - P286
빅테크 기업들은 단순히 음료 시장이나 유통 시장, 혹은 휴대전화 시장 점유율을 높이겠다는 목표로 행동하지 않는다. 무언가를 마신다는 행위, 물건을 구매한다는 행위, 다른 사람과 연결된다는 행위 자체를 바꾸겠다는 식으로 움직인다. 빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어 낸다. 이것은 국가가 하지 못하는 일이다. - P286
신이 아니라 신앙이 힘을 발휘한다. - P292
기술과 인간 지능이 융합하면서 우리의 지능은 몇십 배, 몇백 배 더 높아질 것이며, 우리 인격은 현실세계와 가상 세계 여러 곳에 동시에 존재할 것이다. 아니, 그쯤 되면 현실과 가상의 구분이 없어질 것이다. - P293
"그러므로 십자가는 항상 준비되어 있어서 어디에서도 당신을 기다리고 있다. 당신은 어디로 도망치더라도 그것으로부터는 도망칠 수 없다. 당신이 어디에 가더라도 자기 자신과 함께 있으며, 어디에서도 당신 자신을 발견하기 때문이다. (...) 당신이 기꺼이 십자가를 진다면 십자가가 당신을 지고 희망의 땅, 모든 고통이 끝나는 땅까지 당신을 안내해 준다." _중세 수도사, 토마스 아 켐피스 - P298
어떤 고통은 삶에서 제거해야 하는 얼룩이 아니다. 그 고통은 삶의 일부이며, 우리 삶은 순백이 아니다. 순백이어서도 안 된다. - P298
외로움을 견디는 힘을 가진 사람은 외로움을 통해 성장하고 건강해진다. 외로움을 견디는 힘을 지닌 사람은 보다 좋은 삶을 살 수 있고, 외로움을 견디는 힘을 모르는 사람은 좋은 삶을 살지 못한다. 사실 좋은 삶을 살려면 어느 정도의 외로움이 꼭 필요하다. - P299
외로움을 견디는 힘이 있는 사람만이 외로움을 달래기 위해 다른 사람이나 사물에 의존하는 태도를 버릴 수 있다. 우리는 그 힘을 배워야 하고, 아이들에게 가르쳐야 한다. - P299
고통스럽겠지만, 그런 고통이 있는 삶이 더 좋은 삶이다. 이 점을 이해하지 못하고 기술을 개발하면 과격하고 유아적인 해결책을 추구하게 된다. - P302
우리네 보통 사람들은 당면한 문제가 해결되면 여가를 즐기는 게 아니라 미래의 위험을 해결하는 데 시간을 쏟는다. 혹은 승진을 하거나 업계의 인정을 받기 위해 애쓴다. 식기세척기가 설거지 시간을 줄여주면 그 시간만큼 초과근무를 하거나 외국어 학원에 다닌다. - P303
가치가 기술을 이끌지 못하고 기술이 가치를 훼손하는 현상은, 기술이 개념에 영향을 미친다는 사실에 우리가 아직 익숙하지 않기 때문이기도 하다. - P304
과학자들은 과학이 중립적이라고 말하며 과학의 사회적 영향력에 대한 논의를 피한다. 기술자들은 기술은 도구일 뿐이며, 쓰는 사람이 그 용도를 정한다고 주장한다. 그런 주장들은 틀렸다. 기술은 하나의 사상이다. - P304
과연 쓰는 사람이 기술의 용도를 정할 수 있는 것일까? 일본도의 용도는 일본도를 만든 장인이 거의 정한 것 아닐까? 우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다. 만약 어떤 사람이나 정당, 제도가 그런 권력을 행사하려 들면 반드시 견제 장치가 마련될 것이다. - P304
기술이 정신세계의 개념들을 바꾸고 사회의 주요한 정신적 가치들을 훼손하거나 변질시키는 일은 결코 21세기 빅테크 기업과 함께 발생한 것이 아니다. - P305
관찰력이 뛰어난 사람이 정직하게 쓴 글은 늘 읽는 사람들을 불편하게 만든다. - P309
우리가 인간의 자질로 찬미하는 것 가운데 상당수는 사실 재앙이나 고통이나 어려움에 맞서는 과정에서만 발휘될 수 있다. 그런데 기계적 진보의 경향은 재앙이나 고통이나 어려움을 제거하는 것이다. _조지 오웰 - P310
"대개 진보라 불리는 것이 대개 퇴보라 불리는 것도 수반한다" - P311
『1984년』에서는 사람들에게 고통을 가해 통제한다. 『멋진 신세계』에서는 즐길거리를 쏟아부어 사람들을 통제한다. 한마디로, 오웰은 우리가 증오하는 것이 우리를 파멸시킬까봐 두려워했다. 헉슬리는 우리가 좋아서 집착하는 것이 우리를 파멸시킬까봐 두려워했다. _미국 사회평론가, 커뮤니케이션 이론가 닐 포스트먼 - P315
구약성서의 예언자는 미래를 예측하는 사람이 아니었다. 잘못된 행동을 바꾸지 않으면 끔찍한 재앙이 올 거라고 동시대인들에게 경고하는 사람이었다. - P316
"권력의 목적은 권력 그 자체"다. 권력은 더 큰 권력을 탐한다. 민주주의 국가 독재국가건 마찬가지다. 민주주의 국가의 정부건 독재국가의 정부건 국민을 감시하고 싶어 한다. - P317
과학기술은 감시하는 자의 시간과 노력을 절감시켜 줄 수 있다. - P318
어떤 경우에는 소비자보다 더 그의 행동을 잘 예측하는 것이 기업 이익의 핵심이다. 보험회사는 고객이 교통사고를 일으킬 가능성을 고객보다 정확히 알아야 한다. - P322
불확실성은 커다란 스트레스다. 때로는 확실한 불행이 차라리 낫다는 생각마저 든다. 사람들은 불확실성을 줄이기 위해 기꺼이 지갑을 열고, 그렇기 때문에 데이터 예측분석 기술은 계속해서 투자를 받아 점점 정교해질 것이다. 많은 사람이 데이터 예측분석 기술의 고객이 되리라는 사실 자체가 데이터 예측분석에서 하나의 변수가 될 것이다. - P323
우리는 절박하게 미래를 예측하고 싶어 하면서도 놀라울 정도로 자기 자신이 만들어 내는 데이터를 분석할 줄 모르는 존재이기도 하다. - P323
히타치 중앙연구소의 야노 가즈오 소장에 따르면 행복은 가속도 센서로 측정 가능하다. 물론 사람마다, 직무마다 몸을 움직이는 정도는 다르다. 하지만 같은 사람은 행복한 날 몸을 더 활발히 움직인다. - P323
나는 사람이 기술을 통해서 자기 자신의 현재와 미래를 파악하는 게 좋은 일인지 아닌지 모르겠다. 나는 불확실성 역시 소중한 가치임을 우리가 너무 뒤늦게 깨닫게 되는 게 아닐까 우려한다. 사람은 불확실한 상태에서만 결단할 수 있다. 그리고 결단을 통해서만 성장하고 운명에 맞설 수 있다. 모든 정보를 아는 상태에서 최적의 해답을 고르는 것은 결단이 아니라 인지능력 테스트다. - P324
STS를 ‘과학기술과 사회(Science, Technology, and Society)‘로 보는 학자들은 과학기술이 일으키는 사회적 문제와 과학의 책임을 탐구한다. STS를 ‘과학기술학(Science and Technology Studies)‘이라고 보는 학자들은 과학 지식과 과학이라는 활동 자체를 연구 대상으로 삼는다. 내가 STS SF라는 용어를 만들어 냈을 때 의도한 것은 전자의 의미였다. - P326
구체적인 개념 용어를 만드는 것은 목표를 분명히 하는 데에 도움이 된다. - P326
"미리 예견된 인간의 왜곡이 비로소 우리로 하여금 이러한 왜곡으로부터 보전해야 할 인간의 개념을 찾아낼 수 있도록 도와주는 것이다" _생태주의 철학자 한스 요나스 - P328
STS SF는 기술이 가치를 훼손할 가능성에 대한 소설가들의 문학적 대응이다. 인공지능에 대한 이야기만 하는 게 아니라, 기술 전체에 대한 이야기를 하려 한다. 우리도 오웰처럼 어떤 악몽들을 막고 싶다. 가치가 기술을 이끌지 못하고 기술이 가치를 앞설 때 실현될 악몽들. 우리는 기술에 대한 가치의 통제를 주장한다. - P329
오늘날 과학기술 발전 속도에 박차를 가하는 커다란 주체는 기업과 국가이며, 그들의 주된 동기는 이윤과 군사력 강화다. - P332
가치의 근원을 설명하고 우리가 그걸 다룰 수 있게 해주는 인문학이 필요하다. 인간성이 무엇인지, 가치가 무엇인지 설명하지 않으면서 가치를 훼손하지 않는 기술을 만들어달라고 기술자에게 주문할 수는 없다. 인간적인 과학기술을 만드는 것이 과학기술인의 임무라고 말하는 순간, 인간적인 과학기술을 규정할 권리를 과학기술인에게 넘기게 된다. 지금 많은 사람이 바로 그런 실수를 저지르고 있다. 다시 한번 강조하지만 기술이 가치를 이끄는 게 아니라 가치가 기술을 이끌어야 한다. 그런데 가치란 대체 뭘까? 우리는 놀라울 정도로 모른다. - P336
삶의 가치는 어디에서 오는가? 삶 밖에서 오는가, 아니면 바로 그 삶을 사는 내가 삶에 부여하는 것인가? 가치 기준이 삶 밖에 객관적으로 존재한다면 우리는 어떤 사람들은 가치 없는 삶을 살고 있음을 받아들여야 한다. 가치 기준이 각 개인의 삶 안에 있다면 악행을 규제할 도덕적 근거가 사라진다. 그러면 도스토옙스키가 두려워한 대로 ‘모든 것이 허용된다‘. - P336
물질세계를 통제해 모든 고통을 제거하겠다는 해법은 가능하지도 바람직하지도 않다. 세상에는 감내할 가치가 있는 고통, 없애버리는 방식으로 해결해서는 안 되는 고통, 삶의 일부로 통합해야 하는 고통이 있다. 하지만 우리가 좋은 삶에 대해 숙고한 뒤에 과학기술을 이용해 주변 물질세계를 통제하고, 무의미한 고통을 줄여 더 좋은 삶을 살 수 있을 거라고 나는 믿는다. - P337
먼 곳에 있는 사람들의 이익은 흐릿하다. 곁에 있는 사람들의 불이익만큼 확실하지 않다. - P339
내 생각에는 인공지능이 아직 할 수 없고 인간만이 할 수 있는 일은 따로 있다. 좋은 상상을 하는 것, 우리가 미래를 바꿀 수 있다고 믿는 것, 그렇게 미래를 바꾸는 것이다. - P340
우리는 우리 운명의 주인이다. 우리는 우리 영혼의 선장이다. 아직까지는.
_윌리엄 어니스트 헨리의 시 「인빅투스」 마지막 구절을 일부 변형 - P340
위기십결의 나머지 아홉 가지 격언은 다음과 같다.
입계의완(入界宜緩) : 경계를 넘어설 때는 느긋하게 하라.
공피고아(攻彼顧我) : 공격할 때는 먼저 자신을 돌아보라.
기자쟁선(棄子爭先) : 돌을 버리더라도 선수를 잡아라.
사소취대(捨小就大) : 작은 것을 버리고 큰 것을 취하라.
봉위수기(逢危須棄) : 위험에 처했을 때는 버릴 것은 버려라.
신물경속(愼勿輕速) : 경솔하게 서두르지 말고 신중하게 생각하라.
동수상응(動須相應) : 상대가 움직일 때는 같이 움직여라.
피강자보(彼强自保) : 상대가 강하면 나의 안전을 도모하라.
세고취화(勢孤取和) : 형세가 고립되었을 때는 화평을 도모하라. - P359
"불쉿 직업이란 유급고용직으로 그 업무가 너무나 철저하게 무의미하고 불필요하고 해로워서, 그 직업의 종사자조차도 그것이 존재해야 할 정당한 이유를 찾지 못하는 직업형태다. 그가 고용되려면 그 직업의 존재가 전제 조건인데도 말이다. 종사자는 그런 직업이 아닌 척해야 한다는 의무를 느낀다." - P364
이 책은 하나의 패배가 단지 결과가 아니라, 세계를 새롭게 바라보는 방식이 될 수 있다는 것을 보여준다. _정재승(KAIST 뇌인지과학과 교수) - P-1
|