사악해지지 말자고 한 구글의 다짐은 그들이 한없이 사...

사악해지지 말자고 한 구글의 다짐은 그들이 한없이 사악해질 수 있고, 그렇게 될 걸 알았기 때문 아닐까

구글은 그냥 기업이 아니다. 뉴욕대 스턴경영대학원 스콧 갤러웨이 교수의 표현 을 빌리자면 구글은 한마디로 ‘현대인의 신‘이다. 구글은 "우리의 가장 은밀한 비밀을 모두 알고 우리가 지금 어디에 있는지, 어디로 가야 하는지 알려주며 사소한 것에서 심오한 것까지 온갖 질문에 대답해 준다". "그 어떤 기관도 사람들이 구글에게 보이는 믿음과 신뢰를 따라가지 못한다." 그 신은 자신은 사악해지지 않을 거라며, 옳은 일을 할 거라며 사람들을 안심시킨다. 그러나 실제로 옳은 일을 하지는 않으며, 옳은 일이 뭔지 고민하지도 않는다. 그 변덕스러운 신에게 바둑계 정도 규모의 공동체를 뒤흔들고 바둑계 종사자들의 가치의 근원을 박살 내는 일은 어렵지 않다. 신은 그일을 할 수 있으며, 주저 없이 그렇게 행동한다. - P289

외부의 가치는 스스로 거세시킨 현대 인류. 내재적 가...

외부의 가치는 스스로 거세시킨 현대 인류. 내재적 가치조차 피조물인 AI에 의해 빼앗긴다면 무엇에서 존재의 가치를 찾을 텐가

나는 AI 시대가 공허의 시대가 될지도 모르겠다고 상상한다.
평범한 인간들이 가치를 잃어버리고, 가치로부터 소외되는 현대인은 종교로부터 멀어지면서 인간 외부에 객관적 가치가 있다는 믿음에서 멀어졌다. 현대 주류 경제학이 노동가치설을 폐기하면서 우리는 어떤 일에 내재적 가치가 있다는 믿음에서도 멀어졌다.
이제 무신론자와 자유시장주의자가 함께 합의할 수 있는 가치는 시장 가격인데, 그것은 도덕적 규범이나 사회적 가치와는 상관없는 개념이다. 이제 우리는 가치가 없다고 느끼는 일을 하면서도 적당한 급여를 받을 때, 그 일에 왜 가치가 없다고 느끼는지 잘 설명하지 못한다.
우리가 새로운 가치의 원천을 찾아내지 못하면 인공지능에 기반한 사회는 거대한 ‘죽음의 집‘이 될지도 모른다. 그것은 급여와는 상관없다. - P225

하라리는 인류의 잔존가치를 후대 생산이라고 예견했던 ...

하라리는 인류의 잔존가치를 후대 생산이라고 예견했던 게 기억난다. 인간의 존재가치는 무엇인가.

2000년대 들어 선진국에서는 중산층이 붕괴되는 현상이 일어났고 그 큰 원인은 세계화와 자동화로 인한 중산층 일자리 감소였다. 디트로이트의 자동차 공장에서 일하던 블루칼라 노동자가 값싸고 질 좋은 한국제 자동차 때문에, 혹은 공장에서 도입한 조립 로봇 때문에 일자리를 잃고 중산층에서 밀려났다. 이후 값싼 일자리를 전전하는 동안 그는 좌절감에 빠졌고 값싼 일자리에서 이민자들과 경쟁하면서 정치적 극단주의에 끌렸다. 이것이 민주주의의 위기로 이어졌다.
AI 시대에는 이런 현상이 훨씬 더 큰 규모로 일어날 가능성이 크다. 그런 위기를 맞닥뜨린 지금, 기본소득이나 로봇세는 시급히 논의해야 하는 아이디어라고 생각한다. 불쉿 직업도 없는 것보다는 있는 편이 낫다. 그러나 우리가 운 좋게도 원활히 작동하는 기본소득 제도를 도입하고, 로봇세를 정착시키고, 큰 사회적 가치를만드는 것 같지는 않아도 어쨌든 사람들에게 급여를 주는 일자리를 만들었다고 해서 문제가 다 해결되는 건 아니다. 인공지능이 사람들의 일에 미칠 영향은 그보다 훨씬 거대하다. 인공지능은 우리가 가치 있다고 생각하는 일에 의문을 제기하고, 그 가치를 없애버린다. - P223

벌써 AI의 진단이 의사들보다 정확하다는 연구결과가 ...

벌써 AI의 진단이 의사들보다 정확하다는 연구결과가 발표되고 있다. 손도 떨지 않고 붉은 피에도 흥분하지 않는 의사에게 내 목숨을 맡길 날도 멀지 않았다, 문제는 저항일듯.

그런데 당신의 10대 딸이 우울증에 걸려서 동네 병원에 찾아가 진찰을 받았다고 가정해 보자. 그곳 의사가 ‘AI 진단 도우미는이렇게 진단하고 처방하지만 내 직관은 다르다, 나는 이렇게 진단했고 이렇게 처방하겠다‘라고 말한다 치자. 당신은 인간 의사와 AI진단 도우미 중, 어느 쪽 말을 믿겠는가? 어느 쪽이 처방하는 약을 택하겠는가? 인공지능이 제시하는 정답을 부정하는 바둑 선생님의 말은 학생들이 따르지 않는다던 프로기사들의 푸념을 떠올려보자. 당신이라고 크게 다를까?
그때 ‘의료 현장에서 인간과 인공지능은 공존하고 있다. 분업하고 있다‘라고 말해도 될까? ‘인간 의사들이 의료 현장에서 인공지능을 활용해 더 수준 높은 진단과 처방을 내리고 있다‘라고 말해도 될까? ‘인공지능이 결코 줄 수 없는 의료 현장에서의 사용자경험을 인간 의사가 제공하고 있다‘라고 말해도 될까? 그보다는 ‘의료 현장에서 인간이 여전히 필요하기는 하지만 보조 인력의 자리로 물러났고 권위도 추락했다‘라고 말하는 게 더 정확한 진술 아닐까? - P216

사람을 창조하신 이유. 이 땅을 섬기고, 에덴에 와서...

사람을 창조하신 이유. 이 땅을 섬기고, 에덴에 와서 쉬라는 말씀.