[100자평] 김대식의 인간 vs 기계

김대식의 인간 vs 기계 - 인공지능이란 무엇인가
김대식 지음 / 동아시아 / 2016년 4월

최근 급속도로 발달하고 있는 인공지능에 관해 일반 독자들이 잘 이해할 수 있도록 친절하게 설명해주는 책이다. 또한 인공지능이 가져다줄 편리함과 더불어 살짝 우려되는 점들까지도 미리 예측해보며 앞으로의 미래를 어떻게 살아갈지에 대해 잠시나마 생각해볼 수 있었다. 그리고 개인적으로는 인공지능 발달로 파생될 수 있는 미래의 유망한 산업들에 관해 알 수 있어서 조금이나마 도움이 되었다.

오늘 읽기 시작한 부분에서는 ‘오후‘라는 이름으로 활...

오늘 읽기 시작한 부분에서는 ‘오후‘라는 이름으로 활동 중인 한 칼럼니스트의 글이 나온다. 이 분은 비종교인이고 신의 존재 유무는 자신에게 그다지 중요하지 않다고 말한다.

이 분의 얘기 중에 개인적으로 흥미를 끄는 것이 하나 있었는데, 바로 처음 밑줄친 문장이다. 주저리주저리 좀 긴데, 독자인 내가 이 문장에서 느낀 핵심은 ‘신이 존재한다는 것‘과 ‘그 신을 믿고 따르는 것‘은 별개의 문제라는 말이었다. 글쓴이는 이것을 부모의 역할에 빗대어 설명하는데 개인적으론 이 설명이 글쓴이의 말을 직관적으로 이해하는데 아주 많은 도움이 되었다.

보통 대다수의 종교에서는 암묵적으로 ‘존재하는 것‘과 ‘믿고 따르는 것‘을 별도로 분리하지 않는 경우들이 많다. 그냥 ‘존재하니까 당연히 믿고 따르는 거지‘라고 생각하면서 두 가지를 별도로 분리하지 않고 하나로 합쳐서 생각하는 경우들이 많은데, 이 두 가지를 분리시켜서 볼 수 있다는 생각을 했다는 것 자체만으로도 나름대로 뭔가 새로운 시각을 얻은 느낌이다.

그리고 그냥 별 생각없이 무작정 당연하다고 느껴왔던 것들이 어쩌면 마냥 당연한 게 아닐 수도 있겠다는 생각도 해보게 되었다.

신을 ‘믿는다‘라고 흔히 표현하는데 정확한 의미는 ‘따른다‘ 혹은 ‘순종한다‘라고 해석하는 것이 적당하다. 생명체를 창조한 신이 존재한다는 것과 그 신을 믿고 따르는 것은 별개 문제다. 가령 우리 개개인은 생물학적으로 부모에 의해 창조되었지만, 그렇다고 꼭 부모를 믿고 따르진 않으니까. - P53

"신앙이 없으면 양심에 따라 살면 된다." _프란치스코 교황, 《비종교인에게 보내는 편지》 - P55

조혈모세포는 백혈구, 적혈구, 혈소판 등 혈액세포를 만들어내는 일종의 원조 세포다. - P58

초지능은 속도 초지능speed superintelligence, 집단 초지능 collective superintelligence, 질적 초지능 quality superintelligence으로 구분 - P73

속도 초지능은 인간과 동등한 사고 구조를 가지지만 훨씬 빠른 연산 속도로 모든 인간 수준의 지식을 초고속으로 수행할 수 있는 시스템이다. - P73

집단 초지능은 수많은 소규모 지성체가 협력 · 조직해서 전체 시스템이 현재 존재하는 어떤 인지 시스템보다 뛰어난 전반적 수행력을 갖는 형태다. 이러한 시스템은 분할 가능하고 병렬화할 수 있는 작업에서 강력하며, 구성 요소 일부가 실패해도 전체가 유지되는 견고성이 있지만, 조율 복잡성과 의사결정 지연이 단점이다. - P73

질적 초지능은 인간보다 질적으로 훨씬 우수한 사고력을 갖춘 시스템으로, 인간과 동등한 속도를 유지하면서도 전혀 새로운 차원의 창의성과 고차원적 문제 해결 능력을 지니며, 이는 속도나 집단적 증강만으로는 도달할 수 없는 독자적 인지 능력의 혁신을 의미한다. - P73

일반적으로 지능은 학습 능력, 문제 해결 능력, 그리고 환경에 대한 적응 능력을 핵심 요소로 포함한다고 볼 수 있다. - P76

인간의 지능은 단순히 계산과 판단만으로 구성되지 않는다. 끊임없이 변화하는 환경 속에서 의미를 해석하고, 감정을 공유하며, 맥락 속에서 자신을 조율하는 복합적인 능력이다. - P77

지능과 의식 사이에는 본질적인 차이가 존재한다는 점은 분명히 인식할 필요가 있다. 일반적으로 지능은 학습, 문제 해결, 새로운 상황에 대한 적응 능력 등을 의미하지만, 의식은 고유한 주관적 경험을 갖고, 그 경험을 스스로 자각하는 상태나 과정을 말한다. - P77

의식은 특정 정보가 단순히 처리되는 것이 아니라, 전체 시스템 내에서 광범위하게 공유되고, 역동적으로 재귀적 피드백을 주고받는 구조와 연결되어 있는 것으로 보인다. - P77

실제로 인간의 뇌에서는 의식 상태일 때 다양한 영역 간의 상호작용이 활발히 이루어지며, 상향식 신호와 함께 하향식 피드백 신호가 끊임없이 교차한다. 이러한 피드백 구조는 단지 정보의 흐름을 강화하는 데 그치지 않고, 의도, 주의, 자기지각 등의 고차원적 기능과도 깊은 연관을 맺고 있다. - P78

현재의 인공지능 시스템은 대부분 ‘피드포워드 feedforward‘ 구조를 중심으로 설계되어 있다. 이는 입력 데이터를 받아 단방향으로 처리하여 출력을 내보내는 방식으로, 정보의 통합적 상호작용이나 재귀적 피드백이 제한적이다. - P78

최근에는 트랜스포머 기반의 언어 모델들이 ‘자기 참조적 구조self-reference‘를 통해 정보를 동적으로 연결하려고 시도하고 있지만, 이러한 구조는 여전히 의식의 주관성이나 자각성을 설명하고 구현하기에는 미흡하다. 결과적으로, 지금까지의 인공지능 구조는 의식의 핵심적인 요소인 정보의 통합성, 상호작용성, 자기 참조성 등을 충분히 반영하지 못하고 있으며, 이는 지능과 의식 사이의 본질적 차이를 드러낸다. - P79

이(재귀적 자기 개선)는 초기 또는 약한 인공일반지능 시스템이 인간의 개입 없이 스스로의 능력과 지능을 향상시켜 초지능이나 지능 폭발로 이어지는 과정을 의미한다. 재귀적 자기 개선의 흥미로운 점은 이 과정에서 시스템이 단순히 외부 문제를 해결하는 것을 넘어서, 자기 자신의 구조와 과정을 지속적으로 관찰하고 개선하는 메타인지적 능력을 발달시킨다는 것이다. - P79

초지능이 현실화되기 전에 우리가 해야 할 일은 단순한 기술 개발이 아니라, 그 지능이 윤리적 선을 어떻게 이해하고 학습할 것인가에 대한 윤리적 설계와 방향성 설정이다. 결국 인류는 언제, 어디서나 생존을 최우선 과제로 삼아 왔고, 초지능을 바라보는 우리의 시선 또한 이 본능적인 경향으로 자연스럽게 수렴되고 있는 듯하다. - P81

"과학의 가장 복잡한 분야는 인간 생물학" _엔비디아 CEO 젠슨 황 - P83

과학적 창의성이란 것이 신비로운 영감의 영역이 아니라, 방대한 정보의 연결과 고차원적 패턴 인식을 통해 발현될 수 있음 - P85

향후 제약 산업이 ‘빅파마 vs 스타트업‘ 구도가 아닌, ‘생성형 AI를 활용해 협업하는 곳 vs 그렇지 못한 곳‘으로 재편될 것 - P86

인간이 평생에 걸쳐도 다 읽지 못할 수십 년 치의 연구 결과를 AI가 단숨에 종합하여 새로운 결과를 예측할 수 있다는 사실은 우리에게 ‘지능‘과 ‘창의성‘의 본질이 무엇인지 다시 묻게 한다. 과학자는 더 이상 고독한 천재가 아니라, 인간의 직관을 넘어서는 AI와 협력하여 미지의 영역을 탐험하는 방향으로 가고 있다. - P86

이제 AI는 데이터 분석부터 실험 수행까지 스스로 할 수 있는 ‘AI 에이전트 Al Agent‘로 진화하고 있다. 이 에이전트들은 인간 과학자의 지시 없이도 연구 목표를 달성하기 위해 스스로 문헌을 검색하고, 가설을 세우며, 실험을 진행한다. 이런 AI 덕분에 인간 연구자들은 반복적이고 지루한 작업에서 벗어나 더 창의적이고 중요한 문제에 집중할 수 있게 되었다. - P87

숫자는 설명으로, 설명은 권고로, 권고는 습관 변화로 이어진다. 하루, 한 달, 1년이 반복되면 그것은 곧 내 몸과 삶을 바꾸는 하나의 서사가 된다. - P87

‘집단 평균‘을 근거로 권장치를 제시하던 기존 의학과 달리, 오직 개인만을 들여다보는 새로운 의학 패러다임 - P88

AI는 과학적 발견뿐 아니라, 인간이 자기 자신을 이해하는 방식까지도 재정의하고 있다. - P88

이제 질병은 더 이상 병원이라는 물리적 공간에서만 다뤄지지 않는다. - P88

분자에서 인구 전체로 이어지는 다중 스케일 예측이 현실이 되고 있는 것이다. - P88

AI 에이전트는 특정 목표가 주어졌을 때, 스스로 계획을 수립하고, 필요한 도구를 사용하여 과업을 자율적으로 수행하는 AI 시스템이다. - P89

문헌 탐색 및 가설 생성 에이전트 / 검증 및 평가 에이전트 / 실행 및 실험 에이전트 / 진화 및 개선 에이전트 - P89

AI 에이전트의 등장은 인간 과학자의 역할을 근본적으로 변화시킨다. 데이터 전처리, 반복적인 실험, 문헌 검색과 같은 노동 집약적 업무는 AI 에이전트에게 위임된다. 이를 통해 인간은 단순 실무자에서 벗어나 연구의 방향을 결정하는 ‘지휘자‘이자 ‘전략가‘로 거듭난다. - P90

인간의 역할은 다음과 같이 재정의된다.

창의적 질문 제시 : AI가 탐색할 독창적이고 중요한 연구 목표를 설정한다.

통찰력 있는 의사결정 : AI가 생성한 수많은 가설과 데이터 속에서 핵심적인 통찰을 발견하고, 다음 연구 단계에 대한 전략적 결정을 내린다.

최종 검증 및 감독 : AI의 결론을 비판적으로 검토하고, 윤리적·과학적 타당성을 최종적으로 판단하는 ‘휴먼 인 더 루프Human-in-the-loop‘ 역할을 수행한다. - P90

인간의 창의성과 AI의 압도적인 분석 능력이 결합될 때, 연구의 시너지는 극대화된다. - P90

시간의 압축, 규모의 확장, 과정의 자동화 - P90

AI가 인간을 대체하는 것이 아니라, 인간과 협력하여 더욱 놀라운 성과를 만들어낼 수 있음을 이해해야 한다. AI가 새로운 가설을 내놓으면, 인간은 자신의 전문 지식과 비판적 사고를 통해 이를 검증하고 최종 결정을 내리는 역할을 맡아야 한다. 그렇게 협력할 때, 우리는 생명의 비밀을 더 깊이 이해하고, 질병을 더 효과적으로 치료하며, 궁극적으로 인류의 삶의 질을 향상시킬 수 있다. - P93

창작을 둘러싼 ‘관계성‘ ...(중략)... 단순히 ‘실력‘ 혹은 ‘능력‘으로 환원되지 않는 창작을 둘러싼 세상의 맥락들이 수면 위로 떠오르고 있다. - P97

우리는 에세이뿐만 아니라 작가가 자신의 주관적 견해를 드러낸 글 속에서 ‘작가‘와 대화하는 느낌을 받는다. - P97

결국 앞으로는 작가와 독자의 관계성에 대한 더 복합적이고진실된 맥락을 고려해야 하게 되었다. - P99

만약 작가가 AI를 활용한다면, 거짓이 아닌 차원에서 활용하며 당당하게 독자와 소통할 필요도 있어 보인다. 지식의 검색과 정리, 맥락 보완, 아이디어 보충 등에서 AI를 활용하는 것을 꼭 부끄럽게 여길 필요는 없다. 그러나 자신의 진실을 써야 하는 주관적 에세이나 견해의 영역에서는 어디까지나 진실을 써야 한다. - P99

우리는 ‘쓰기와 읽기‘가 상호 관계 맺기라는 차원에서 이루어진다는 점을 잊지 말아야 할, 더 섬세하고도 정교한 관계의 시대에 진입했다고 말할 수 있다. 새로운 시대에도 진짜 소통, 진실된 관계, 진짜를 기반으로 한 신뢰가 존재할 것이다. - P100

표면적인 성능 수치만으로는 AI의 진정한 신뢰성을 결코 담보할 수 없다. 이 문제의 근본적인 해결책은 ‘알고리즘 투명성 algorithm transparency‘을 확보하는 것이다. 이는 단순히 AI의 코드를 공개하는 것을 넘어, AI가 어떤 데이터를 기반으로, 어떤 논리적 과정을 거쳐 결론에 도달했는지 사용자가 이해하고 검증할 수 있어야 한다는 원칙이다. - P107

투명성은 AI 시스템에 대한 신뢰를 구축하고, 문제 발생 시 원인 규명과 책임 소재 파악을 위한 감사audit 및 통제control를 가능하게 하는 필수 전제 조건이다. 이러한 이유로 유럽연합의 인공지능법, 한국의 AI 기본법을 비롯한 세계 각국의 AI 관련 법규와 정책은 투명성을 핵심 원칙으로 규정하고 있다. - P107

스케일의 법칙scaling law이란 AI 모델의 성능이① 모델의 크기(매개변수 수), ②학습 데이터의 양, ③학습에 사용되는 계산량이라는 세 가지 요소를 늘릴수록 향상된다는 경험 법칙이다. - P108

XAI(Explainable AI, 설명 가능 인공지능)의 핵심 기능은 모델이 올바른 근거로 판단하는지, 혹은 앞서 소개한 ‘클레버 한스 효과‘처럼 데이터의 우연한 단서에 의존하지는 않는지 검증하는 것이다. - P112

XAI는 개발자에게 모델의 신뢰성을 검증하고 데이터의 편향을 수정할 수 있는 진단 도구를 제공하며, AI의 결정을 맹목적으로 신뢰하는 대신 비판적으로 수용할 수 있는 근거를 마련해 준다. - P113

XAI는 모델의 디버깅과 최적화를 위한 진단 도구로도 기능한다. - P113

(훈련 데이터세트의 신경망 가중치 전체를 한 바퀴 업데이트하는 이 과정을 ‘에포크epoch‘라고 부른다. 모델을 만들 땐 적게는 수 에포크에서 많게는 수백 에포크까지 훈련을 진행한다) - P117

(변형을 통해 데이터의 다양성을 높여 모델의 실전 예측 성능을 높이는 이 과정을 ‘증강‘이라고 한다). - P118

잘 훈련된 기존 모델을 가져와 목적에 맞게 수정해 쓰는 방법을 전이학습이라고 한다. 모델 개발 시 실제로 많이 사용하는 전략이다. - P120

훈련된 모델에 새로운 데이터를 넣어 실전에 필요한 예측을 수행하는 작업을 추론(인퍼런스)이라고 한다(최근 대형언어모델LLM에서 사용하는 ‘추론reasoning‘과는 다른 작업이다). - P121

파라미터는 학습 시마다 역동적으로 변화하는 가중치를 의미한다. 큰 모델일수록, 이들을 학습시킬 때 소비되는 전기도, 배출하는 탄소도 늘어날 수밖에 없다. - P123

케이트 크로포드가 지적했듯이, AI 산업의 핵심 동학은 데이터, 값싼 노동력, 지구 에너지와 광물 자원의 추출이다. 데이터와 정보만 흡수되는 게 아니다. 방송 프로그램 제작 노하우, 영상 편집 기술, 창작 아이디어 등 배타적 소유가 아닌 ‘공통의 소유‘이거나 집합적·사회적 부에 해당하는 것들도 예외 없긴 마찬가지다. - P133

개인적으로 최근 AI관련 서적들을 몇 권 읽어왔는데,...

개인적으로 최근 AI관련 서적들을 몇 권 읽어왔는데, 그 연장선으로 이 책을 읽어볼 수 있게 되었다. AI에 관한 나만의 관점을 확립해나가는데 조금이나마 도움이 될 수 있을거란 기대가 있다.

이 책은 2016년 온 세상을 떠들썩하게 했던 알파고와 이세돌 9단의 바둑 대결에 대한 이야기로 시작한다. 이 세기의 대결에서 이세돌 9단은 알파고에게 한 판을 이기긴 했지만 결과적으로 5판 중 4판을 패배하고 만다.

원래 대다수의 사람들은 이 대국이 있기 전까지만 하더라도 이세돌 9단의 손쉬운 승리를 예상했었는데, 그 예상이 완전히 빗나가 버린 것이다.

저자는 이러한 인공지능의 급속한 발전 양상을 지켜보면서 자신의 본업인 소설 쓰는 일에도 인공지능이 인간 소설가들을 압도하는 순간이 머지않아 올 수 있을거란 걱정에 휩싸인다.

독자인 나는 이러한 저자의 우려를 보면서 개인적으로 비교적 최근에 읽었던 과학잡지《epi》에 실려있었던 소설가 김초엽 님의 인터뷰가 잠시 생각났다. 그 잡지에서 김초엽 작가는 아직은 AI가 인간 소설가를 완전히 대체하기는 힘들다는 뉘앙스로 얘기했었는데, 독자인 내가 최근 읽었던 다른 AI관련 책들과 이것을 함께 생각해본다면 오늘 읽기 시작한 이 책(먼저 온 미래)의 저자인 장강명 작가님의 걱정과 우려도 결코 근거없는 걱정이 아니라는 것을 느낄 수 있었다.

저자는 본문에서 AI가 위대한 작품들을 마치 컨베이어 벨트에서 대량 생산하듯이 찍어낼 수 있는 상황이 온다면 자신은 그 작품의 위대함과는 별개로 무력감에 빠질 것 같다고 말한다. 인간 소설가인 자신은 위대한 작품 하나를 만들어내는데 결코 적지않은 시간이 걸리는 데, AI는 그러한 훌륭한 퀄리티를 가진 작품들을 짧은 시간동안 인간인 자신보다 훨씬 더 많이 만들어 낼 수 있다면, 이것은 현실적으로 도저히 따라갈 수 없는 격차가 생겨버리는 것이기 때문이다.

이와 관련하여 오늘 처음 밑줄친 문장에서 저자는 위대함이라는 것이 희소성과 연관되어 있다는 통찰을 독자들에게 보여준다. 개인적으로는 굉장히 중요한 걸 하나 배운 느낌이다.

‘위대함‘이라는 개념 자체가 희소성과 관련이 있는 것일까? 한 작품이 독자에게 너무나 큰 감명을 주었음에도 불구하고, 그와 비슷한 작품이 매일 288편씩 쏟아진다면 위대함이 사라진다는 말일까? 나는 그렇다고 생각한다. - P15

내가 이해할 수 없는 일에 헌신하는 것은 괴롭다. - P17

사람들이 거기에 어떤 가치가 있다고 믿으며 수십 년의 시간을 들여 헌신한 일을 더 잘해내는 인공지능이 어느 순간 갑자기 등장하는 것. 그 인공지능이 싼 가격에 보급되는 것. 그 인공지능과의 ‘공존‘을 강요당하는 것. 인공지능이 만드는 새로운 질서를 따라야 하는 것. 당신이 알던 개념을 인공지능이 재정의하고, 당신은 그것을 다시 배워야 하는 것. 인공지능은 타자기나 워드프로세서와는 다르다. - P26

조훈현 9단은 "바둑을 어떤 식으로 놓는다는 것은 세상을 어떤 식으로 살아가겠다는 나만의 선언"이라며 "거장들의 바둑 대결은 이러한 세계관과 가치관의 충돌"이라고 썼다. - P33

알파고는 바둑을 제대로 둔 것이었고, 인간 기사들이 그걸 이해하지 못한 것뿐이었다. 인공지능은 사람이 제대로 바라볼 수도 없을 정도로 까마득히 높은 위치에 있었다. - P38

"인간의 창의력, 바둑 격언, 기존의 수법에 대해 의문이 들었다. 우리가 기존에 알고 있었던 것이 정말 맞는가" _이세돌 9단 - P38

창의성은 정의하기도, 측정하기도 곤란한 개념이다. 다중지능이론의 창시자인 심리학자 하워드 가드너는 창의성에 대해 "특정 영역에서 새로운 결과물을 내고, 그것이 그 영역에 소속된 사람들에게 인정을 받는 것을 의미한다"라며 "그 영역이 오래전부터 존재했든 새로 등장했든, 독창성 혹은 창의성에 관한 판단은 그 영역에 정통한 사람만이 내릴 수 있다"라고 설명한다. 바둑에서의 창의성은 프로기사들이 평가해야 한다는 얘기다. - P43

"인공지능이 나온 이후에 인간 기사들에게 고정관념이 많다는 생각을 하게 됐어요. 그런데 인공지능은 굉장히 거침없잖아요. ‘창의적이다, 독창적이다‘ 그렇게 표현해도 크게 무리는 없을 것 같아요." - P44

기본에 가장 충실한 수가 가장 창의적인 수인데, 인간은 기본에 충실할 수 없는 반면 인공지능은 그럴 수 있다 - P44

"사람은 어떤 일을 할 때 대상을 분류해요. 그렇게 범주화하면서 약간 오류가 있어도 무시하고 데이터를 카테고리로 관리하죠. 그렇게 관리를 하니까 고정관념이 생겨요. 그런 고정관념들이 일을 빨리 처리하는 데 도움이 되지만 어떤 요소들은 배제하게 돼요. 어쩔 수 없죠. 머리가 쓸 수 있는 에너지는 유한하니까. 그런데 인공지능은 그렇지 않죠. 모든 요소를 다 고려합니다. 인공지능이 그렇게 해서 둔 수를 보고 ‘진짜 좋은 수인데‘ 하고 감탄하면서 분석해 보면 그게 가장 기본에 충실한 수인 거예요. 바둑뿐 아니라 우리가 쓰는 언어 자체가 그래요." - P44

창의성은 어떤 사람의 특성이나 기질을 가리키는 말이 아니며, 행위에 대한 평가를 담은 표현 - P44

"인간 천재도 사람들이 기존에 못 보던 스타일을 더 높은 수준으로 구현할 때, 그 순간에 굉장히 창의적이라고 할 수 있을 거 같아요." - P45

"다른 기사들이 생각하지 못한 부분을 들고 나오면 창의성이 있다고 얘기를 하는 거죠. 다른 기사들은 이런 식으로 접근을 하는데 ‘어떤 기사가 더 유리한 방법을 찾다가 다른 수를 둔다‘ 이런 거. ‘뭘 새로 만들어 냈다. 상상해 냈다‘ 그런 게 아니고요. 화가가 그림을 창의적으로 그린다는 것과는 다른 거죠. 수학에서 ‘못 풀던 문제를 못 풀었다‘ 그런 느낌이죠. 그런데 사람은 예전 방식을 의식하니까 새로운 접근 방법을 찾는 게 힘든데 기계는 한 수를 두고 나면 리셋된 상태에서 다시 처음부터 생각하죠. 이런 것도 창의성이라고 할 수 있겠지만 저는 ‘그냥 이기려고 두는 거다‘ 그렇게 생각해요." - P45

창의성은 인간적인 특성이며, 창의적이라고 해서 강하다는 의미는 아니라고 - P46

"창의적이지 않은 전문가가 존재하며, 전문가의 반열에 오르지 못한 경우에도 창의성이 나타날 수 있다" _하워드 가드너 - P46

우리가 막연하게 ‘그건 불가능할 거야‘라고 생각한다고 해서 실제로 불가능한 것은 아니다. 불가능한 것은 매우 적다. - P47

나의 깊은 부분이 인공지능의 발전에 타격을 입을 수 있다. - P48

"공동연구 많이 했죠. 그런데 가끔 오히려 답이 나빠요. 누구는 산으로 가자고 누구는 바다로 가자고 해서 이게 합의가 안 돼. 스승이 없고 센 사람, 1인자가 정답이었는데 그 사람들도 답을 몰랐다고." - P51

"만약 AI나 인터넷을 보지 않는 프로기사가 있다면 바둑을 포기한 사람" - P53

"명확하게 말씀드리면 알파고 이전의 책들은 모두 폐기해야 해요." - P54

알파고의 등장 이전을 기원전에, 알파고 이후를 기원후에 비유하기도 했다. - P54

긍지와 관련된 문제다. 사람은 의미 있는 일을 자신이 잘해내고 있다고 믿을 때 긍지를 얻는다. 나는 다른 직업에서도 인공지능으로 인해 긍지를 잃을 사람이 많아지리라 생각한다. 인공지능은 우리 예상보다 훨씬 넓은 영역에서 어떤 일의 의미와 인간의 유능함을 납작하게 짓눌러 버릴 것이다. 그 영역에서 문학은 예외일까? - P62

프로기사들은 돌과 돌 사이외 논리를 알고 전체적인 수순이나 집 모양을 패턴으로 기억 - P64

프로기사들 역시 아무렇게나 돌을 몇백 개놓고 그 순서를 외워보라고 하면 잘 못한다. 피아니스트도 아무 음표나 멋대로 그려놓은 악보를 암기하기는 어렵다. - P64

이다혜 5단은 인공지능의 바둑을 현대미술에, 젊은 초일류기사들을 큐레이터에 비유했다. 그녀는 "걔들이 연구를 많이 하다보니까 패턴 같은 걸 인식하게 된 것"이라고 말했다. - P68

"나보다 더 노력한 기사는 있을지 몰라도 나보다 더 힘들게 공부한 기사는 없을 것" _신진서 9단 - P70

‘인공지능처럼 둬라‘
이것이 알파고 이후 프로기사들의 목표였다. 인공지능처럼 두기 위해 인공지능처럼 느껴야 했다. 인간의 감각을 억누르고 지워야 했다. 인간이 쌓아 올린 바둑 지식은 잊어야 했다. 그런 인간 정석들이 몸에 덜 밴 젊은 기사들이 유리했다. - P73

인공지능의 수법이 과연 인간에게도 좋은 수법인지 따져볼 수도 있다. 사람이 자동차를 흉내 낸다고 자동차처럼 빨리 달릴 수 있는 게 아니고 비행기를 흉내 낸다고 하늘을 날 수 있는 것도 아니다. 애초에 사람의 다리와 자동차 바퀴는 구조가 다르고, 사람이 팔을 좌우로 뻗는다 해서 몸을 띄울 정도로 충분한 양력을 받을 수 있지도 않다. 인간의 뇌도 근본적으로 인공지능과 다르지 않은가? 인공지능의 수를 이해하지도 못하면서 그 수를 따라 두는 것이 과연 현명한 일일까? 공항에서 비행기가 착륙하는 모습을 흉내 내면 서구인들의 비행기가 자신들을 찾아올 거라 믿는 남태평양 원주민의 화물 신앙과 다를 바 없는 게 아닐까? - P75

이겨야 한다. 그게 가장 중요한 문제였고 가장 큰 욕망이었다. 국가대표팀이든 프로기사 개인이든 마찬가지였다. 멋진 바둑을 둔다든가, 아름다운 바둑을 둔다든가, ‘인간의 바둑을 두는 것은 이기고 난 뒤에 고민할 일이었다. 여러 프로기사가 ‘인간의 바둑‘ 혹은 바둑의 예술성을 묻는 내게 ‘그런 고민을 할 겨를이 없었다, 먼저 살아남아야 했다‘라고 고백했다. - P78

‘그냥‘ - P78

‘인공지능이 그 분야에 어떤 영향을 미칠 것인가‘ 같은 고민은, 실제로 그 분야에서 쓸 만한 인공지능이 나오기 전까지만 할 수 있다. 인공지능은 모든 분야에서 게임체인저가 된다. 인공지능이 등장하면 그 분야의 규칙 자체가 바뀌며, 그때부터 해야 하는 고민은 ‘이 인공지능을 어떻게 활용할 것인가‘가 된다. 어쨌든 경쟁은 다른 사람과 하는 거니까. - P79

대결 구도는 ‘인공지능을 활용하는 전문가 대 다른 인공지능을 다른 방법으로 활용하는 다른 많은 전문가 대 인공지능을 활용하지 않는 구세대 전문가‘였다. - P80

업계에서 영향력 있는 플레이어들은 ‘인공지능을 어떻게 활용할 것인가‘라는 고민에 빠져 있어서, - P80

다른 분야 전문가들도 마찬가지일 것이다. 그들은 인공지능 활용법을 배우고 연구하느라 정신이 없을 것이다. 그들은 ‘이 격변의 시기에 살아남아야 한다‘라고 생각할 것이다. - P81

"초일류들을 만나도 너희가 AI보다 더 세겠느냐는 생각으로 싸운다. 이젠 하나도 무섭지 않다" _이호승 3단 - P86

조훈현 9단은 자서전에서 "승부의 첫째 조건은 뭐니 뭐니 해도 기백"이라며 "아무리 실력이 좋은 바둑기사라고 해도 심리적으로 위축된 상태에서는 제대로 된 경기를 펼칠 수 없"다고 썼다. - P87

이세돌 9단의 자서전은 제목부터가《판을 엎어라》다. 이 책에서 이 9단은 프로기사로 성공하려면 기재 [바둑을 잘 두는 재능]나 노력보다 ‘마인드‘가 중요하다고 주장했다. 이 9단은 "바둑은 자기를 믿지 못하면 될 것도 안 되고, 반대로 자신감을 가지고 두면 안되는 것도 된다"라며 "아무리 좋은 기재를 가지고 기발한 수를 생각해도 마인드가 따라 주지 않으면 제대로 실력 발휘를 할 수가 없다"라고 썼다. - P87

바둑에서 승부에 임하는 자세, 혹은 고수의 경지를 표현하는 말로 ‘반전무인(盤前無人)‘이라는 사자성어가 있다. 바둑판 앞에 사람이 없는 것처럼, 오직 바둑돌이 놓인 형세만 보고 바둑을 두라는 조언이기도 하고, 그렇게 바둑을 두는 자세를 가리키는 말이기도 하다. 뒤집어 생각해 보면 바둑판 앞에 있는 상대를 의식하지 않고 바둑돌이 놓인 형세만 보고 바둑을 두는 게 그만큼 어렵다는 뜻이다. - P87

포석 감각은 일종의 패턴 인식 능력이며 어느 수준 이상의 예리한 직관은 타고나거나, 아니면 아주 어린 나이에 잘 습득할 수 있는 것 같다. 언어 능력과 비슷하다. - P89

"재능이 첫째, 근성이 둘째. 노력이 셋째. 운은 넷째" _문용직 5단 - P91

"공부라는 게, 내가 열심히 해서 어디까지 갈 수 있다는 목표가 보이면 쉬워요. 망망대해에서 허우적거리는 느낌이 어려운 거죠. 예전에는 고지도 안 보였고, 제가 발전하는지 아닌지도 알 수가 없었죠. 기껏해야 승부를 통해서 입증하는 방법밖에 없었습니다. 저는 요즘 후배들 보고 이런 얘기를 많이 해요. ‘이제는 진짜 열심히만 하면 얼마든지 성적을 낼 수 있다. 되게 좋은 시대다.‘" _최명훈 9단 - P95

"AI 시대에는 이전보다 절대적인 공부량이 필요하다고 생각해요" _이희성 9단 - P99

"앞으로는 공부량이 부족한데 성적이 뛰어난 기사는 안 나올거 같아요." _조한승 9단 - P99

"이제는 정말 공부 방법 중에서 많이 외우는 게 상당히 중요해요" _최명훈 9단 - P99

포석 감각이 좋지 않았던 기사, 바둑에 늦게 입문하거나 프로 입단이 늦은 기사, 대신 암기력이 뛰어나고 성실한 기사, 초일류 기사들의 공동연구에 쉽게 끼지 못했던 기사는 인공지능의 덕을 봤다. 포석 감각이 빼어난 기사, 어렸을 때부터 바둑을 익힌 기사, 공부를 열심히 한다기보다 실전에 강한 ‘게으른 천재형‘ 기사, 고수들의 공동연구에 참여했던 기사들은 과거에 지녔던 이점을 잃었다. 그러면서 프로기사들의 실력이 전반적으로 올라갔다. 흥미롭게도 이런 ‘평평해짐‘을 몇몇 바둑계 인사는 ‘민주화‘라고 표현했다. - P99

바둑계가 ‘민주화‘되었다는 말은 무슨 의미일까? 사회학에서 민주화는 어떤 분야에서 민주주의 원리들이 확산되고 심화되는 과정을 의미한다. 바둑을 배우고자 하는 사람이 어느 나라에 태어났느냐 하는 문제로 차별을 받는다면 그런 현실은 민주적이지 않다고 말할 수 있을 것 같다. 그것이 누군가가 악의적으로 일으킨 차별이 아니라 해도 말이다. 특정 지역 출신, 혹은 전문가가 독점하던 정보를 누구나 쉽게 접근할 수 있게 된다면 ‘정보 활용의 ‘민주화‘ 혹은 ‘지식의 민주화‘라고 부를 수도 있을 것 같다. - P101

인공지능과 같은 강력한 신기술은 기존의 권력관계를 뒤흔든다. 만약 그것이 기득권의 힘을 약화시키고 주변부에 있던 그룹에게 기회를 제공한다면, 그 새로운 기술은 적어도 특정 집단으로부터는 열렬한 환영을 받을 것이다. - P102

인쇄술은 성서 해석을 독점하던 교회의 권력을 약화시켰고, 지식인 집단의 규모와 힘을 키우는 데 엄청난 영향을 미쳤다. 오늘날 지식인 중에서 인쇄술을 부정적으로 보는 사람은 없을 것이다. 인터넷과 소셜미디어는 뉴스를 독점하던 종이 신문과 지상파 방송의 권력을 약화시켰다. 인터넷 언론과 ‘대안 매체‘ 종사자들, 블로거들은 그런 변화를 긍정적인 것으로 평가한다. 여기에 중요한 시사점이 있다. 어떤 업계에서 일하는 사람들, 그리고 그곳에서 일하려는 사람들이 다 함께, 한목소리로 인공지능을 거부하는 일은 아마도 벌어지지 않으리라는 것이다. 그 업계에 일단 인공지능이 도입되어 영향을 미친 뒤에는 말이다. - P102

도덕심리학자 조너선 하이트는 인간의 감성을 코끼리에, 이성을 기수에 비유한다. 이성은 자신이 감성을 조종하고 있다고 생각하지만 실은 그 위에 올라타 있는 것에 불과한 경우가 많다. 하이트는 이성을 감성의 노예라기보다는 변호사라고 설명한다. 감성이 어떤 문제에 대해 옳고 그름을 결정하고 나면 이성은 그런 결정의 근거가 될 적절한 논리를 찾는다. - P102

한 업계의 종사자와 지망생은 인공지능이 도입되기 전까지는 인공지능을 거부한다고 의견을 모을 수도 있다. 그러나 실제로 인공지능이 도입되면, 그로 인해 수혜를 입는 그룹이 생긴다. 그 그룹 구성원은 인공지능이 가져온 변화를 긍정적으로, 바람직한 일로 볼 것이다. 그 변화가 ‘옳은 방향‘이라고 믿을 것이다. - P103

[100자평] 고전이 답했다 마땅히 살아야 할 삶에 대하여

고전이 답했다 마땅히 살아야 할 삶에 대하여 ㅣ 고전이 답했다 시리즈
고명환 지음 / 라곰 / 2024년 8월

저자가 고전에서 얻은 깨달음을 자신의 삶에 적용해나가는 모습을 독자들에게 보여주고 있기에 좀 더 실감나게 읽어나갈 수 있었다. 또한 개인적으로는 본문에 소개된 고전 작품들 중에 아직 읽어보지 못한 것들이 적잖이 있었기에 그러한 작품들에 대한 관심과 호기심을 끌어올리는데도 많은 도움이 되었다.

고전의 가치는 무궁무진하다

고전이 답했다 마땅히 살아야 할 삶에 대하여 ㅣ 고전이 답했다 시리즈
고명환 지음 / 라곰 / 2024년 8월

저자는 불의의 교통사고 이후 독서에 본격적으로 매진하게 되는데 그때부터 지금까지 읽어왔던 다양한 고전 작품들을 통해 자신이 깨달았던 중요한 메시지들을 독자들에게 소개한다. 또한 이를 통해 고전이 얼마나 유익한 것인지를 반복해서 강조한다. 개인적으로는 저자가 ‘고전 전도사‘같다는 느낌까지 받을정도 였으니 뭐 말 다했다.

또한 이 책은 그간 고전을 잘 읽지 않았던 독자들이라면 저자가 소개하는 고전 작품들을 읽어볼 수 있는 새로운 계기가 될 것이고, 이미 수많은 고전 작품들을 섭렵해온 독자라면 과거 자신이 읽었던 작품 속에서 저자가 느낀 점과 독자 자신이 느꼈던 점들을 서로 비교해볼 수 있는 재미가 있을 것이다. 왜냐하면 독자가 과거에 자신도 모르게 놓쳤던 부분을 저자가 새롭게 짚어줄 수 있기 때문이다. 이는 고전이라는 것이 첫 술에 배부를 수 없다는 속성과도 맞닿아 있다. 처음 읽을 때와 시간이 지난 뒤 다시 읽을 때 자신이 처한 상황에 따라 같은 작품이라 할지라도 마음에 와닿는 부분이 얼마든지 달라질 수 있기 때문이다. 그리고 이러한 과정을 거친다면 독자가 사고思考의 폭을 좀 더 넓히는데도 도움이 될 것이다.

그리고 설령 고전을 많이 읽어본 독자라 할지라도 이 책에 소개된 작품들 중 아직 읽어보지 못한 것이 있다면 그 작품의 핵심 메시지에 대해서도 간략하게나마 미리 살펴볼 수 있어서 혹시 해당 작품을 추후에 감상할 때 어느정도 핵심 뼈대를 잡고 읽어나가는 데 도움이 될 수도 있겠다는 생각도 들었다.

아무튼 여러모로 아주 유익한 책이고 개인적으로는 몇 년 전에 읽었던 이탈로 칼비노 저자의《왜 고전을 읽는가》라는 책이 생각날 정도로 고전의 효용에 대해 다시금 진하게 느낄 수 있는 시간이었다.