‘평평해짐‘은 곧 ‘공평해짐‘을 의미한다. - P106
일단 나오면 그게 없었던 시절로 세상을 되돌리기는 불가능하다 ...(중략)... 경쟁에서 유리해지는 그룹이 그걸 포기할 리 만무하기 때문이다. - P106
인공지능처럼 쓸모 있고 강력한 기술은 마치 야수와 같다. 일단 거리에 뛰쳐나오면 붙잡아 우리에 가두는 것이 매우 어렵다. ...(중략)... 사실상 그 야수를 통제할 수 있는 것은 그게 아직 거리에 나오기 전뿐이라고 봐야 한다. - P107
챗GPT가 등장한 뒤로 ‘수준급의 실력을 지닌 소설 쓰는 인공지능이 나오면 당신도 이용할 거냐‘라는 질문을 자주 받았다. 나는 그 질문이 잘못됐다고 생각한다. 그 질문은 수준급의 소설 쓰는 인공지능을 쓰는 일을 내가 선택할 수 있을 거라고 당연하게 전제한다. 그러나 실제로는 그렇지 않다. 그런 괜찮은 인공지능이 나와서 시장에서 팔리기 시작하면, 내게 선택권은 없을 것이다. 나는 그걸 써야만 한다. - P107
개발자들의 의도와 무관하게, AI-환경은 어떤 사람들에게는 불리하고 어떤 사람들에게는 유리할 것이다. 하지만 우리는 현시점에서 구체적으로 누가 유리하고 누가 불리할지 예측할 수 없다. - P110
인공지능은 스마트폰이나 소셜미디어보다 훨씬 더 큰 변화를 일으킬 것이다. 아니, 이 말은 부정확하다. 인공지능은 스마트폰과 소셜미디어를 집어삼킬 것이다. 인공지능은 스마트폰과 스마트폰 뒤에 나올 다른 여러 기기, 그리고 소셜미디어와 그 뒤에 나올 다른 여러 미디어와 결합할 것이다. 그래서 지금은 우리가 뭐라고 불러야 할지조차 알 수 없는 ‘무언가‘가 될 것이다. 그 무언가는 사실상 우리가 살아야 하는 환경 그 자체일 것이다. - P113
한국기원의 바둑용어 사전은 기풍(棋風)을 "바둑을 두는 데 있어서 나타나는 각 개인 특유의 방식이나 개성"이라고 설명한다. - P115
바둑에는 ‘류(流)‘라는 것이 있다. 기사마다 바둑을 두는 기풍을 뜻하는 말인데, 여기서 각자의 성격과 추구하는 바가 나타난다. (...) 바둑기사에게 자신만의 ‘류‘는 일종의 자아다. 바둑을 어떤 식으로 놓는다는 것은 세상을 어떤 식으로 살아가겠다는 나만의 선언이다. 그래서 거장들의 바둑 대결은 이러한 세계관과 가치관의 충돌처럼 다가온다. 바둑이 무려 4천 년을 살아남았고 아직도 건재한 이유는 단순한 게임이 아니라 그 속에서 인생관과 삶의 철학을 읽을 수 있기 때문이다. _조훈현 9단 자서전 - P117
"바둑에서 기풍이 사라진다는 것은 사람에게서 감정이 사라지고 이성만 남는 것과 같을지 모른다" _박치문 바둑 칼럼니스트 - P118
기풍이 많았다는 건 그만큼 기사들이 자유로웠다는 의미라고 생각해요. 어떤 기사가 두는 방식을 정확하게 평가할 수가 없었고 두는 사람들은 그게 가능한 포석이라고 생각했던 거고요. 그리고 그게 솔직히 재미있기도 했죠. - P119
"기풍은 어떤 기사가 본인을 증명하는 방법이죠. 그런데 그런 캐릭터나 퍼스낼리티라는 건 승부에 비하면 그렇게 중요하지 않아요. 저도 해설을 하지만 저는 바둑의 아름다움이라는 표현을 쓰지도 않고, 그게 뭔지 잘 모르겠어요. 어떤 바둑이 아름답고 어떤 바둑이 아름답지 않다는 건지요? 최선을 다한 바둑에는 다 아름다움이 있다고 생각해요." _이희성 9단 - P120
"기풍이라는 건 포석에서 드러나는 부분도 좀 있지만, 전체적으로 나타나는 거예요. 기풍이 사라졌다기보다는 인공지능이 도입되면서 바둑이 굉장히 복잡해졌어요. 예전에는 어떤 틀에 의해서, 돌의 모양을 중시했는데 요즘은 그런 틀이 무너졌고 난전이 많습니다. 그래서 보는 사람도 어렵고 두는 사람도 어려워지는 상황이죠." - P121
‘포석은 기풍이 아니다‘ _유창혁 9단 - P121
"기풍이라는 건, 바둑에서 자기 성격이 나오는 거라고 볼 수 있어요. 성격이 차분한 사람은 인공지능이 있든 없든 차분하게 가는 거고, 성격이 전투적이고 적극적인 사람은 계속 적극적으로 가는 거고요. 그건 별로 바뀐 것 같지 않아요." - P121
"인공지능 1.0 시대는 AI 수법을 빨리빨리 받아들여서 이걸 그대로 복사해서 붙여넣기 한 시기입니다. 그러면 성적이 많이 올라갔죠. 이제 AI를 쓰는 사람과 쓰지 않는 사람 간에 격차가 있다는건 모두 인정하고, 다들 AI를 씁니다. 그래서 최근에 2.0 시대가 열렸어요. 자신만의 생각과 AI 수법을 결합하는 시대예요. 예를 들어 어떤 기사가 생각하는 수가 AI 분석으로 이길 확률이 50퍼센트 아래라면 그건 포기해요. 하지만 이길 확률이 50퍼센트 이상인 수 중에서는 가장 수치가 높은 수를 택하지 않고 자신이 좋아하는 수를 택하는 거예요. AI가 이길 확률이 63퍼센트, 58퍼센트,
51퍼센트, 47퍼센트인 수를 제시하면 47퍼센트인 수는 버리지만 51퍼센트인 수는 고를 수 있다는 거죠. 그러면서 자기의 개성을 뽑아내는 거죠. 그래서 지금은 기풍이라는 게 은근히 있어요." _김만수 8단 - P123
"어차피 따라 두는 사람은 따라 두고요, 자기 뜻대로 두는 사람은 본인이 두고 싶은 대로 둬요." _김지석 9단 - P124
어떤 프로기사들에게 기풍은 그저 개성의 다른 말이다. 포석은 개성적일 수 있지만, 포석이 비슷해지더라도 한 기사의 개성이 완전히 사라지지는 않는다. 바둑 한 판을 두는 과정에서 그의 성격과 개성은 드러날 수밖에 없다. - P124
프로기사들의 추측이기는 하나, 인공지능의 ‘기풍‘은 아마도 그저 초기 설정에 달린 문제인 듯하다. - P125
"목표를 어떻게 설정하느냐에 따라서 AI들도 스타일이 달라진다고 하더라고요. 쉬운 예를 들자면 상대를 작은 차이로라도 확실하게 이기는 확률을 높이느냐, 아니면 큰 차이로 이기는 것을 목표로 삼느냐에 따라 달라진대요. 그리고 크게 이기는 걸 목표로 설정한 AI일수록 사람하고 비슷하게 둔대요. 알파고는 최대한 안전하게 이기는 스타일이었다고 해요. 그래서 자기 생각에 좀 유리하다 싶으면 인간 기사들이 보기에는 최선이 아닌 것 같은 수도 두는 거예요." _이하진 4단 - P125
"인공지능이 두는 바둑에는 기풍이 없다고 봐야 합니다. 생각의 흐름으로 연결되어서 나오는 수가 아니니까요. 단순히 그때그때의 확률에 따라 의사결정을 하는 거니까요."
_정두호 4단 - P126
"기풍은 (경향성이 아니라) 초반 구상을 의미한다" _안성문 바둑전문기자 - P126
"바둑이 중반에 들어가면 이미 그때는 오로지 최선이냐 아니냐의 치열한 칼싸움 같은 거예요. 구상은 50수, 길게 보면 80수 안에 있는 거죠. 한 기사가 자기 스타일대로 초반 빌드업을 하는 과정에서 기풍이 나오는 거죠. 중반에 들어가면 치고받을 때 선택의 문제는 있겠지만 그건 기풍이 아니에요." _안성문 바둑전문기자 - P126
결국 바둑계에서 사용해 온 ‘기풍‘이라는 단어는 현실 세계의 특정한 현상에 대한 모호한 비유였다. 따지고 보면 ‘성격‘이나 ‘철학‘이라는 단어 역시 그렇다. 인간은 그런 개념어와 비유에 기대어 세계를 파악한다. 언어는 도구다. 그 도구에 기대지 않는 인공지능이 언어라는 도구에 기대야만 하는 인간들보다 더 훌륭하게 과제들을 수행할 때, 언어에는 균열이 생긴다. 우리는 ‘그 말이 무슨 뜻이냐‘를 비로소 제대로 묻게 된다. - P128
바둑계에서 흔히 썼던 ‘기세‘라는 용어에 관한 얘기다. 한국기원의 바둑용어 사전은 "대국에서 이해득실을 따지기에 앞서 상대를 제압하고자 하는 의기가 강한 형세. 또는 상대가 두려워할 만한 힘. 보통 국면의 주도권을 잡으려고 다툴 때 나타난다"라고 설명한다. 모호한 개념을 다른 모호한 개념(제압, 의기, 형세, 두려움, 주도권)으로 설명하는 좋은 예다. - P128
인공지능이 등장한 뒤에야 비로소 우리는 기세라는 단어가 지나치게 인간적인 뉘앙스를 품고 있었다고 생각하기 시작한다. - P129
어떻게 보면 바둑 전문가들이 가장 딱한 신세였다. 알파고를 설명해야 하는데, 그들이 가진 설명 도구라고는 인간의 언어밖에 없었기 때문이다. 그래서 그들은 창의적이라든가 수비적이라든가 배짱이 대단하다든가 뒷맛을 고려하지 않는다든가 하는 식으로 알파고의 바둑을 평했다. 인격이 없는 대상에 인격을 부여하는, 전형적인 인간의 언어였다. 인간은 이런 식으로 수많은 사물을 의인화하고, 상상의 감정이나 성격을 만들어 거기에 자신의 마음을 이입한다. - P131
바둑계에는 지금 당장은 알 수 없지만 나중에 좋은 수나 나쁜 수가 될지 모르겠다는 잠재력을 표현하는 ‘뒷맛‘이라는 용어가 있다. 당연히 알파고는 그런 걸 생각하지 않는다. 알파고의 모든 수는 계산의 결과다. - P131
지능을 정의하려는 형이상학적 시도는 번번이 실패하는데, 어쩌면 우리가 사용하는 언어 자체의 한계 때문인지도 모른다. 사실 지능을 정의하는 데 성공한다 해도 대단한 상업적 보상이 따라오지 않는다. 지능을 정의하기보다는 만들어 내는 편이 더 쉽고, 더 유혹적이다. - P132
블랙박스인 인간의 뇌는 자신이 작동하는 방식을 다른 인간의 뇌에 전파하기 위해, 즉 다른 사람을 가르치기 위해 언어를 쓴다. 그런 교육의 언어 역시 상당수는 모호한 개념이나 비유다. 바둑계에서는 수많은 바둑 격언이 그런 언어를 사용한다. 매우 추상적인 차원의 조언도 있고, 그보다는 실제적인 차원의 요령도 있다. - P132
‘위기십결(圍碁十訣)‘이라고 하는 열 가지 격언은 상당히 형이상학적인 개념들로 되어 있다. 첫 번째 조언은 ‘부득탐승(不得貪勝)‘인데 승리를 탐하면 이기지 못한다는 뜻이다. 모순된 표현이지만 대부분의 사람은 이 말이 무엇을 의미하는지 쉽게 짐작한다. - P132
"우리가 애매모호하게 알고 있는 것들이 정말 많구나 ...(중략)... 적당히 편의적인 정의를 내려서 적당히 쓰고 있는 것들이 엄청 많아요." _바둑 AI 개발 전문가 김찬우 7단 - P133
"바둑에 신이 있다면 그 신의 눈에는 승부수니 기세니 하는 애매모호한 말은 전부 가소로운 것들로 비칠 것" ...(중략)... "신의 눈에는 오로지 정수와 악수밖에 없"을 것이기에. _서봉수 9단 - P133
"지옥으로 가는 길은 수많은 부사들로 뒤덮여 있다고 나는 믿는다." _스티븐 킹 - P133
작곡과에서 예비 작곡가들에게 가르치는 음악 이론과 요령 역시 그런 추상적인 개념과 비유로 가득 차 있다. - P134
그런데 가끔 부사가 뭔지, 화성이 뭔지 모르는 사람들이 멋진 소설을 쓰고 뛰어난 곡을 작곡하기도 한다. 멋진 소설을 쓰고 뛰어난 곡을 쓰는 데 분명 어떤 능력이 필요하기는 하지만, 그 능력 자체는 작법 이론, 음악 이론과 무관하다. 사실 작법 이론과 음악 이론이 미래의 창작에 도움을 주는 경우는 거의 없다. 그보다는 반대로 과거에 이미 일어난 창작 과정을 언어로 설명할 때 유용하다. - P134
인공지능이라는 블랙박스가 지켜야 할 규칙과 내야 할 결과물을 명확히 규정하는 편이 낫다. 그리고 인공지능이 시도를 거듭할 때마다 점점 성장해서 더 나은 결과물을 낼 수 있도록 피드백 장치를 마련해야 한다. - P135
목표는 어떻게 정해야 할까? 바둑의 경우에는 간명한 목표가 있었다. ‘이겨라‘라는 것이었다. - P135
‘감동적인 소설을 써라, 의미 있는 논픽션을 써라‘ 같은 목표를 인공지능에게 직접 입력하지는 못한다. ‘감동‘이라든가 ‘의미‘ 같은 인간의 언어를 보다 구체적으로, 수량화할 수 있는 표현으로 바꿔 써야 한다. 아마 ‘소설‘과 ‘논픽션‘에 대해서도 비슷한 작업을 해야 할 것 같다. - P135
어떤 물건을 만들어 시장에 내놓으면 소비자의 반응이라는 피드백을 얻는다. 판매량이나 조회수 같은 구체적인 수치로 그 피드백을 규정할 수 있다. - P136
인공지능이 혼자 음악을 만드느냐, 인간의 도움을 받느냐 하는 것은 중요한 문제가 아니다. 즉, 인공지능이 이 전체 피드백 루프를 관장하지 않아도 된다. 이 루프 중 어떤 부분의 생산성을 극적으로 높이기만 하면 된다. - P137
약인공지능은 인간이 언어로 만들어 놓은 추상적 구조물들을 밑바닥에서부터 분해하고, 그 구조물의 어떤 부분을 언어로 설명하는 것을 무의미하게 만들 것 같다. 인간은 여러 분야에서 벌어지는 현상들을 이해하고 그 아래 있는 듯한 패턴을 파악하기 위해 개념어와 비유를 동원해 설명을 만들었다. 그 설명에 의존해 행동 규칙을 세웠고, 그에 따라 일한다. 예술 분야에서뿐만 아니다. 경영 이론, 경제 이론, 사회 이론, 정치 이론, 교육 이론 같은 것들이 다 거기에 해당한다. - P141
좋은 바둑과 이기는 바둑은 다르다고 말하는 프로기사들에게는 큰 약점이 있다. 좋은 바둑이 뭔지 구체적으로 대답하지 못한다는 것이다. 항상 막연하게, 경험에 기대어 설명할 수밖에 없다. - P144
하지만 막연하다고 해서 존재하지 않는 것은 아니다. 좋은 삶, 좋은 부모, 좋은 언론, 좋은 공동체 같은 개념도 명확히 정의하기는 어렵지만 분명히 존재한다. - P145
"한 판의 바둑 내용이 만들어지고, 그걸 누군가가 기보로 접하고, 그걸 봤을 때 물론 승패로 받아들이기는 하지만 그 작품 자체가 주는 즐거움이 있거든요. 그런 면에서 바둑이 예술일 수 있겠다는 생각은 들어요." _박정상 9단 - P146
‘기술이 아니라 철학이 중요하다‘ _후지사와 슈코 9단 - P146
"피아노 연주를 해도 피아니스트마다 느낌이 다르고 소설을 써도 작가마다 다 다르죠. 저는 기사들이 가진 재주와 능력에, 살아온 환경과 생각의 차이가 바둑에 다 녹아든다고 봐요. 제가 바둑을 두면 저만의 바둑을 둬요. 다른 기사들의 바둑과 똑같지 않아요. 팬들이 그런 걸 보면서 박수를 치고 즐기는 거죠." _양재호 9단 - P146
"저는 언젠가부터 제 목표는 사람의 마음을 움직이는 바둑을 두는 것이라고 대답했어요. 지금도 그 생각에는 변함이 없어요. AI한테는 실력이 발끝에도 미치지 못하고 이제 저보다 강한 기사들도 많죠. 그래도 제 바둑을 보는 분들이 ‘이 사람은 뭔가 자기만의 생각을 갖고 바둑을 두는구나, 자기만의 작품을 만들어 나가는구나‘ 하고 생각해 주시길 바랍니다. 보는 사람의 마음을 움직이는 바둑을 두고 싶다는 생각은 앞으로도 변하지 않을 거 같아요." _목진석 9단 - P146
‘좋은 바둑과 이기는 바둑은 다르다‘라는 생각은 ‘바둑은 단순히 승부를 겨루는 게임이 아니라 일종의 예술‘이라는 생각으로 이어진다. - P147
"승부에서는 졌지만 과정이 아름다울 수도 있고 철학이 있을수도 있겠죠. 하지만 바둑에서 궁극적 가치가 그런 걸 보여주는건 아니라고 생각해요. 바둑이 추구하는 최종 목표는 어쨌든 상대에게 반집 차이로라도 이기는 것이고, 이길 수 있는 수를 찾아내는 과정이 아름다운 거예요. 이길 수 있는 수가 있는데 갑자기 철학을 하겠다면서 다른 짓을 하는 건 바둑이 아니라고 봅니다. 철학을 가지고 이기면 정말 아름답겠지만 졌을 때 철학을 핑계로 대는 건 전혀 아름답지 않아요." _명지대 바둑학과 남치형 교수 - P150
"그런 게 있다(바둑에 철학이 있다)고 주장했던 과거 모습이 더 ‘손발 오그라드는‘ 일이었다고 생각해요. ‘나는 이렇게 가치 있는 존재야‘ 하고 계속 얘기해야 하는 상태라면 이미 자존감이 없는 거죠. 그렇게 치면 축구든 수영이든 피겨스케이팅이든 어떤 분야에서건 철학과 통찰은 이야기할 수 있을 거라고 저는 생각해요." _명지대 바둑학과 남치형 교수 - P150
|