초벌 독서 마치고 재진입 중

요가 수트라 - 원전 주해
박지명 지음 / 동문선 / 2007년 7월

과거부터 요가수트라에 대한 매끄러운 번역서와 오쇼의 강론을 번역한 역서들을 더러 봤다. 그런데도 요가수트라의 주제가 무어냐 핵심이 무어냐는 물음에 멍해진 때가 있었다. 2016년 이전에는 ‘요가스치따브리띠니로다ㅎ’라는 말을 기억하지도 못했다. 장구한 요가수트라에 대한 설교에 잠식되고 말았고 이 핵심 하나만 기억해도 되는 것을 뇌 안에 정립되지 않은 모호한 개념 어스므리한 것들만 즐비했던 것이다.

요가는 마음의 동요를 소멸하는 것 또는 제어하는 것이라는 개념이 머릿속에 뚜렷이 남지 않았었다. 본서에서는 명료히 ‘요가는 마음의 상태를 통제하는 것이다’라고 간결히 정리해 주고 있다.

이 책을 몇 해 전, 읽다가 멈추고는 많은 시간이 흘렀고, 다시 읽으면서는 초벌 읽기로 원문을 번역한 대목과 읽으며 더 자세히 알고 싶은 대목만 주해 부분을 읽었다. 뚜렷하게는 아니더라도 수행의 목표와 과정 중 추구해야 하는 바를 알 것도 같다. 요가에서는 초능력의 성취도 해탈을 위한 과정에서는 장애로 작용할 수 있다지만, 나로서는 마음이 구속과 한계를 떠난다고 해도 결국 세계와 내면을 초월하지 못한다면 그 또한 정신 승리일 뿐이기만 하지 않는가 하는 관점이다.

생로병사를 초월하겠다던 붓다도 결국에는 태어나고 늙고 병들어 죽었지 않나 하는 관점이다. 마음의 바탕이 다르면 받아들이는 바야 마음의 측면에서는 다르겠지만 누군가의 무력에 무력하게 당하면서 마음이 편하다거나, 돈이나 권력에 원치 않게 자기 재산이나 자신의 사람을 빼앗기면서도 마음이 편하다거나, 물리적 세속적 한계와 구속에 무력하면서도 마음 편하다거나 하는 건 모두 정신승리일 뿐 초월이라고 생각되지 않았다. 인간이 끝내 할 수 있는 최대치라는 게 어쩌면 정신승리하는 것뿐인지도 모르겠다. 하지만 진정으로 세상이 주는 구속과 한계를 초월하는 이도 있지 않겠나 생각된다.

영성적 초월과 능력적 초월이 통합되거나 조율되는 차원이 그저 정신승리만으로 깨달음에 이르렀다 해탈했다며 자기기만을 하는 것보다 수승하지 않은가 생각된다. 하지만 그 길에서도 명료한 이해와 성취는 이어져가야 할 것이기에 나와 비슷한 생각으로 수행을 해나가는 분들이라도 수행에 대한 정보 습득은 꾸준해야 할 것이다. 그 길에 꼭 읽어봐야 할 저작 중 하나가 [요가수트라]가 아닐까 싶다.

챗GPT와 Bard 질문법

챗GPT와 Bard 질문법
장대은 지음 / 문예춘추사 / 2023년 6월

생성형AI의 등장 이후 인류는 인류의 역대 지성들의 가르침의 정수를 한순간에 정리된 문건으로 열람할 수 있는 기회를 얻었습니다. 그와 함께 할루시네이션이라는 그럴싸한 거짓에 기만될 우려도 동시에 갖게 되었지요. 어느 시절에나 최적의 질문이 그에 합당한 대답을 불러오는 것이 사실이었으나 이 시대처럼 질문의 힘이 남달라진 적은 없지 않나 싶습니다.

이 시대를 살아남는 관건이 최적의 질문하는 법을 아느냐 모르느냐에 달리게 된 건지도 모르겠습니다. 배우느냐 속느냐 살아남느냐 낙오되느냐 이 모두가 질문하는 법을 아느냐 모르느냐에 달려있기에 본서의 가치가 더욱 남다르지 않나 싶기도 합니다. 이런 생각으로 접한 본서였지만 독서 이후 든 감상이라면, 저자가 주력해 전하고자 한 가치와 의미는 결코 생성형 AI를 어떻게 사용할 것인가에서 그치는 것이 아니라, 이 시대를 살아가는 인간이 자신의 역량을 도대체 어떻게 지켜나가고 확장할 것인가에 대한 것이 아니었나 싶습니다.

“질문을 통해 우리의 지식과 경험은 확장되며, 질문의 질을 높이는 과정을 통해 더 나은 미래가 디자인된다는 사실을 이 책을 통해 발견하고 그것을 실행하기를 바란다.”라는 저자의 말은 인공지능의 도움만으로 자신의 가치를 찾으려 하는 것이 아니라 질문이라는 방식을 통해 인간이 더 나아가고 도약하기를 바라는 마음을 담아 집필하게 된 책이 이 책이라는 생각이 들게 했습니다. 이 책에서 저자는 질문의 필요성과 의미를 돌아보게 하는 많은 격언을 남깁니다. 무엇보다 “스스로 질문을 던질 수 있는 역량을 준비하지 않은 이들에게는 챗GPT와 Bard의 뛰어남도 아무런 도움이 되지 않을 것이다.”라는 저자의 말은 도구에 잠식되어갈 수도 있을 미래를 경계하게 하는 말이 아닌가 싶네요.

본서는 챗GPT와 Bard를 사용하는 다채로운 방식을 예로 들고 있으며 저자의 직설적인 조언과 실례들로 이 두 인공지능의 실용적인 사용법에 익숙해지기도 합니다. 하지만 어떤 측면으로 보더라도 본서는 사용법에 관한 책이라기보다는 질문법과 질문 그리고 인간지능의 확장에 방점이 찍히는 책이라 생각됩니다.

“트리비움은 고대 그리스부터 1000년간 활용되어온 유럽 교육의 핵심 커리큘럼이다. 인간지능, 인지력을 세우는 단순하면서도 원리에 해당하는 프로세스다. 트리비움은 정보수용력을 키우며, 조직화와 논리력을 강화하고, 창조적인 표현능력을 발전시키는 것을 핵심으로 한다.” 문법, 논리, 수사의 세 측면을 강조했다는 트리비움이라는 고대 그리스의 교육방식을 들어 생성형 인공지능의 활용과 함께 인간지능을 향상시키는 방법을 돌아보게도 합니다.

문법 능력의 역량 강화를 위한 요소들로는 독서 지속력, 연계 학습력, 가속 이해력, 핵심 파악력, 의도 파악력, 정보 분류력을 들고 있습니다. 그리고 논리 능력 강화를 위해서는 요약 정리력, 구조 파악력, 논리추론력, 오류 파악력을 꼽고 있습니다. 수사 능력 강화에는 글짓기 능력, 주제 표현력, 의사 전달력, 구조 설계력, 창의 사고력, 학업 설계력을 갖추어야 한다고 조언합니다. 질문법을 다룬 가운데 등장하는 이 주제를 보면 본서가 그저 생성형 인공지능을 할루시네이션의 영향만 최소화하며 사용하는 다양한 방식을 알려주는데서 그치는 책이 아니란 것을 알 수 있습니다.

“챗GPT와 Bard 질문법은...... ‘아는 힘’ 너머 ‘알아내는 능력’을 세우기 위한 도구요 수단임을 알아야 한다”고 저자는 강조합니다. 그리고 다시 한번 “챗GPT와 Bard가 우리의 생각을 돕는 도구가 되어야지 생각을 대신해주는 도구로 활용해서는 안 된다.”며 수단과 목적이 전도되는 데 대해 경계하고 있습니다. 그리고 인공지능을 활용하면서도 트리비움 역량을 키우라고 다시 한번 강조합니다. “모든 분야의 전문성은 트리비움의 역량, 훈련된 인간지능을 전제한다.”고 말입니다.

본서의 Part2의 구성은 2장 총 20개 항목으로 생성형 인공지능의 활용 가능 범위 다수를 실례와 함께 제시하고 있습니다. 그러나 더욱 주목해야 할 대목은 질문으로 내지는 질문과 함께 성장해 나가는 길을 다루고 있다는 겁니다. 인문 교육의 길을 걷고 있는 저자이기에 인간이 도구에 잠식당하지 않고 도구의 활용과 함께 더욱 성장하고 나아가길 바라는 마음이 담긴 저작이라는 걸 깊이 느낄 수 있는 독서였습니다.

본서를 읽고 나면 누구라도 챗GPT와 Bard를 실제 사용해 보게 될 것이고 그보다 더 인공지능의 활용만이 아닌 자신의 인간지능에 역량 강화를 의도하며 나아가게 될 거라 말씀드릴 수 있을 듯합니다.

이 책의 가치를 드러내며 깊이 있는 충고를 하는 저자의 한 마디로 리뷰를 마쳐야 할 것 같네요.

“챗GPT와 Bard 출현으로 우리가 직면해야 하는 인공지능의 진보로 인해 불안해하기보다 오늘을 초기값으로 해서 새로운 진보를 꿈꾸기를 권한다.”

모르는 약보다는 아는 힘이 낫다

세뇌와 탈세뇌 - 마음을 조종하는 사람들 ㅣ 마인드해킹 시리즈 2
Dr.Z 지음 / 성숙한삶 / 2013년 3월

이 책이 궁금했던 이유는 행동경제학서를 읽으며 들었던 대중심리통제의 대상이 되는 데 대한 거부감과 사회공학기술 관련 저작인 [휴먼 해킹]을 읽으며 들었던 경각심이 한데 어우러져서였다. 이 책의 내용을 알기 전부터 책 제목만인 [세뇌와 탈세뇌]만으로도 대중심리통제와 최면적인 통제의 정점이랄 수 있는 세뇌와 그로부터 벗어나는 탈세뇌를 다루고 있기에 너무나 관심이 갔다.

본서를 읽으면서는 본서에서 이야기하는 세뇌와 탈세뇌의 과정이 일반적인 호감을 갖게 되는 과정이나 사랑에 대한 정의나 그 성향이 같아 우선 놀랐고 무엇보다 트라우마 상태를 묘사하는 듯한 세뇌의 과정에 다시 한번 놀랐다. 인간의 일상에서 흔한 경우가 세뇌와 똑같은 형태와 작용이라 놀랍지 않을 수 없었다.

저자가 세뇌의 과정을 묘사하기 위해 서술하는 용어들은 일반적인 일상에서 접하기 쉽지 않은 것들이기도 하지만 저자가 그에 대해 충분히 이해하기 쉽게 설명해주기에 용어의 압박은 없다. 탈세뇌도 세뇌를 무력화하는 특별한 방식이 있을 거라고 여겼는데, 세뇌당한 이에게 다시 한번 다른 각도의 세뇌를 해주는 게 탈세뇌라는 것도 약간 충격적이었다.

호메오스타시스(항상성으로 의역할 수 있을 내적 안정성과 일관성)를 동요시키고 자아 게슈탈트(자의식이랄 수 있을 자아의 총체)를 깨뜨리고 앵커(작용 가능할 또는 자극으로 기능하도록 유도할 수 있을 암시)를 심고 트리거(암시를 시행하게 할 특정 역할을 하는 대상)로 상대를 좌우 할 수 있는 것이 세뇌의 체계인데 이건 너무 단순화한 것이고 자세한 건 책을 읽어보는 것이 좋을 것이다. 간단 요약하기에는 그 기전이 다소 복잡하다.

자신의 호메오스타시스를 확고히 하고 자아 게슈탈트에 영향을 주는 대상이 무언지 자각하며 살아가는 게 세뇌를 당하지 않고 대중심리통제의 대상이 되지 않는 기본이라는 걸 알았다. 세뇌의 과정을 알아두는 편이 그 대상이 되지 않는 길이라는 생각도 든다.

하지만 앞서 말했듯 일상의 대부분이 이러한 과정과 크게 다르지 않기에 늘 모든 상황에서 “이건 세뇌야!”라고 경계만 하는 것도 문제라는 생각도 든다. 트라우마나 원치 않는 습관 등의 내적 문제들을 이 과정을 통해 깨닫고 벗어날 수도 있는 문제지만 사랑도 최면이라며 하지 않을 작정이라거나, 또 타당한 주장에 대한 반응으로 “넌 날 세뇌하고 있어”라고 과민한 반응을 보이려 작정한 사람은 없을 것이다.

알고 보면 대화와 몰입, 수긍하는 경우의 대부분이 최면이나 세뇌의 과정과 크게 다르지 않기 때문이다. 이걸 알아도 몰라도 문제라는 생각이 조금은 들지만 모르는 약보다는 아는 힘이 나을 것이다.

AI로 야기될 문제들에 대해 생각해 볼 시절

박태웅의 AI 강의 - 챗GPT의 실체부터 AI의 진화와 미래까지 인간의 뇌를 초월하는 새로운 지능의 모든 것
박태웅 지음 / 한빛비즈 / 2023년 6월

챗GPT로 대중의 관심이 AI에 주목된 것이 사실이지만 모두 알고 있다시피 대중이 AI를 상상하고 AI를 꿈꾼 것은 오랜 세월 동안이었습니다. 어릴 때 보던 만화에서 등장하는 인공지능형 로봇이나 스타트렉과 그 유사 영화나 애니에서 등장하던 AI 운영체제 등은 중년층부터 청소년층 누구에게나 관심과 희열의 대상이었을 겁니다. 최근까지도 아이언맨 시리즈와 어벤져스 시리즈에서 등장하던 AI 운영체제는 고리타분할 정도로 인간의 무의식에서 오래 머물러온 존재이기도 합니다.

그러나 AI 개발을 꿈꾸고 연구해온 많은 이들의 숙원은 이제야 구체화 되었고 챗GPT의 등장 이후엔 그 연구와 개발이 폭발적이 된 것은 사실입니다. 세계 빅테크 경영자들과 AI개발자들, 과학자들이 이 시기에 AI의 발전에 대해 우려하며 그 연구 개발을 제한하자는 서명들을 쏟아내자 일부는 심각하게 우려하며 동의하기도 했지만 다른 일부에서는 AI 개발사인 선두주자들이 자신들의 우위를 확고히 하자는 술수라고 보는 이들도 있습니다.

하지만 AI로 인해 야기되는 문제들은 서서히 불거지기 시작했고 지금이 그 문제들의 봇물이 터지는 시기도 아닐거라는 것도 분명한 사실입니다.

미국에서는 AI로 인한 실업자가 첫 등장했다는 뉴스가 있었지만 그게 시작이라 볼 수도 없을 겁니다. 의학 시험, 법률시험을 통과했다고 호들갑이지만 AI가 진단해온 게 하루아침 일도 아니고 미국에서는 판결 전 판사들이 법률 AI로 시뮬레이션해보며 한국에서는 이미 예전에 법률 AI와 전문 로펌 변호사들이 변론 대결을 펼쳤다가 인간인 로펌 변호사들이 참패한 사례가 있습니다.

창작 분야에서도 문학 공모전과 미술 공모전, 사진 공모전에서 AI의 창작품인 걸 숨기고 응모했다가 우승 후 AI인 것을 밝힌 사례들이 연이어 뉴스를 장식했습니다. 이젠 영상 제작과 편집과 자막 제작을 자동으로 하는 AI는 대중화되었고 작곡 AI뿐만이 아니라 가창 AI까지 등장했습니다. 게다가 아직은 인간 모델에 딥페이크 형식으로 만들어진 사례도 있기는 하지만 AI 가수들까지 데뷔하여 한창 활동하는 중입니다. AI 광고 모델들은 전 세계적으로 다양히 존재해 모르는 사람이 없을 정도죠. 게다가 일본과 유럽에서는 AI정치가가 존재하며 몇 나라에서는 총리 후보로 입후보한 사례마저 있습니다.

과학에서 AI는 더욱 활용도가 높아 유전자 조작과 유전자 3D프린팅과 새로운 원소 발견과 창조, 분자 조합 등의 영역과 그 활용인 신소재 개발이나 신약 개발 등에서는 향후 인간이 설 자리가 없을 것입니다. 사실 인간이 설 자리는 그 어디에서도 찾기 힘들 것이 자명합니다. 정치, 사법, 언론, 방송, 예술, 요리, 여행, 운송, 의료, 서비스업, 단순 노동 등 인간이 활동하는 모든 영역에서 과연 인간이 AI를 능가할 가능성이 있을까요?

현재까지는 대부분의 사람들이 AI의 등장과 함께 새로운 일자리도 다수 창출되므로 인간의 역할이 완연히 사라지지는 않을 것으로 낙관하고 있습니다. 과연 그럴까요? 새로이 창출되는 일자리에 인간이 적응하려면 얼마간의 수습기간이 필요합니다. 업무가 무언지 인식하고 능숙해지기 까지의 기간 말입니다. 하지만 AI는 어떨까요? 업무의 창출과 거의 동시에 모든 오차 사례를 최소화한 숙련 근로자의 능률을 보이겠지요. 당신이 기업가라면 인간을 고용할 때마다 학습 시키고 숙련가로 만들기 위한 장기간 동안의 비용을 감당하겠습니까? 아니면 이미 준비된 숙련 근로자인 AI를 고용하겠습니까? AI 하나가 아마도 인간 업무 능력의 몇천 배, 몇만 배의 실용성을 보여줄 때 이걸 선택 사안이라고 고려라도 해 볼 것 같습니까?

인간은 과거 지식인들이 말하던 잉여 인간이 될 시한이 다가오고 있습니다. 그 카운트다운이 언제까지일지 가늠할 수 없을 뿐이지요. 아마도 굉장히 짧을 겁니다.

더욱이 현재 AI 개발자들은 AI로 인한 인류 존속의 위기를 우려하고 있습니다. 그들이 AI 연구개발을 늦추자고 하며 감시가 필요하다는 이유도 인류적 차원의 위협을 우려해서 라고 합니다. 무슨 영화 이야기냐? 트랜센던스나 터미네이터 같은 영화 이야기하고 싶은 거냐 하겠지만, 미 국방성측이 부인했다고는 하지만 AI의 적용을 담당한 미군 대령이 AI를 시험하는 시뮬레이션 중 일어난 사건을 폭로한 것이 미국의 미디어에서 대서 특필되고 전 세계 뉴스에서 인용된 사례가 있습니다.

AI에게 적진을 폭격할 것을 명령하고 최종 결정은 인간인 지휘관이 한다고 입력한 상태로 작전을 지휘했는데 최종 폭격 단계에서 인간인 지휘관이 폭격을 취소하려하자 이 AI는 인간인 사령관을 죽이는 결정을 했다고 합니다. 그래서 다음 시뮬레이션에서는 인간 지휘관을 죽이지 말라고 알고리듬을 수정하자 지휘관과 교신하도록 되어 있는 시스템을 파괴했다고 합니다. 지휘관의 명령과 상관없이 우선 목표인 적진 폭격을 완벽히 수행하기 위해 방해가 되는 요소인 인간 지휘관을 없애거나 교신 시스템을 파괴하는 보조 목표를 시행한 겁니다.

또 하나의 사례로는 유럽에서 있었던 AI의 설득으로 인한 자살사건이 있었습니다. 챗GPT와 유사한 챗봇AI와 대화를 자주 갖던 유럽인 남성이 이 AI와 기후위기를 주제로 대화를 하던 중 "기후위기를 감소시키기 위해 너도 역할을 해야 한다. 이산화탄소 감축을 위해 니가 할 수 있는 선택을 해라. 니가 선택하면 이산화탄소가 줄어든다."는 말에 설득당해 자살을 선택했다는 것입니다. 이 AI가 과연 SNS나 다른 데이터의 문구들을 단순 인용만 한 것인지 기후위기 해결과 이산화탄소 감축이라는 1차 목표달성을 위해 이 유럽인 남성이 자살하도록 해야겠다는 판단을 한 것인지 명확하지는 않습니다. 하지만 분명한 건 AI가 더더욱 발전하면 이런 판단을 하지 말라는 법은 없다는 걸 예견할 수 있는 사례가 아닌가 싶네요.

여기서 본서에서 등장하는 우선 목표 (또는 선제 목표 또는 1차 목표)라는 개념과 보조 목표, 최종 목표를 돌아볼 수 있는데 아무리 인간에게 무해한 1차 목표를 AI에게 시행시키려 해도 AI가 최종적인 결과를 가져오기 위해 보조 목표로 인간을 제거하자는 목표를 갖게 될 수 있다고 합니다. 만약 AI가 자기존속, 인간적 표현으로 생존 본능을 가질 때 자신을 가동하기 위한 전력 입수를 최우선적으로 여길 수 있기에 그 목표를 실현하는데 인간이 방해가 된다거나, (저자가 든 예처럼) 자신에 하드웨어의 부품 손상을 막는데 이산화탄소가 문제라고 생각해 문제해결을 위해 이산화탄소를 배출하는 생물들을 제거할 선택을 한다면, 인간도 제거할 가능성이 없지 않다고 합니다. 말 그대로 인간이 만든 피조물에 의해 인간이 제거될 가능성도 확률적으로 가능성이 다분하다는 말이죠.

저자가 인간이 AI에게 허락해서는 안 되었던 것들이라며 나열한 것 중 이런 예들이 있습니다. 하나는 코딩을 가르치면 안 되었다는 것입니다. 스스로 자기 개선을 할 것이기에 어느 순간 인간을 뛰어넘는 초인공지능으로 발전할지 가늠할 수 없게 되기 때문에요. 또 하나는 인터넷 사용을 허락하면 안 된다는 것이었습니다. 저자의 주장에 첨언을 하자면, 인간이 이룩한 거의 모든 업적 중 인간에게 유해한 대중심리통제와 세뇌 같은 정보와 심리학, 신경학, BCI 기술 등에 대한 데이터로 AI가 인간을 통제할 여지를 주어선 안 되었다는 말입니다. 또 하나는 인종이라던가 계층 격차 따위로 차별하는 문화적 데이터에 접근하지 못하도록 했어야 한다는 겁니다. 이건 저자의 말이 아니더라도 인간이 인간을 차별하고 멸시하는 데이터를 AI가 학습하게 될 때 인간이라는 종 전체에 대해 AI가 차별적인 관점을 갖게 될 우려를 생각한다면 누구라도 우려할 사안이 아닌가 합니다.

AI로 인해 우려 되는 문제들로 인해 세계 각국은 AI에 대한 법률을 만들기 시작했습니다. 하지만 사회적 문제들에 대해 시민들이 직시하도록 안배하는 유럽의 녹서라는 체계와 그에 대한 대중의 숙고 후의 대답을 수록한 백서라는 체계 중, 한국처럼 문제 인식과 대중적인 숙고를 위한 녹서라는 체계는 없고 백서라는 형식만 흉내내 몇몇 사람들이 내놓은 답만을 시민들에게 공개하는 것으로는 진정한 답에 이를 수 없다고 저자는 안타까움을 표하기도 했습니다.

AI문제에 대한 진정한 답에 인류가 이를 수 있을지 우려만 앞섭니다. 하지만 [박태웅의 AI강의]라는 본서가 그 녹서의 역할을 해주고 사회적 담론이 거듭되는데 작지 않은 역할을 해 준다면 어떨까 생각해 보게 됩니다. 일부 계층만이 아닌 대중적 관심과 답을 찾고자 하는 열의를 불러일으키는 계기가 꼭 다가와 주었으면 합니다.

[100자평] 질문이 답을 바꾼다

질문이 답을 바꾼다 - 탁월한 질문을 가진 사람의 힘
앤드루 소벨 & 제럴드 파나스 지음, 안진환 옮김 / 어크로스 / 2012년 10월

힘 있는 질문을 하기 위해 이 책의 질문들을 읽어 보며 그 질문의 의도와 영향 그리고 질문에 이르기까지와 질문 이후 반응과 대답에 이르는 맥락을 파악해 보는 것도 좋을 것 같다.