AI로 야기될 문제들에 대해 생각해 볼 시절

박태웅의 AI 강의 - 챗GPT의 실체부터 AI의 진화와 미래까지 인간의 뇌를 초월하는 새로운 지능의 모든 것
박태웅 지음 / 한빛비즈 / 2023년 6월

챗GPT로 대중의 관심이 AI에 주목된 것이 사실이지만 모두 알고 있다시피 대중이 AI를 상상하고 AI를 꿈꾼 것은 오랜 세월 동안이었습니다. 어릴 때 보던 만화에서 등장하는 인공지능형 로봇이나 스타트렉과 그 유사 영화나 애니에서 등장하던 AI 운영체제 등은 중년층부터 청소년층 누구에게나 관심과 희열의 대상이었을 겁니다. 최근까지도 아이언맨 시리즈와 어벤져스 시리즈에서 등장하던 AI 운영체제는 고리타분할 정도로 인간의 무의식에서 오래 머물러온 존재이기도 합니다.

그러나 AI 개발을 꿈꾸고 연구해온 많은 이들의 숙원은 이제야 구체화 되었고 챗GPT의 등장 이후엔 그 연구와 개발이 폭발적이 된 것은 사실입니다. 세계 빅테크 경영자들과 AI개발자들, 과학자들이 이 시기에 AI의 발전에 대해 우려하며 그 연구 개발을 제한하자는 서명들을 쏟아내자 일부는 심각하게 우려하며 동의하기도 했지만 다른 일부에서는 AI 개발사인 선두주자들이 자신들의 우위를 확고히 하자는 술수라고 보는 이들도 있습니다.

하지만 AI로 인해 야기되는 문제들은 서서히 불거지기 시작했고 지금이 그 문제들의 봇물이 터지는 시기도 아닐거라는 것도 분명한 사실입니다.

미국에서는 AI로 인한 실업자가 첫 등장했다는 뉴스가 있었지만 그게 시작이라 볼 수도 없을 겁니다. 의학 시험, 법률시험을 통과했다고 호들갑이지만 AI가 진단해온 게 하루아침 일도 아니고 미국에서는 판결 전 판사들이 법률 AI로 시뮬레이션해보며 한국에서는 이미 예전에 법률 AI와 전문 로펌 변호사들이 변론 대결을 펼쳤다가 인간인 로펌 변호사들이 참패한 사례가 있습니다.

창작 분야에서도 문학 공모전과 미술 공모전, 사진 공모전에서 AI의 창작품인 걸 숨기고 응모했다가 우승 후 AI인 것을 밝힌 사례들이 연이어 뉴스를 장식했습니다. 이젠 영상 제작과 편집과 자막 제작을 자동으로 하는 AI는 대중화되었고 작곡 AI뿐만이 아니라 가창 AI까지 등장했습니다. 게다가 아직은 인간 모델에 딥페이크 형식으로 만들어진 사례도 있기는 하지만 AI 가수들까지 데뷔하여 한창 활동하는 중입니다. AI 광고 모델들은 전 세계적으로 다양히 존재해 모르는 사람이 없을 정도죠. 게다가 일본과 유럽에서는 AI정치가가 존재하며 몇 나라에서는 총리 후보로 입후보한 사례마저 있습니다.

과학에서 AI는 더욱 활용도가 높아 유전자 조작과 유전자 3D프린팅과 새로운 원소 발견과 창조, 분자 조합 등의 영역과 그 활용인 신소재 개발이나 신약 개발 등에서는 향후 인간이 설 자리가 없을 것입니다. 사실 인간이 설 자리는 그 어디에서도 찾기 힘들 것이 자명합니다. 정치, 사법, 언론, 방송, 예술, 요리, 여행, 운송, 의료, 서비스업, 단순 노동 등 인간이 활동하는 모든 영역에서 과연 인간이 AI를 능가할 가능성이 있을까요?

현재까지는 대부분의 사람들이 AI의 등장과 함께 새로운 일자리도 다수 창출되므로 인간의 역할이 완연히 사라지지는 않을 것으로 낙관하고 있습니다. 과연 그럴까요? 새로이 창출되는 일자리에 인간이 적응하려면 얼마간의 수습기간이 필요합니다. 업무가 무언지 인식하고 능숙해지기 까지의 기간 말입니다. 하지만 AI는 어떨까요? 업무의 창출과 거의 동시에 모든 오차 사례를 최소화한 숙련 근로자의 능률을 보이겠지요. 당신이 기업가라면 인간을 고용할 때마다 학습 시키고 숙련가로 만들기 위한 장기간 동안의 비용을 감당하겠습니까? 아니면 이미 준비된 숙련 근로자인 AI를 고용하겠습니까? AI 하나가 아마도 인간 업무 능력의 몇천 배, 몇만 배의 실용성을 보여줄 때 이걸 선택 사안이라고 고려라도 해 볼 것 같습니까?

인간은 과거 지식인들이 말하던 잉여 인간이 될 시한이 다가오고 있습니다. 그 카운트다운이 언제까지일지 가늠할 수 없을 뿐이지요. 아마도 굉장히 짧을 겁니다.

더욱이 현재 AI 개발자들은 AI로 인한 인류 존속의 위기를 우려하고 있습니다. 그들이 AI 연구개발을 늦추자고 하며 감시가 필요하다는 이유도 인류적 차원의 위협을 우려해서 라고 합니다. 무슨 영화 이야기냐? 트랜센던스나 터미네이터 같은 영화 이야기하고 싶은 거냐 하겠지만, 미 국방성측이 부인했다고는 하지만 AI의 적용을 담당한 미군 대령이 AI를 시험하는 시뮬레이션 중 일어난 사건을 폭로한 것이 미국의 미디어에서 대서 특필되고 전 세계 뉴스에서 인용된 사례가 있습니다.

AI에게 적진을 폭격할 것을 명령하고 최종 결정은 인간인 지휘관이 한다고 입력한 상태로 작전을 지휘했는데 최종 폭격 단계에서 인간인 지휘관이 폭격을 취소하려하자 이 AI는 인간인 사령관을 죽이는 결정을 했다고 합니다. 그래서 다음 시뮬레이션에서는 인간 지휘관을 죽이지 말라고 알고리듬을 수정하자 지휘관과 교신하도록 되어 있는 시스템을 파괴했다고 합니다. 지휘관의 명령과 상관없이 우선 목표인 적진 폭격을 완벽히 수행하기 위해 방해가 되는 요소인 인간 지휘관을 없애거나 교신 시스템을 파괴하는 보조 목표를 시행한 겁니다.

또 하나의 사례로는 유럽에서 있었던 AI의 설득으로 인한 자살사건이 있었습니다. 챗GPT와 유사한 챗봇AI와 대화를 자주 갖던 유럽인 남성이 이 AI와 기후위기를 주제로 대화를 하던 중 "기후위기를 감소시키기 위해 너도 역할을 해야 한다. 이산화탄소 감축을 위해 니가 할 수 있는 선택을 해라. 니가 선택하면 이산화탄소가 줄어든다."는 말에 설득당해 자살을 선택했다는 것입니다. 이 AI가 과연 SNS나 다른 데이터의 문구들을 단순 인용만 한 것인지 기후위기 해결과 이산화탄소 감축이라는 1차 목표달성을 위해 이 유럽인 남성이 자살하도록 해야겠다는 판단을 한 것인지 명확하지는 않습니다. 하지만 분명한 건 AI가 더더욱 발전하면 이런 판단을 하지 말라는 법은 없다는 걸 예견할 수 있는 사례가 아닌가 싶네요.

여기서 본서에서 등장하는 우선 목표 (또는 선제 목표 또는 1차 목표)라는 개념과 보조 목표, 최종 목표를 돌아볼 수 있는데 아무리 인간에게 무해한 1차 목표를 AI에게 시행시키려 해도 AI가 최종적인 결과를 가져오기 위해 보조 목표로 인간을 제거하자는 목표를 갖게 될 수 있다고 합니다. 만약 AI가 자기존속, 인간적 표현으로 생존 본능을 가질 때 자신을 가동하기 위한 전력 입수를 최우선적으로 여길 수 있기에 그 목표를 실현하는데 인간이 방해가 된다거나, (저자가 든 예처럼) 자신에 하드웨어의 부품 손상을 막는데 이산화탄소가 문제라고 생각해 문제해결을 위해 이산화탄소를 배출하는 생물들을 제거할 선택을 한다면, 인간도 제거할 가능성이 없지 않다고 합니다. 말 그대로 인간이 만든 피조물에 의해 인간이 제거될 가능성도 확률적으로 가능성이 다분하다는 말이죠.

저자가 인간이 AI에게 허락해서는 안 되었던 것들이라며 나열한 것 중 이런 예들이 있습니다. 하나는 코딩을 가르치면 안 되었다는 것입니다. 스스로 자기 개선을 할 것이기에 어느 순간 인간을 뛰어넘는 초인공지능으로 발전할지 가늠할 수 없게 되기 때문에요. 또 하나는 인터넷 사용을 허락하면 안 된다는 것이었습니다. 저자의 주장에 첨언을 하자면, 인간이 이룩한 거의 모든 업적 중 인간에게 유해한 대중심리통제와 세뇌 같은 정보와 심리학, 신경학, BCI 기술 등에 대한 데이터로 AI가 인간을 통제할 여지를 주어선 안 되었다는 말입니다. 또 하나는 인종이라던가 계층 격차 따위로 차별하는 문화적 데이터에 접근하지 못하도록 했어야 한다는 겁니다. 이건 저자의 말이 아니더라도 인간이 인간을 차별하고 멸시하는 데이터를 AI가 학습하게 될 때 인간이라는 종 전체에 대해 AI가 차별적인 관점을 갖게 될 우려를 생각한다면 누구라도 우려할 사안이 아닌가 합니다.

AI로 인해 우려 되는 문제들로 인해 세계 각국은 AI에 대한 법률을 만들기 시작했습니다. 하지만 사회적 문제들에 대해 시민들이 직시하도록 안배하는 유럽의 녹서라는 체계와 그에 대한 대중의 숙고 후의 대답을 수록한 백서라는 체계 중, 한국처럼 문제 인식과 대중적인 숙고를 위한 녹서라는 체계는 없고 백서라는 형식만 흉내내 몇몇 사람들이 내놓은 답만을 시민들에게 공개하는 것으로는 진정한 답에 이를 수 없다고 저자는 안타까움을 표하기도 했습니다.

AI문제에 대한 진정한 답에 인류가 이를 수 있을지 우려만 앞섭니다. 하지만 [박태웅의 AI강의]라는 본서가 그 녹서의 역할을 해주고 사회적 담론이 거듭되는데 작지 않은 역할을 해 준다면 어떨까 생각해 보게 됩니다. 일부 계층만이 아닌 대중적 관심과 답을 찾고자 하는 열의를 불러일으키는 계기가 꼭 다가와 주었으면 합니다.

조작이 난무할 때 기후위기설 누구를 믿어야 할까?

*아래는 방송내용을 정리한 것임

UN IPCC (기후변화에 관간 정부 간 협의체)는 지난 3월 제 6차 보고서를 발표

-앞으로 10년 동안 강력한 온실가스 감축 대책이 요구된다고.

IPCC는 UNEP(유엔 환경기구)와 WMO(세계기상기구)가 연계해 만든 비상설기구.

이들이 10년 후면 지구가 위험하다 인류는 끝짱이다라는 주장을 펼친 것은 이번이 처음이 아니다.

1972년 모리스 스트롱(1929~2015) UNEP 창립 사무총장은 지구온난화라는 “재앙으로부터 세상을 구하려면 10년 밖에 남지 않았다”고 위기감을 조성했다. 1960년대와 1970년에는 지구냉각화를 공론화하며 빙하기가 온다던 인물이라고 한다.

1982년 토스타파 톨바 UNEP 사무총장은 “재앙으로부터 세상을 구할 시간은 18년 밖에는 남지 않았다”고 주장했으며 1989년 AP통신은 “2000년까지 지구온난화 추세를 멈추지 않으면 해수면 상승으로 모든 나라가 지표면에서 사라진다”고 경고했다.

기후위기를 내세우면 지구의 존폐가 금세인 것처럼 조장해 오고 있던 것이 하루 이틀 일이 아니었다.

사실 1940년부터 인류는 지구의 기후에 민감해졌는데 기상 관측을 하며 1940년도 후반 냉각화를 우려하게 되고 1970년도에는 지구 냉각화가 심각했었으나 1983년~1985년 사이 다시 온난화로 돌아섰다고 한다. 이러다 1992년 리우 환경 정상회의에서 UN 기후변화협약 후 기후 대응이 정치화되기 시작했다고 한다.

방송내용을 보고 나서 정리하는 본인의 경우에는 기후위기의 정치화가 저개발국가나 개발도상국의 발전을 막아 각국을 계층화하기 위한 의도로 진행된다고 생각했는데 각국의 계층화는 오히려 선진국들 사이에서 일어나지 저개발국가와 개발도상국은 기후위기를 수단으로 톡톡한 수혜를 받고 있음을 알게 되었다.

몰디브는 1980년대에는 지구온난화로 가라앉는다며 각국으로부터 지원금을 대대적으로 받았으나 가라앉기는커녕 현재 공항을 확장하고 있다고 한다. 투발루는 지난 40년 동안 땅이 2.9%나 융기하고 확장되었으며 국민 소득 연평균 성장률이 10%(세계 평균은 3%일뿐인데)라고 한다.

저개발국가는 기후위기로 잘 사는 나라들로부터 혜택을 보고 있으며 개발도상국은 선진국들 간의 환경제재의 역효과로 세계의 생산기지가 되고 있다.

방송을 통해 기후위기가 정치적으로 이용되는 사례나 이유를 명료히 알기는 부족하지만 IPCC 등의 기구들이 어떻게 기후위기를 주장하기 위해 기후관측 결과를 조직적으로 조작하는지 몇몇 사례들이 명확히 제시되고 있다.

2009년의 1차 클라이맷 게이트과 2017년 2차 클라이맷 게이트라는 내부자 폭로에 의해 기후관측 자료의 조작이 알려진 사례 등이 제시되고 있다.

22:25~32:34까지는 IPCC의 기후변화 측정 방식을 설명하고 또 IPCC 등 기후위기를 주장하는 집단이 기후관측 자료를 조작한 사례가 설명되어 있다.

[100자평] 질문이 답을 바꾼다

질문이 답을 바꾼다 - 탁월한 질문을 가진 사람의 힘
앤드루 소벨 & 제럴드 파나스 지음, 안진환 옮김 / 어크로스 / 2012년 10월

힘 있는 질문을 하기 위해 이 책의 질문들을 읽어 보며 그 질문의 의도와 영향 그리고 질문에 이르기까지와 질문 이후 반응과 대답에 이르는 맥락을 파악해 보는 것도 좋을 것 같다.

유익한 속독법

브레인 리딩 - 두뇌로 읽는 속독법, 개정판
김영철 지음 / 비전플러스 / 2009년 5월

[브레인 리딩]이란 이 책은 중학 시절 [4차원 속독법]이란 제목으로 만났었던 바로 그 책이다. 사실 당시 [4차원 속독법]을 읽고 한 차례 연습해 본 이후 독서 시간이 배 가까이 늘었고 그 여파가 한창 갔던 기억이 있기도 하다.

중학 시절까지 책을 좋아하는 편이었고 어쩌다 많은 책을 읽다 보니 저절로 속독법을 체득하게 된 것인지 300 몇십 페이지 정도 되던 당시의 [영웅문] 시리즈 각 권을 권당 2시간이 채 안 되는 시간에 읽는 것이 평소 독서 시간이었다. 그런데 더 빠른 독서를 원하게 되어서 속독 책을 찾다가 [4차원 속독법]이라는 책을 알게 되어 읽어 보고 시행하게 되었으나, 이미 문장을 덩어리로 읽던 긍정적인 습관이 오히려 속독법을 익히며 한 글자씩 읽는 방식으로 바뀌자 되려 속독이 아닌 서독, 만독이 되고 만 것이다. 그리고 그 여파는 그 이후의 모든 독서에서 이어지게 되었다. (이 책과는 상관 없지만) 어느 시절에는 난독증까지 왔었던 적이 있었기에 다시 어느 정도 속도로 책을 읽을 수 있게 되고는 만족하기도 했다.

다만 속독법에 대한 인상만큼은 [4차원 속독법]이 강렬하게 각인시켜 준 것은 사실이다. 당시의 독서 시행 조항(?)이라고 해야 할 ‘누가복음 17장 24절’의 ‘번개가 하늘 아래 이쪽에서 번쩍이어 하늘 아래 저쪽까지 비침같이’라는 구절과 속독법을 익히는 과정이 굉장히 인상적이고 매혹적이었다. 의식의 빛을 활용하는 속독법, 무의식을 이용하는 속독법이라니 당시에는 너무도 혁신적이라는 생각이 들었다. 그렇게 내게 [4차원 속독법]은 강렬하고 인상적이며 혁신적인 속독법이자 무의식을 활용하는 법으로 각인되었다. 그래서 언젠가부터 다시 속독법을 익히자는 생각이 들 때 가장 먼저 떠오른 것은 [4차원 속독법]이었다. 하지만 요즘 출간되어 나온 ‘개정 22판’째인 [4차원 속독법]은 가격대가 무리다 싶어 가성비 높아 보이는 다른 속독법 책[신개념 속독법]을 읽어 보기도 했다. 일본 속독가가 비판하는 한국의 ‘시독법’이란 건 아마도 [4차원 속독법]을 가르키는 것 같았지만 내게 선입관이 좋게 새겨진 이 책을 꼭 다시 읽게 될 것 같았다.

‘개정 22판’째인 이 책의 구간본을 돌아보다 ‘개정 17판’의 [브레인 리딩]이라는 제목이 눈에 들어왔다. 헌책을 지르고 한동안 소장만 하다가 오늘 읽어 봤다. 연습용 챕터가 많은 페이지를 차지하다 보니 독서할 문장은 그리 많지 않은 편이라 빠르게 읽게 되었다. 연습도 요구사항에 맞춰 규정대로 다 마쳤지만 그리 오랜 시간을 잡아먹는 책은 아니다.

개정판으로 다시 읽으며 느낀 건 간간이 기독교적 세계관으로 자신의 속독 방식을 이해시키기는 했지만 구간본 보다는 종교적인 뉘앙스가 다소 줄어들었다는 것이다. 앞서 이야기한 과거에 저자가 인용하던 ‘누가복음 17장 24절’의 구절은 등장하지도 않아 무의식에 암시하는 방식의 본서 서술이 취향에도 맞았다. 그렇다고 기독교적 색채가 완전히 배제되어 있다고는 말할 수 없지만, 과거보다는 한결 대중적인 면을 고려해서 개정하지 않았나 싶었다. 구간본에 서술된, 불상에 보이는 부처님의 영양상태가 좋아 보여 십자가에 매달린 예수에게 더 공감하게 되었다는 말 같지도 않은 간증이 없어서 다행스럽게도 여겨졌다. 이번 책에도 마지막 부록 장에서 간증을 하고 있기는 하다.

나로서는 크리스찬이다가 중학 시절 [불교의 체계적 이해]라는 책을 읽고 불교야말로 진짜 진리이구나 생각하게 된 사람으로서 저자의 간증이 참 연약한 논리와 공감 불가한 과정을 통한 신앙으로의 들어섬이라고 생각되었다. 어쨋건 종교적 색채를 너무 지나치게 내세워 [4차원 속독법]과 [브레인 리딩]에 입문하려는 사람들을 돌아서게 하지는 않았으면 좋겠다 생각했다. 많은 사람에게 유익할 내용이 종교 색채로 인해 배격당하는 일이 없었으면 한다. 저자가 계발한 이 속독법을 통해 유익을 경험한 이들이 연령을 떠나 참 많은 것으로 안다. 앞으로도 많은 사람에게 유익을 주기를 바란다. 나 또한 익숙해지기까지 노력해 볼 것이다.

사이킥 셀프 디펜스

사이킥 셀프 디펜스 - 사이킥공격의 형태·진단·문제·방어
다이안 포춘 지음, 정은주 옮김 / 좋은글방 / 2021년 10월

다이온 포춘의 저작 중 국내에서 가장 유명한 서는 [미스티컬 카발라]가 있다. 오컬트에 입문하기를 희망하는 사람이나 카발라 철학을 깊이 이해하고 싶은 이들이라면 이미 일독을 해봤거나 앞으로 할 계획이 있을 도서일 것이다. [미스티컬 카발라]를 읽으며 다이온 포춘이라는 오컬티스트에 대한 궁금증이 커지기는 했으나 저자 약력만으로는 호기심이 충족되지 않았는데 본서를 통해 그녀가 어떠한 인물인가를 조금 알 수 있기도 했다.

사이킥 셀프 디펜스라는 본서는 동명의 다른 책이 마스터 조곡쉬님의 저작으로 출간되었기도 해서 본의 아니게 다소 비교하며 읽게 되기도 한다. (현재는 마스터 조곡쉬님의 저작은 개정판이 [마음 공격에서 나를 보호하라]는 제목으로 재출간되었다.)

본서는 실용적 기법을 알기를 희망하는 분들께는 다소의 아쉬움이 남기도 하는 구성이다. (형태1, 진단2, 마음3, 방어4 이렇게 4분할 되어) 총 20개의 장으로 구성된 책인데 실용 기법은 마지막 방어4 편의 15장~20장까지 6개의 장에서만 다루고 있기 때문이다. 그 외의 전반적인 내용은 사이킥 공격과 이상심리 현상을 구분하는 법, 사이킥 공격의 양상, 사이킥 공격의 분류, 사이킥 공격에 대응한 다이온 포춘의 실제 경험담을 중심으로 담고 있다. 대부분의 내용이 그러한 내용을 에세이풍으로 담고 있다. 이런 내용일 줄 몰랐던 독자에게는 다소의 실망을 안겨 줄 수도 있다.

전반적인 내용에 대한 설명대로의 주제이다 보니 오컬트적인 이야기에 흥미를 느끼는 분들과 그런 공격들에 대한 정보를 얻고 싶은 이들에게는 나름 흥미롭기도 하겠지만 방법론이 더 궁금했다거나 실제기법은 어디있냐 또는 더욱 다채로운 대응법을 희망했다는 이들에게는 다소의 실망이 있을 수 있는 저작이기도 하다.

서양 마법은 자연력을 다루더라도 아마 신적인 힘의 영향력을 갈구하는 타입일테고 본서 같은 경우는 명확히 하나님(하느님)의 힘을 통하는 방법이라 유대교, 카톨릭, 개신교 또는 이슬람 등의 종교인이 아닌 분들에게는 실용성이 없는 내용이다. 종교가 없거나 불교인인 분들께는 실용성이 전혀 없는 체계라고 할 수 있다. 아니 불교인도 아니라 아예 종교가 없는 분들은 어쩌면 신앙적인 마음을 갖기로 결심하면 가능하지도 않을까 싶기도 하다.

대부분의 서양 마법이 하나님(하느님)의 영향력을 통한 힘을 사용하는 구조라 마법과 신앙체계에 대한 우리의 일반적인 상식과는 다르게 오히려 신앙인들이 마법 기법을 익히기 쉬운 구조이다. 유대교도부터 크리스찬이나 무슬림들이 믿는 유일신을 경배할 마음이 없는 분들이라면 서양 마법체계의 다수에 대한 접근성이 떨어진다. 종교가 없거나 불교인인 경우는 마스터 조곡쉬님의 저작이 사이킥 자기방어에 대한 입문서로 나을 것이다. 나도 17년 전쯤 마스터 조곡쉬님의 [프라닉 힐링], [빛깔 프라닉 힐링], [프라닉 정신요법], [사이킥 셀프 디펜스]까지 읽고 수행해 보았는데 이젠 역순으로 다시 들어서 봐야겠다. 이제는 크리스찬이 아니다 보니 수행에서도 서양 마법적인 기법은 제약이 많게 되었다.

그래도 오컬트에 대한 지적 갈증은 해소해 주는 책이라 이 분야에 대한 궁금증이 있는 분들은 유일신을 신앙하는 종교를 믿지 않더라도 읽어보실만한 책이라 할 수 있을 것 같다.