-
-
2029 기계가 멈추는 날 - AI가 인간을 초월하는 특이점은 정말 오는가
게리 마커스.어니스트 데이비스 지음, 이영래 옮김 / 비즈니스북스 / 2021년 6월
평점 : 
※비즈니스북스로 받은 서적입니다.
인공지능(AI)를 다루는 책인 것을 알게 된 후 호기심이 최고조를 향해갔다.
알파고를 필두로 인공지능과 로봇에 대한 관심이 쏠리고 있는 이 시점에서
필자는 이 분야에 대해 관심은 있었지만 잘 알지는 못 했다.
이를 알고 싶고 정말 우리가 보는 뉴스에서 처럼
인간을 위협한 존재인지 또는 우리에게 해를 입히는 존재인지
궁금했다.
또한 우리가 언론에서 본 것처럼
그들의 능력이 우리를 추월하는
특이점이 가까운 미래에 오는지 궁금했다.
이 책은 위의 호기심을 잠식시켜줄 정도로
다양한 논문과 예시로
이해를 충분히 도와준다.
다음은 책에서 나온 구절과 나의 생각이고
그 후엔 책의 전반적인 생각으로
글을 배치했다.
흥미로운 주제 AI는 무엇인가?
그 내막을 알아보자!!
「책 내용 및 감상」
제 1장 꿈과 현실의 간극에 선 AI
우리가 생각하는 이상적인 AI는 현재 만들어지지 않았으며
연구 성과도 미비하다.
언론에서 다루는 것은 과장된 표현이며 사실의 일부분을 크게 부각시킨다.
38p 인간을 능가하는 로봇의 읽기 능력, 수백만 개의 일자리가 위험에 처했다.
컴퓨터는 읽기 능력에서 인간보다 나아지고 있다.
41p 우리는 AI의 성공을 추정하는 말을 들을 때마다 다음과 같은 여섯 개의 질문을 전져보라고 권하고 싶다.
1. 과장이나 수사적 기교를 제외하고 AI 시스템이 실제로 한 일은 무엇인가?
2. 그 결과가 얼마나 일반적인가? (예를 들어 읽기 과제라면 읽기의 모든 측면을 측정하는가, 아니면 읽기의 아주 작은 부분만을 측정하는가?)
3. 내가 직접 확인해볼 수 있는 시험용 프로그램이 존재하는가?(그렇지 않다면 대단히 회의적이다.)
4. 연구자(혹은 그들의 대변인)들이 AI 시스템이 인간보다 낫다고 주장하는 경우, 그들이 말하는 것은 ‘어떤 인간’이며 ‘얼마나’ 낫다는 것인가?
5. 새로운 특정 연구 과제의 성공에서부터 진정한 AI 구축까지는 얼마나 먼 길이 남아 있는가?
6. 시스템이 얼마나 믿을 만한가? 다른 데이터 세트에서도 막대한 양의 재교육 없이 그만큼 좋은 효과를 낼 수 있는가?(예를 들어 체스를 익힌 게임 로봇이 <젤다>와 같은 액션 어드벤처 게임도 할 수 있는가? 동물을 인식하는 시스템이라면 이전에 보지 못한 생물이 동물이라는 것을 알아볼 수 있는가? 주간에 훈련을 받은 자율주행차가 야간에 혹은 눈이 올 때, 혹은 지도에는 없는 통행금지 표시가 있는 곳에서도 주행할 수 있는가?)
43p 최근 AI 분야에서 이루어진 이런 성공들 대부분은 주로 두 분야의 발전 덕분에 가능해졌다. 첫째는 동시에 작동하는 많은 기계를 활용함으로써 더 많은 메모리와 더 빠른 계산을 가능하게 하는 하드웨어의 발전이다. 둘째는 빅데이터, 즉 기가바이트나 테라바이트(혹은 그 이상)의 자료를 담고 있는 대규모 데이터 세트다.
50p 문제는 우리가 지금 갖고 있는 AI에 대한 접근법으로는 그곳으로, 즉 가정용 로봇이나 자동화된 과학적 발견으로 가지 못한다는 데 있다. 중요한 조각이 아직 빠져 있기 때문이다. ‘제한적인 AI Artificial Narrow Intelligence(이하 ANI)만으로는 충분하지 않다.
우리는 신뢰할 수 없고 더 심각하게는 인간에 대한 아무런 이해가 없는 기계에게 점점 더 많은 권한을 넘겨주고 있는 중이다.
51p 문제의 핵심은 ‘신뢰’다. 우리가 현재 가지고 있는 ANI 시스템은 프로그램 분야에서는 효과가 좋지만 프로그래머가 정확히 예견할 수 없는 일에서는 신뢰성이 낮다.
현재의 AI가 놓치고 있는 부분(이 분야가 새로운 접근법을 택하지 않는 한 계속 놓치게 될)은 범용 지능(혹은 일반 지능)이다. AI는 엄청난 양의 관련 데이터에 담긴 구체적인 상황만이 아니라 이전에 보지 못한 새로운 문제들과 변형된 상황들도 다룰 수 있어야 한다.
우리가 사는 세상은 열린계다. 범용지능은 이런 세상에도 유연하게 적응할 수 있다(이는 기계가 접근하지 못하는 인간의 대단한 능력). AI가 다음 단계로 진전하기 위해서는 반드시 이 분야로 가야 한다.
ANI는 바둑과 같은 게임을 할 때 완전히 닫힌계를 다룬다.
52p 우리가 사는 현실 세계는 열린계다. 어떤 데이터도 계속 변화하는 세상을 완벽하게 반영하지 못한다. 고정된 규칙이 없고 가능성은 무한하다. 우리는 어떤 상황도 미리 연습할 수 없고, 어떤 상황에서 어떤 정보가 필요하게 될지 예측할 수 없다.
54p 우리는 기존의 AI 연구가 안전하고 스마트하고 믿을 만한 AI로 향하는 길 위에 있지 않다고 생각한다. ANI, 즉 제한적 의미의 AI와 쉽게 얻을 수 있는 빅데이터에 대한 단기적 집착이 AI의 진보를 위해 해결해야 하는 훨씬 더 어렵고 장기적인 문제, 즉 ‘기계에게 세상의 다양성과 복잡함을 가르치는 법’에 대한 관심을 앗아 갔다.
인간이 만들고 있는 AI는 열린계보다 닫힌계를 다루는 정형화된 알고리즘이다.
사고에 제한적이기 때문에 우리가 다루는 세상을 보기엔 부족하다.
단면적인 사고를 하는 AI가 발달되어 특화된다면 디스토피아가 연출되는 것이 아닌가?
라는 상상을 하게 된다.
55p 지금으로서는 야심과 현실 사이에 엄청난 격차가 있다. 우리는 이 격차를 ‘AI 캐즘’(캐즘은 깊은 틈이나 큰차이를 뜻한다)이라고 부른다. 이 캐즘은 솔직하게 맞부딪혀야 하는 세 개의 개별 과제에 뿌리를 두고 있다.
첫 번째 과제를 우리는 ‘허술한 신뢰 격차’라고 부른다. 이는 우리 인간이 인간과 기계를 구분하도록 진화하지 않아서 쉽게 속을 수 밖에 없다는 사실에서 출발한다. 기계가 실제로 따르는 규칙은 대단히 단세포적인데도 우리는 기계에 대해 생각할 때 자연스레 인지적인 용어를 사용한다(컴퓨터에게 “얘는 내가 파일을 지웠다고 생각해”라고 말하는 것이 그 예다). 인간에게 적용됐을 때는 가치 있는 추론도 AI 프로그램에 적용됐을 때는 완전히 틀릴 수 있다. 사회심리학의 핵심 원리에 경의를 표하는 의미에서 우리는 이것을 기본적 과대 귀인 오류 (심리학 용어 기본적 귀인 오류)라고 부른다.
잠시 기계가 지능이 있는 것처럼 보였다고 해서 정말 그런 것은 아니며, 인간이 하듯이 모든 상황을 처리할 수 있는 것은 아니라는 사실이다.
두 번째 문제를 우리는 ‘착각적 진보 격차’라고 부른다. 쉬운 문제에 관한 AI의 진보를 어려운 문제에 관한 진보로 오인하는 현상이다. 바둑의 경우, 기계가 혼자 게임을 하면서 인간과의 게임을 시뮬레이션 할 수 있다. 반면 현실 세계에서는 완벽한 시뮬레이션 데이터라는 것이 애초에 존재하지 않는다.
IBM이 왓슨을 통해 보여준 것과 같은 닫힌계에서의 성공은 결코 열린계에서의 성공을 보장하지 못한다.
AI캐즘의 세 번째 원인 제공자는 ‘신뢰성 격차’다.
우리는 사람들이 AI에 관해서 어떻게 생각하는지를 여러 번 목격했다. 사람들은 몇 가지 경우에 효과적인 해법을 찾기만 하면, 약간의 작업(그리고 약간의 데이터)을 더해 모든 경우에도 효과적인 AI를 얻을 수 있다고 쉽게 가정해버린다. 하지만 꼭 그런 것은 아니다.
62p 지금의 AI 연구는 잘못된 길로 가고 있다
이와 같은 AI 캐즘을 극복하려면 위태로운 부분에 대한 명확한 의식, 기존 시스템이 그 일을 처리할 수 없는 이유에 대한 명확한 이해 그리고 새로운 전략, 이 세 가지가 반드시 필요하다.
65p 추론하고, 언어를 이해하고, 세상을 이해하고, 효율적으로 학습하고, 인간과 같은 유연성을 갖춘 기계를 원한다면 우선 인간이 어떻게 그렇게 할 수 있는지 이해해야 한다.
제 2장 진짜 위협인가, 위협적인 척인가?
72p 알파고는 “바둑판 밖에 생명체가 있을까?”와 같은 의문에 주의를 기울이지 않는다. “내 인간 주인이 나에게 하루 종일 바둑만 두게 하는 것이 공정한 일인가?”같은 의문은 말할 것도 없다.
73p 알파고는 자신이 하는 일에 전적으로 만족하고 있으며 다른 일을 하고 싶은 욕망이 전혀 없다.
질병 진단이나 광고추천, 길 찾기 등의 일을 하는 AI도 마찬가지다.
우리가 초 인간 지능의 로봇을 발명한들 그들이 주인을 노예로 만들고 세계를 정복하고 싶어 할 이유가 있을까?
세상을 정복하려면 우선 로봇들이 정복을 ‘원해야’ 한다.
75p 우리는 로봇과 AI가 인간의 말을 문자 그대로 이해하기보다는 맥락에 맞게 이해하길 바란다.
우리가 구별해야 할 점은 로봇은 현재 의지나 목표를 가지고 있는 상태가 아닌
짜여진 알고리즘을 토대로 돌아가는 기계이다.
우리는 그 모습을 보며 어떤 의지가 담겨있을 것이라 생각하지만
저자의 말 그대로 현재는 그 어떤 의지도 반영되어 있지 않으며
짜여진 시스템의 최적화된 결과를 얻기 위해 무수히 많은 경우의 수를
실행에 옮기고 있다.
저자는 세계정복이라는 의지를 반영한 AI 또는 로봇은 가까운 미래에선
일어나지 않음을 반복적으로 말한다.
글을 읽지 않은 상태에선 막연히 두려웠던 존재
(이 두려움도 인간이 예측할 수 없기 때문에 두렵다.
우리와 다르거나 우리가 모르거나 할 때 드는 감정 중 하나는
두려움이기 때문이다.)가 현상황에서 어떤 모습을 가지는지 구체적으로
알 수 있어 관점이 달라진다.
97p 딥 러닝 자체는 결국 통계적인 수단을 사용해 기계에게 데이터로부터 무언가를 배우게 하는 문제에 대한 수많은 접근법 중 하나일 뿐이다.
103p 딥러닝은 두 가지 근본적인 아이디어를 기반으로 한다.
첫 번째 핵심 아이디어인 ‘계층적 패턴 인식’은 1950년대에 이루어진 일련의 뇌 연구 실험에서 비롯됐다.
딥러닝의 두 번째 핵심 아이디어는 바로 학습이다.
딥러닝은 인간의 뇌 시냅스와 비슷하다.
우리의 뇌는 자극과 관련된 부분이 활성화된다.
그 자극이 얼마나 자주 노출되었는지에 따라
역량이 강화되고 이전보다 빠른 속도로 활성화된다.
이를 보면 딥러닝도 우리의 뇌와 상당히 유사한 모습을 띈다.
검색한 자료들을 바탕으로 연관된 것들을 짝짓는다.
그 자료들은 얼마나 자주 반복되는지에 따라
강화되어 다른 것들을 보다 세밀하게 분석한다.
어떤 A라는 것을 좋아한다면 B라는 것도 좋아할 확률
C라는 것도 좋아할 확률까지 볼 수 있다.
이는 시냅스 강화처럼
반복횟수가 높아질수록 보다 정확한 정보를 제공해준다.
110p 딥러닝이 이루어낸 결과는 정말 눈부셨다. 과거 연구자들은 대상 인식이 작동하도록 만들기 위해 직접 기발한 규칙을 개발해내는 데 수년의 시간을 들이곤 했었다. 이제 그 일을 계산에 단 몇 시간 혹은 며칠이 걸리는 딥러닝 시스템으로 대체할 수 있다. 딥러닝은 사람들이 광고추천뿐 아니라 음성 인식이나 대상 인식과 같이 구식 머신러닝 기법을 사용해서는 적절히 해결할 수 없었던 새로운 문제들도 다룰 수 있게 해주었다.
113p 딥러닝은 우리가 열린계에서 필요로 하는 범용지능과는 별 관계가 없다.
특히 딥러닝은 세 가지 핵심적인 문제에 직면해 있다. 그리고 각각의 문제들은 딥러닝 자체와 딥러닝에 크게 의존하는 심층 강화 학습과 같은 다른 인기있는 기법들에 영향을 미친다.
첫째, 딥러닝은 탐욕스럽다.
둘째, 딥러닝은 명료하지 않다.
셋째, 딥러닝은 불안정하다.
딥러닝은 인간의 사고를 컴퓨터가 해주길 바라며
만든 하나의 알고리즘이라 생각한다.
우리는 AI랑 다르다.
인간이 배우는 과정은 어떤 알고리즘보다
내재된 본능에서 비롯된다.
이는 누가 알려준 것이 아닌
타고나는 것이다.
반면 최초의 컴퓨터는 인간이
높은 수의 계산을 하기 위해 만들어졌다.
입력값이 들어가야 작동한다.
하나하나 일일이 적어야만 가능하다.
우리가 보는 세계를 0과1의 조합으로
모든 것을 넣으려고 하다보니
딥러닝에서도 오류가 발생하는 것처럼 느껴졌다.
특히 인간의 언어가 추상적인 표현인데
이를 객관화해야 하는 AI입장에서
당연히 받아들이기 어렵지 않을까?라는 생각도 들었다.
먹는다 / eat 등의 언어는
우리가 행동하는 것을 가지고 붙여진 이름이다.
‘음식을 입에 넣고 씹는 행위를 보고 그것을 위의 단어로 대체한다.’
그 후 비슷한 행위가 일어나는 경우도 우리는 그 단어를 사용한다.
예를 들면 자동차가 기름을 먹는다.
하지만 컴퓨터는 현재 열린계가 아닌 닫힌계일 경우에
작동할 수 있게 설정되어 있으며
특히 자신이 모르는 영역 (입력되지 않은 영역 또는 아는 범위를 넘는 영역)은
어떠한 이미지나 값을
분명하게 그리기 어렵다.
124p 그렇다면 이런 문제들에도 불구하고 딥러닝이 그렇게 부풀러진 이유는 무엇일까?
딥러닝은 거대한 데이터 세트가 전제될 경우 통계적 근사치의 측면에서는 대단히 효과적이다.
또한 특정한 종류의 ‘간결함’을 가지고 있다. 하나의 방정식으로 대단히 많은 문제를 해결하는 것처럼 보이기 때문이다. 상당한 상업적 가치를 지니고 있기도 하다. 그렇지만 지나고 나서 생각해보면 뭔가 놓치고 있는 것이 분명하다.
127p 딥러닝은 대단히 유용하지만 일련의 특정한 알고리즘에 불과하다. 진정한 지능에 이르자면 우리는 아직 갈 길이 멀다.
딥러닝 시스템이 지능적인 일들을 아예 할 수 없다는 말은 아니다. 우리는 딥러닝 자체에 완전한 지성이라면 갖춰야 할 ‘유연성’과 ‘적응성’이 부족하다는 말을 하고 있는 것이다.
제 4장 구글은 문맹인가, 언어 천재인가?
부분을 읽으며 사람들은 기계에게 사람과 똑같은 사고를 바란다는 점을
확실시 하게 되었다.
우리가 쓴 글이나 언어를 해석하고 이를 바탕으로 세상을 보기 바란다.
하지만 책에서 나오는 사례를 보면 해당하는 답에 인간이 원하는 답을
제시하지 못하는 상황이다.
우리는 우리의 방식으로만 세상을 본다.
그리고 다른 것들도 그렇게 되기를 바란다.
컴퓨터를 우리가 만들었지만
이 책의 내용을 거듭해 읽으면 읽을 수 록
사람이 만든 물건의 시스템 상 작동도
모른다는 것이다.
이를 모르기 때문에 당연히 원하는 방향이나
값을 찾지 못 한다.
또한 무엇인가 얻게 되면 언론에서는
과대포장한 단어들로 사람들에게 알린다.
현실과 다른 것들을 마치
조금 지나면 이상이 현실이 될 것처럼 말이다.
147p 링크를 찾는 것과 질문을 이해하는 것의 차이
웹 검색은 AI로 구동되는 놀라울 만큼 강력하고 환상적으로 유용한 엔지니어링 분야다. 웹 검색은 수십억 개의 웹 문서 가운데에서 가장 적합한 것들을 거의 즉각적으로 찾아낸다.
놀라운 것은 모두 AI로 구동되는데도 검색엔진은 우리가 원하는 종류의 ‘자동화된 독해 기계’와는 거의 관련이 없다는 점이다. 우리는 글을 완전히 이해할 수 있는 기계를 원한다. 그러나 검색엔진에는 그런 능력이 없다.
우리가 생성하는 데이터들이 모두 구글이나 대기업의 AI구축 시스템에 포함된다.
우리가 그들로부터 서비스를 이용하는 편리함으로 다양한 정보를 얻는 것은 맞지만
한 편으론 우리의 무제한적으로 만들어지는 데이터가 그들이 개발하는 아이템에 접목된다는 사실에
데이터 착취로 느껴지기도 한다.
그들은 우리에게 정보를 제공해줌과 동시에 광고료를 받지 않는가?
우리는 우리가 편리함을 얻지만 상세한 데이터가 범용적으로 그들이 필요한 아이템에
적재적소로 쓰인다는 사실은 한 번 생각해봐야 할 문제처럼 인식된다.
애플의 기술과 페이스북의 접근성이 부딪히고 있는 시점에서도 바라보면
애플은 접근성을 차단하는 것만이 아닌
자사의 데이터가 쌓는 것을 유지시킨다.
하지만 우리는 편리함만 얻고 소비를 할 뿐
개인의 고유정보는 그들의 편리성에 따라
우리도 모르는 사이에 쓰여진다.
이를 보안하는 방법으로 블록체인 기술이 이슈이다.
또한 자신의 고유한 정보에 접근하며 그에 해당하는 금액을 지불하고 사용하게금
하는 것이며 그 때 금액은 비트코인이나 암호화폐로 받는 것을
미래전망의 하나의 형태로 바라보고 있다.
164p 딥러닝은 배경지식을 통합할 방법을 갖고 있지 않다.
167p 이 분야에 정말로 필요한 것은 전통적인 연산 운용의 토대다. 즉, 목록을 만든 뒤 또 다른 목록에 속하는 요소들을 제외하는 식의, 데이터베이스와 클래식 AI가 만들어낸 종류의 이러한 토대가 필요하다.
하지만 딥러닝은 처음부터 이런 종류의 연산을 피하는 방식으로 만들어졌다.
따라서 딥러닝에게 ‘아니다’라는 단어에는 들어간 질문을 이해시키는 것은 원형 구멍에 사각 말뚝을 집어넣는 일과 마찬가지다.
다음으로 중의성의 문제가 있다.
171p 자연어 이해 분야는 지금껏 두 마리 토끼를 잡으려다 한 마리도 잡지 못한 셈이다. 한 마리 토끼인 딥러닝은 학습에는 뛰어나지만 합성성과인지 모델 구축에서는 형편없고, 다른 한 마리 토끼인 클래식 AI는 합성성과 인지 모델 구축을 통합하지만 학습에서는 좋게 말해도 그저 그런 정도다.
그기고 이 둘 모두가 우리가 이 장 내내 강조해온 중요한 부분, 즉 ‘상식’을 놓치고 있다.
186p 지능을 가진 존재로서 룸바보다 수준이 높기를 바란다면 몇 가지 갖추어야 할 것이 있어야 한다.
자신이 어디에 있는지
주변 세상에서 어떤 일이 일어나는지
당장 무슨 일을 해야 하는지
계획을 어떻게 실행해야 하는지
주어진 목표를 달성하기 위해서는 장기적으로 어떤 일을 해야 할지 계산해야 하는 것이다.
우리는 로봇이 ‘나’라는 인식을 가지고 스스로에게 이런 질문을 한다는 식으로 로봇을 ‘의인화’하고 있다. 하지만 정확하게 표현하자면 ‘로봇의 알고리즘’이라고 말하는 게 맞다.
어쩌면 로봇이 우리처럼 못 하는 것 중 하나는 ‘의식’이라는 영역이라 생각한다.
아직도 사람은 의식이라는 것이 어디로부터 오는지
어떻게 형성되는지 모른다.
만약 ‘의식’이라는 것을 밝혀내고 개발가능하다면
그때 비로소 우리가 원하는 인공지능이 현실에서 만날 수 있지 않을까?한다.
또는 인공지능이 만들어져 스스로가 생각하고 자신의 존재를 입증한다면
‘의식’이 존재한다고 말 할 수 있을지 질문이 생길 것이고
만약에 의식이 존재한다고 한다면 그는 어디로부터 오는지
알 수 있는 단계에 한 걸음
올린 것은 아닌지 의문이 들 것이다.
202p 주어진 시나리오에서 무엇이 가능하고 중요한지 결정하거나, 복잡하고 예측 불가능한 환경에서 로봇이 무엇을 해야 할지 파악하는 데에는 일반적인 해법이 존재하지 않는다. 현재 보스턴 다애믹스의 프토타입들이 할 수 있는 일 즉, 계단을 오르거나 고르지 않는 지면을 걷는 것만해도 엄청난 연구와 노력 끝에 겨우 가능해졌다. 로봇이 혼자 주방을 완전히 청소하게 하는 일은 그보다 훨씬 더 어려울 것이다.
우리가 가정에서 사용하는 범용 로봇을 아직 만들지 못하는 진짜 이유는 현실 세계에 대처할 만큼 유연한 로봇을 만들 방법을 모르기 때문이다. 가능성이 너무나 방대하고 개방적이기 때문에 순전히 빅데이터와 딥러닝에만 의지한 해법으로는 충분하지 않다. 클래식 AI 접근법 역시 그 나름의 불안정성을 갖고 있다.
제 6장. 인간 정신이 주는 11가지 인사이트
212p 인지과학(심리학, 언어학, 철학)에서 얻은 인간 정신에 관한 11가지 단서를 제시한다. 우리가 이 11가지가 AI가 인간의 지능처럼 광범위하고 높은 신뢰성을 갖기 위해 꼭 필요하다고 생각한다.
‘마스터 알고리즘’은 존재하지 않는다
214p 선구적인 신경과학자 산티아고 라몬 이 카할은 1906년 노벨상 수상 연설에서 이렇게 표현했다. “불행히도 자연은 편의성과 통합성에 대한 우리의 지적 욕구에 대해서 알지 못하며 매우 자주 복잡성과 다양성 안에서 즐거움을 느끼는 것 같습니다.”
정말로 지능적이고 유연한 시스템이라면 두뇌처럼 복잡성으로 가득할 가능성이 높다. 그래서 지능을 단일한 원리, 혹은 단일한 ‘마스터 알고리즘’으로 수렴시키는 이론은 헛다리를 짚기 마련이다.
기계에는 ‘표상’이 없다
215p 행동주의가 행동을 오로지 외적 보상 이력(자극과 반응, 현재 딥러닝 응용 분야에서 흔한 ‘지도형 학습’을 떠올리게 한다)으로 설명하려 하는 반면, 인지심리학은 주로 믿음, 욕망, 목표와 같은 ‘내적 표상’에 초점을 맞춘다.
216p 추론과 추상적 사유에서 딥러닝을 믿을 수 없는 이유는 애초에 딥러닝의 초점이 정확한 사실적 지식을 표방하는 데 있지 않아서다. 주어진 사실들이 애매한 경우라면 딥러닝이 정확한 추론을 해내기란 대단히 어렵다.
217p 브라라운대학교의 머신러닝 전문가 스튜어트 게먼은 이렇게 표현했다. “신경 모델링의 근본적인 문제는 학습 그 자체보다는 표상에 있다.”
세상을 이해하는 도구, 추상화와 일반화
218p 우리가 아는 많은 지식은 상당히 추상적이다.
하늘에 떠 있는 것을 구름이라고 말한다.
그 위의 천체를 우주라고 말한다.
각 단어를 구성하는 사전적 정의 안에도 추상적인 말들이 많다.
멋있다는 것, 이쁘다는 단어도 추상적이지만 우리는 유연성을 가지고
말한다.
이처럼 우리가 쓰는 많은 지식이 추상적인데
0,1의 배치구조로 수학적 알고리즘을 쓰는 컴퓨터가 우리말을
받아들이기에 어려움이 있는 것은 당연하다.
특히 컴퓨터만의 얘기가 아니다.
논문을 쓰거나 객관적 사실을 집필하는 문서에서 드러나는
논리적 맹점을 해결하기 위해
과학이나 경제분야에서는 숫자를 사용하여
표현한다. (이도 인간이 만든 학문이기에 완벽하지 않으며
수식도 우리가 원하는 뜻과 다른 방향으로 풀어질 수 있다.)
철학이나 국문에서도 집필할 때 객관적으로 알리기 위해
정제된 단어들을 사용한다.
또한 그 단어들의 의미를 명확하게 드러내기 위해
다시 정의한다. 이러한 논리를 바탕으로 글을 쓴다.
(하지만 문장의 단어도 추상적이라 아무리 구체적으로 제시한다고 해도
한계가 분명히 존재한다. 또한 사람들은 단어에 대한 정의가 경험에 비롯되기
때문에 받아들이는 것에 있어서도 저자와 다를 수 밖에 없다.)
규칙과 불규칙을 통합하는 인간 정신의 비밀
데미스 허사비스가 최근 말했듯이 “진정한 지능은 딥러닝이 뛰어난 역량을 보였던 분야인 개념적 분류를 훨씬 넘어서는 것이기 때문에 그것을 1980년대에 클래식 AI가 다루려고 노력했던 많은 것들, 즉 더 높은 수준의 사고와 상징적 추론에 다시 연결시켜야만 한다. 광범위한 지능, 궁극의 범용지능에 이르기 위해서는 오래된 도구와 새로운 도구들을 비롯해 많은 다양한 도구들을 우리가 아직 발견하지 못한 방식으로 통합해야 할 것이다.
단어의 합은 문장이 아니다?
같은 말도 맥락 안에서 달라진다
237p 우리가 상황을 어떻게 이해하는가는 상향식 데이터만의 문제가 아니다. 언제나 상향식 데이터와 더욱 추상적이고 고차원적인 원칙이 혼합되어야 한다. 상향식 정보와 하향식 정보, 이 둘을 통합하는 방법을 찾는 것이야말로 AI 개발에서 가장 시급한 문제이지만 동시에 자주 도외시되는 문제다.
숨겨진 본질을 간파하는 능력이 필요하다
인과성을 학습하는 일의 어려움
튜링상 수상자인 유디 펄이 강조했듯이 인과성에 대한 선명한 이해는 인간 인지에 핵심이 되는 중요한 측면이다.
우리는 정확한 이유는 모를지라도 여러 일들이 인과적으로 연관되어 있다는 사실을 안다.
인간의 경험과 딥러닝의 차이점
무에서 유를 만들려 하지 말라
247p 발달심리학을 포함해 유전자와 두뇌 발달 사이의 관계를 연구하는 발달신경과학 분야들에서 비롯된 압도적인 증거가 본성과 양육은 서로 대항하지 않고 협력한다는 점을 뒷받침하고 있다.
이상하게도 대다수의 머신러닝 연구자들은 생물학의 이런 측면에는 관여하고 싶어 하지 않는 듯하다.
252p 인공지능이 ‘인간의 지능’을 닮은 존재가 되게 하려면 연구자들은 사람(어린아이조차도)이 그렇게 하듯이 타고난 지식과 능력을 통합하고, 지식을 합성적으로 표상하고, 지속성 있는 개인을 추적하는 조직화된 하이브리드 시스템을 구축하는 방법을 배워야 할 것이다.
인공지능을 만든다는 것은
인간의 뇌를 만든다고 생각이 든다.
우리가 가지고 있는 내재된 알고리즘을
수학적인 형태로 변환해
우리의 사고 형태와 비슷하게 만들고자 하는 것 같다.
우리의 기재를 알고
이를 토대로 만든 알고리즘이
의식을 가지고 있다고 할 수 있는지 의문이 들긴 한다.
심지어 앞서 말했듯이 우리는 ‘의식’이 무엇인지
분명하게는 모른다.
우리가 인공지능을 만드는 것은
우리의 모든 학문을 이해하는 것에 비롯한다고 느낀다.
수학적 알고리즘(+뇌과학)을 바탕으로 하여
어문에 대한 이해도 완벽하게 되어야 한다.
이를 가지고도 우리가 원하는 형태의
무엇인가를 만날 수 있을지 의문이다.
이렇듯 우리는 우리가 알고 있는 모든 것을 이용해
21세기 미지의 영역을 탐구하고 있다.
인공지능 이외의 분야는 우주탐사 또는 우주관측이다.
때로는 이런 생각도 한다.
우주에 대해 인공지능에 대해 찾아가는 것이 이슈이긴 하지만
우리와 가까운 지구조차 모르고 우리 자신조차 모르는데
과연 위의 것들을 이슈화시키는 것은 무엇인가...
우리의 주변부터 아는 것이 중요하지 않은가?
310p AI가 판도라의 상자가 되어서는 안 된다
AI과학자들은 통제 불능에 빠질 가능성을 가진 시스템을 만들지 않기 위해 적극적으로 최선을 다해야 한다. 예를 들어 다른 로봇을 설계하고 만들 수 있는 로봇 연구는 극히 주의해서 면밀한 감독하에 이루어져야 한다. 급속히 퍼지는 자연 생명체에서 종종 볼 수 있듯이 자기 복제가 가능하고 그것을 막을 방법이 없을 경우, 그 개체군은 기하급수적으로 늘어나고 만다.
모든 것은 연결되어 있다고 생각한다.
외부를 통해 내부를 아느냐?
내부를 통해 외부를 알아 것이냐?
하는 문제이지만
가까운 곳이 접근성도 용이하기에
시간적인 측면
비용적인 측면에서
효율성이 좋지 않을까?라는 의구심이 생기기도 한다.
마트에선 무인기로 결제하는 시스템으로 변화하는 추세이다.
하지만 무인기가 있다고해서 사람이 필요하지 않는 것은 아니다.
오류가 나거나 시스템에 필요한 결제 방법을 선택하거나
필요한 쿠폰을 이용하려 할 때
기기 혼자서 모든 것을 해결해주지 않는다.
우리가 할 수 있는 것은 화면에 나와있는 메뉴얼을 가지고
실행에 옮기는 것이며
무인기는 일체 관여하는 것이라곤 메뉴얼을 따르게 도와주는 것이다.
만약 문제가 발생한다면
무인기가 인식해서 하는 것이 아닌
직원분을 요청해야 한다.
우리가 원하는 것을 즉각적으로 처리해주는 시스템을 원하지만
현실은 사람의 손이 아직도 필요하다.
전과 달라진 것은 ‘몇 명의 사람들을 배치할 것인가?’ 라는 문제이지
‘사람이 필요하냐? 안 필요하냐?’의 문제가 아니다.
물론 이 상태를 보면 애석하게도 일자리는 줄어든다.
닫힌계를 가지고 돌아가는 인공지능은
생활에 들어와 단순한 작업의 시간을 줄어줄 것이다.
하지만 닫힌계이므로 그 범위를 넘어가는 공간에는
사람의 도움이 아직도 필요하다.
스스로 해결하기 어렵기 때문이다. 세상은 열린계이므로...
「책 감상평」
우리가 알고 있는 AI를 현실의 논문을 근거로
입체적으로 그려준다.
우리가 어디서 오해했는지
어디로 향해야 하는지
AI가 지니고 있는 한계에 대해 알 수 있다.
책에선 다양한 예시를 들기 위해 노력한 점이 눈에 띈다.
하나의 문장 안에도 전문적인 단어가 있어
간혹가다가 해석하기 어렵고 무슨 말인지
이해하기 어려울 때가 있었다.
하지만 이에 관한 글에 예시들을 열거해
어떤 문맥으로 말을 하는지 알 수 있었다.
우리가 생각하는 AI의 내면이 궁금하신 분들에게
강력히 추천드린다.
교양 서적으로 나와
전문적인 부분이 나왔어도
독자들이 이해하기 쉽게
풀어쓰기 위해 노력함이 보였다.
글로 어려운 부분같은 경우 그림도
첨부해 시각적으로 알 수 있게
이해를 도왔다.
우리는 AI를 얼마나 알고 있으며
얼마나 오해하고 있는지
이 책을 통해 확인하기를 바란다.
책을 읽으면서 필자도 많은 오해가 해결되었고
우리가 생각해야 할 것이 무엇인지
방향성을 정하는 시간이었다.
또한 AI를 다룬 언론의 정보들이
자극적인 것과 더불어
과장한 글귀로 대중들에게 불안요소를
심어준다는 것도 느낄 수 있었다.
앎과 모르는 경계를 확실히 구분해주는 책이다.