제리 카플란 인공지능의 미래

제리 카플란 인공지능의 미래 - 상생과 공존을 위한 통찰과 해법들
제리 카플란 지음, 신동숙 옮김 / 한즈미디어(한스미디어) / 2017년 2월

1. 인공지능의 정의

인공지능이란 무엇인가?

저자가 생각하는 인공지능의 본질은 제한된 데이터를기초로 적당한 시기에 적절히 일반화 해내는 능력이다. 이때 적용 영역이 넓어질수록, 그리고 최소한의 정보로 더 빨리 결론을 내릴수록 더 지능적인 행동이다.

인공지능이란 용어는 어디서 유래했을까?

1956년 뉴햄프셔 하노버의 다트머스 대학교 수학과 조교수로 있던 존 맥카시에 의해서다. 다트머스에서 열린 여름 학회에서 이 주제를 제안했다. '인공지능'이라는 용어는 사람들의 관심과 흥미를 이끌어내기 충분했고 그로 인해 이 분야가 진보, 발전할 수 있었다.

인공지능은 기호를 체계화시키고 그 기호의 규모가 충분하기만 하면 일반 지능으로 구조화할 수 있다. 그리고 인공지능의 하위 분야인 계획 시스템을 중심으로 즉, 무엇을 해야할지 알아내는 것이다. 예를 들면 새로운 게임을 제시하고 그 게임의 규칙을 알려주면서 게임을 잘하는 방법에 대해서는 정보를 주지 않는다. 인공지능을 학습을 하면서 그 게임을 잘하게 된다.

2. 인공지능의 지성사

기계학습이란 무엇인가?

추론이 학습에 도움이 될 수도 있겠지만, 학습은 추론보다는 경험, 연습, 훈련을 통해 주로 이루어진다. 데이터베이스에 데이터를 저장하듯 무언가를 포착해서 보관하는 것 이상을 뜻한다. 즉 데이터에서 패턴을 찾아낸다. 빅 데이터나 신경망이라는 용어가 기계학습의 접근 방식들이다.

인공신경망이란 무엇인가?

인공신경망은 입력된 내용에 임의적이고 복잡한 패턴이 가득한 구조로 생각할 수 있다. 그런 복잡한 구조는 경험을 반영한다. 이것은 무언가를 하는 법을 배우는 것이 아니고 그보다는 흉내를 내는데 대단한 소질이 있어서 무언가를 처음 접하고는 그걸 보니 이것이 연상된다는 듯이 반응하며 그 사이의 연관성을 찾고 많은 사례들 속에서 성공적인 전략을 모방하는 것이다.

기호추론과 기계학습 중에 어떤 접근법이 더 나을까?

문제를 깊이 들여다보고 생각할 필요가 있다면 대체로 기호 추론 접근법이 더 적합하고, 다량의 예를 참고해야 하거나 문제를 직접 다루면서 그 감각을 익혀야 하는 문제에는 기계학습이 더 효과적이다. 그런데 왜 일의 초점이 기호 추론에서 기계학습으로 이동하게 되었을까? 기계학습이 되기 위해서는 방대한 데이터가 구축되어야 하고 그것을 저장할 수 있는 메모리 또한 커야 한다. 그리고 이전에는 아날로그 방식으로 자료가 저장되어 있었기 때문이다. 하지만 현재는 디지털 자료와 디지털 센서, 인터넷 접근성 등이 좋아지면서 기호 추론에서 기계학습으로 연구 초점이 바뀌게 되었다.

3. 인공지능 연구의 최전선

인공지능의 주요연구 개발분야

-로봇 공학 : 인공지능 로봇은 여러가지 분야에서 활용가능하다. 자율주행차, 노인 간병인, 우주 탐사 로봇, 스웜 로보틱스(나노 로보틱스로 무리를 이루면서 위험하고 어려운 재난현장에서 사람을 구하는 임무를 하는 로봇, 의료행위를 하는 로봇, 군대로봇 등등)

컴퓨터 비전이란 무엇인가?

컴퓨터 비전은 사람이 보지 못하는 것을 볼 수 있다. 즉 여러 종류의 센서들이 다양한 방법으로 활용되어 인간이 볼 수 없는 범위의 현실 세계 데이터를 수집한다. 이 기술은 주어진 상황에서 관심 대상을 찾아내고 정확한 위치를 파악해야만 해결할 수 있는 실세계의 수많은 문제에 활용된다. 현재의 컴퓨터는 문자로는 검색이 가능하지만 사진이나 동영상은 분류와 검색이 되지 않는다. 사람들은 갈수록 문자보다는 사진이나 동영상의 자료들을 많이 올리는데 이 기술은 시각 정보를 처리하는 부분을 자동화할 수 있다.

음성인식이란 무엇인가?

음성을 인식할 때 속도, 억양, 뉘양스, 동음이의어를 구별하는 능력, 음율 어미변화 등 까다롭고 어려운 부분들이 많아서 발전의 속도가 더디었다. 비교적 최근에는 최신 기계학습 기술이 적용되면서 이런 종류의 시스템들의 정확도와 유용성이 높아졌다. 다량의 음성 샘플을 포작하고 분석하는 능력이 향상되었다.

자연언어처리란 무엇인가?

이 새로운 접근법은 다량의 텍스트만 제공하면 된다. 그런 텍스트는 전문용어로 말뭉치 또는 코퍼스라고 부르는데 시간이 흐를수록 컴퓨터가 읽을 수 있는 형식의 텍스트가 늘어나면서 코퍼스도 많아지고 모으기도 한결 수월해졌다. 기계학습을 통한 분석은 인공 지능이 그 영역에 대한 지식과 이해가 없음에도 그것에 대한 충분한 예시를 제공하면 그것을 통해 파악하고 초인적인 수준으로 문제를 해결해낸다.

4. 인공지능의 철학

인공지능의 철학이란 어떤 것인가?

인공지능의 철학은 컴퓨터와 더 나아가서 기계들 아니면 자연에 기원을 두지 않은 모든 것들에 마음이나 생각할 수 있는 능력이 있다고 말해도 되는가라는 질문을 던진다. 간단히 놓고 보면 그 질문의 답은 '마음'이나 '생각'을 어떻게 정의하느냐에 달려있다.

'강한'인공지능과 '약한' 인공지능이란 무엇인가?

약한 인공지능은 특정한 한 분야에서 기능을 발휘하는 것을 말한다. 청소 로봇, 택배 드론로봇 등을 들 수 있다. 강한 인공지능이란 모든 분야를 아우르며 판단, 통찰하는 것을 말한다. 사람이 학습해서 얻은 지식으로 통합적으로 생각하고 통찰하는 것과 비슷하다. 달리 설명하면 기계에게 진정으로 지능이 있는지, 아니면 그저 지능이 '있는' 것처럼 행동하는 것인지 여부라고도 말할 수 있다.

컴퓨터는 과연 '생각'할 수 있을까?

컴퓨터는 기호를 논리적으로 체계화시키고 규칙을 찾아내서 결론을 도출한다. 사람도 또한 그런 과정을 거친다. 넓은 의미에서 보면 생각으로 무언가를 하기 전에는, 생각하는 것 자체는 아무런 의미가 없다. 하지만 컴퓨터는 사랑이라는 추상적인 개념을 이해하지 못한다. 프로그램들은 어떤 상태에서 다른 상태로 전환하는 과정의 내부 설정이 얼마나 복잡하고 가변적인지에 상관없이, 그냥 '단순히' 정해져 있는 논리적인 일련의 행동을 수행하는 것뿐이다. 하지만 인간의 두뇌가 생물학적 재질로 구성된 기호 조작 도구와 다름없다고 본다면 인간의 두뇌 그 자체도 생각하는 능력이 없다고 결론이 내려진다. 하지만 아직 인간의 뇌가 무엇을 하는지, 어떻게 생각을 하는지에 대한 과정을 잘 모른다. 컴퓨터가 과연 생각을 하는지에 대해서는 좀 더 생각해 볼 문제이다. 지금으도 인간 고유의 능력이라고 느껴지는 가치들이 조금씩 흔드는 증거들이 속속 밝혀지고 있다. 에컨대 인간의 자유의지가 있는가의 문제처럼 말이다.

컴퓨터에게도 자유의지가 있을까?

인간에게 자유의지가 있을까? 2008년의 한 연구에서 연구원들이 피험자들에게 버튼을 오른손으로 누를지 왼손으로 누를지 마음대로 정하도록 했는데, 이 실험에서 연구원들은 기능적 자기공명영상(fMRI) 두뇌 스캔을 활용해 피험자들이 의식적으로 결정을 내리는 순간보다 10초 앞서서 피험자들의 결정을 예측할 수 있었다. 각자의 정신세계에서 두뇌가 작용하는 방식을 더 많이 알게 될수록, 정신세계는 점점 줄어들어 자취를 감추는 것처러 느껴질 것이다. 짐작건대, 두뇌도 물질의 일부이므로 물질세계의 나머지 존재들과 동일한 규칙을 따르며, 따라서 검토와 분석의 대상이 될 수 있을 터이다. 컴퓨터나 인간 모두에게 자유의지가 있거나 아니면 둘 다 없다는 사실이다.

컴퓨터에게도 의식이 있을까?

인간의 의식은 어떻게 알 수 있을까?뇌와 신체 사이의 폭넓은 결합이 감응력의 기반이 된다고 설명하고 뇌에서 정보가 널리 통합되는 과정에서 의식이 발생한다고 믿는다. 현재까지는 의식의 개념이나 더 넓게 보아 주관적인 경험은 두말할 필요도 없이 기계에는 적용되지 않는다. 다만 기계들이 앞으로 최소한 의식이 있는 것처럼 '행동하게' 될 가능성은 높다.

컴퓨터도 느낄 수 있을까?

지능, 생각, 느낌이라는 말의 뜻은 인간만이 가지는 고유한 특성이다. 이것을 특정한 인공지능의 산물과 연계 또는 적용가능성의 여부와 연관된다. 로봇을 꼬집었을 때 아파요라고 말하는 로봇은 실제 고통을 느껴서가 아니라 그렇게 반응하도록 설계되었기 때문이다. 그런데 만약에 나의 딸이 퇴행성 희귀 신경손상이라는 증상이 발견되어 인공신경 기술을 이용해서 모든 뉴런을 백 퍼센트 인공 조직으로 대체되었다고 할 때 딸아이는 컴퓨터로 된 인공물이라고 할 수 있을까? 생물계를 구별할 때 단순히 어떤 물질로 이루어졌는지만으로 특정한 주체를 제외시킨다는 건 어떤 것보다 큰 사안임을 인식할 필요가 있을 듯하다.

5. 인공지능과 법

컴퓨테이셔널 로(computational law)란 무엇인가?

인공지능이 방대한 자료를 검색하고 유용한 자료를 고르고 분석하는 자동화된 시스템으로 변호사의 업무는 인공지능으로 상당히 많이 대체될 것이고 변호사에게 주는 비용보다 훨씬 싼 가격에 변호사들이 맡아하던 거래나 업무들을 하게 될 가능성이 크다. 그리고 인공지능이 가장 중요한 영향을 끼칠 부분은 법 그 자체, 즉 법이 어떻게 표현되고, 전파되고, 운영되고, 변경되는지에 관한 부분이 될 것이다. 조세법과 조세 규정을 산문체로만이 아니라 컴퓨터로 계산 할 수 있는 형태로 만들면 분명 유익한 점이 있다. 많은 분야의 법, 규정, 관련 절차를 형식화해서 기슬해 두면 득이 된다. 그런 형식으로 나태내면 법 자체를 형식적으로 연구하고 추론하고 설명하고 적용할 수 있다. 이런 분야의 연구를 컴퓨테이셔널 로라고 불린다.

인공지능 시스템도 범죄를 저지를 수 있을까?

컴퓨터 윤리 분야에서는 인공적인 도덕적 행위자를 만들기 위해 애쓰고 있다. 인공지능 시스템이 갈수록 인간과 긴미랗게 상호작용하게 되면서 인간이 잠재적으로 지키는 예의범절이라는 관습을 인공지능 시스템도 반드시 따르도록 만드느냐는, 앞으로 우리가 직면할 많은 문제 중 특별한 관심이 필요한 사인이다.

그저 컴퓨터가 법을 준수하도록 프로그램하면 되지 않을까?

환경의 변화를 관찰하고 그에 따라 자신의 행동을 수정하는 기계를 만들 수야 있겠지만, 행동을 수정할 때 과연 어떤 원칙을 따라야 하느냐의 문제가 여전히 남는다. 특히 규칙이 적용되지 않거나 윤리적으로 더 긴요한 문제에 대응하기 위해 규칙을 어겨야 할 때 참고할 심층적인 행동 원칙이 필요하다.

6. 인공지능이 인간의 노동에 미치는 영향

로봇이 인간의 일자리를 빼앗아갈까?

인공지능이 누군가를 '일자리에서 몰아낼' 것인지 여부를 예측하려면 그 사람이 몸담은 직종에 종합적으로 어떤 기술이 필요하며 그런 기술이 그 사람이 행하는 일의 나머지 부분과 분리할 수 있는지, 그리고 인공지능의 적용 여부를 떠나서 자동화하기가 기본적으로 얼마나 쉬운지를 따져보아야 한다. 기술에 따라 다르기는 하지만 원칙적으로는 어떤 노동자가 활용하는 고유 기술이 적을수록 기계로 대체될 가능성이 크다.

인공지능 시스템들은 앞으로 어떤 일들을 새롭게 자동화하게 될까?

자동화의 영향을 가장 많이 받는 일자리들은 동일한 활동이나 임무를 반복하는 틀에 박힌 일이었으며, 컴퓨터 프로그램으로 체계화하기 쉬운 일들이었다. 새로운 인공지능 기술은 기존에 자동화의 손길이 미치지 않았던 많은 영역에서 생산성을 극적으로 향상시킬 것이다.

인공지능은 사무직 노동자들에게 어떤 영향을 미칠까?

사람들은 흔히 직종에 서열을 매겨서 일부 직종을 다른 직종보다 우위로 생각하기 쉽지만 인공지능이 고용 환경에 미치는 영향은 그런 서열에 비례하지 않는다. 예를 들면, 신문 기사를 쓰는 전문 기자들의 실력과 경험은 최소한 일부 분야에서는 컴퓨터 프로그램이 쓴 기사와 구별이 안 될 정도로 수준이 높다. 세무사, 보험 설계사, 신용 분석사, 지도 제작사 등 이런 직업이 속한다. 또한 창의적인 업무가 포함되어 있거나 컴퓨터 시스템 분석가나 정보 연구원 등은 자동화하기 힘든 직업에 속했다. 또한 인간과 상호작용이 필요한 서비스 산업에 속하는 핑크 칼라로 불리는 직종은 당분간은 자동화의 영향이 미치지 않을 것으로 보인다.

7. 인공지능이 사회적 형평성에 미치는 영향

기술 혁명의 혜택을 누리게 될 사람은 누구인가?

유감스럽게도 인공지능이 노동의 자본 대체 현상을 가속화하기 때문에 자본이 있는 사람들은 노동 능력이 주요 자산인 사람들의 희생으로 득을 보게 될 것이다.

수요를 창출하려면 중산층이 탄탄해야 하지 않을까?

부자들이 대중의 눈에 띄지 않고 각자 내키는 대로 돈을 쓸 수 있는 한, 그들이 각자 관심사에 따라 어디에 자원을 투입하는가가 앞으로 우리 경제에서 어느 때보다도 강력한 영향력을 행사하게 될 것이다. 일반 대중들이 유복한 극소수 계층이 원하는 사치품을 만들기 위해 일하는 세상은 소름끼칠 정도로 실제적이고 실현 가능하다.

미래의 자산을 어떻게 하면 더 공평하게 나눌 수 있을까?

부를 공평하게 나누는 문제는 부자에게서 돈을 빼앗아서 가난한 사람들에게 주는 방법이 아니라 새롭게 창출된 부를 분배하는 방식을 바꿈으로써 해결할 수 있다. 정부는 재산을 분배하고 활용하는 데 상당한 통제권이 있을 뿐 아니라 사회적 목표를 달성하기 위해 새로운 재산을 조성하거나 사용을 제한하는 데에도 힘을 발휘할 수 있다.

8. 인공지능이 바꾸어 놓을 미래의 모습

싱귤래리티(singularity)란 무엇인가?

특이점으로도 번역되는 싱귤래리티는 앞으로 언젠가는 기계의 지능이 충분히 높아져서 자기 스스로를 재설계하고 개선할 수 있게 되어, 종국에는 인간이 제어할 수 없는 지성에 이를 것이라는 견해다.

통제가 안 되는 초지능(superintelligence)에 대한 걱정은 타당한 것일까?

기계는 사람이 아니며, 적어도 지금으로서는 이 기계들이 자기 개선의 한계를 훌쩍 넘어서 독립적인 목표, 필요, 본능을 발달시키고 어떻게 해서든 인간의 감독과 통제를 벗어날 수 있다고 믿을 이유는 없다. 오히려 그보다 더 큰 위험은 우리가 자기 차를 운전하는 편히람의 대가로 매년 수만 명이 자동차 사고로 목숨을 잃는 것을 용인하는 것과 마찬가지로, 신기술의 기막힌 혜택을 활용하기 위해 엉성한 설계의 끔찍한 부작용을 마지못해 수락하는 것이다.

인공지능 시스템이 제멋대로 행동하며 날뛰게 될까?

인공지능 프로젝트는 인간의 중재나 감독없이 운영되며, 독자적으로 결정을 내리고, 변화와 환경에 적응하는 시스템을 만들고자 한다. 설계자가 시스템의 능력을 의도한 목적의 범위내로 적절히 설정해 두지 않는다면 시스템이 통제력을 벗어나서 상당한 피해를 일으킬 가능성이 충분하다.

잠재적인 위험을 어떻게 최소화할 수 있을까?

우리에게 필요한 건 인간 사회에 맞게 사회화한 로봇이기 때문에, 차세대 인공지능 시스템을 자유롭게 풀어놓기 전에 그 시스템이 인간의 관습과 행동을 반드시 이해하고 따르도록 확실히 해 두어야 한다.

인간처럼 행동하는 컴퓨터와 로봇을 만들 때의 장점과 잠재적인 위험은 무엇인가?

동정이나 참을성, 충성 등의 좋은 감정을 표현하는 전자식 도우미를 만들어 노인들이나 아기를 돌보는 데 활용해서 적절하고 바람직하게 쓰이게 될 가능성도 있다. 하지만 톰 행크스가 주연한 영화 <캐스트 어웨이>에서 보면 주인공이 무인도에 홀로 고립되어 있을 때 축구공에 윌슨이라는 이름을 붙여 상상의 친구를 만들다. 결국 그 친구에 애정이 생겨서 그 공을 구하러 가기 위해 자신의 목숨까지 거는 장면이 나온다. 우리도 인공지능을 진짜 사람처럼 느껴서 애정을 갖고 우리의 목숨과 맞바꾸는 일이 벌어질 수도 있다.

아이들은 인공지능 시스템을 어떻게 받아들이게 될까?

미래 세대가 기계에 의식이 있다고 믿을 것인가 아닌가보다, 과연 기계를 윤리적 배려의 대상으로 여길 것인가이다. 지능형 기계라는 이 새로운 '종족'이 우리와 어울려 공존한다면, 후손들은 그 내적인 심리적 구성이 어찌 되었든 상관없이 특정한 비생물적 독립체에 인간과 마찬가지의 도덕적인 예의를 적용해야 한다고 느낄 가능성은 충분하다.

인공지능의 세상은 그리 먼 미래의 일이 아니다. 이미 자율주행차의 안전성을 시험하고 있으며 드론과 로봇은 점점 발전하고 상용화를 앞두고 있다. 이런 시대에 우리는 앞으로 다가올 미래의 인공지능에 대해서 무엇을 생각해 보아야 하고 어떤 일들이 벌어질 것이며 그런 일들이 사회, 경제, 문화 등에 어떤 영향을 끼칠지 미리 생각해 보아야 한다. 또한 인공지능의 윤리적인 문제들에 대해서도 우리 사회의 규제와 제한이 필요해보인다. 인공지능과 공존해야 할 우리들이 어떻게 함께 살아야 하는지 그리고 우리는 어떤 것에 대처해야 하는지에 대한 여러 가지 모습들과 가능성들을 자세하게 풀어나갔다. 막연하게 생각했던 인공지능에 대해서 좀 더 깊은 이해가 이루어졌고 그것에 대한 통찰과 해법들도 우리에게 적절하게 제시하면서 또한 우리가 반드시 생각해 볼 여지도 남겨준 책이었다.