2029 기계가 멈추는 날

2029 기계가 멈추는 날 - AI가 인간을 초월하는 특이점은 정말 오는가
게리 마커스.어니스트 데이비스 지음, 이영래 옮김 / 비즈니스북스 / 2021년 6월

2029 기계가 멈추는 날

이 책은?

이 책 『2029 기계가 멈추는 날』은 원제가 <Rebooting AI : Building Artificial Intelligence We Can Trust>이다.

개리 마커스, 어니스트 데이비스 공저다.

이 책의 내용은?

얼마 전에 인공지능 알파고가 바둑 대결에서 이세돌을 꺾었다. 바둑에서 컴퓨터가 인간을 이긴 것이다. 그러자  매스컴에는 바야흐로 AI 세상이 열리고 있다고 호들갑을 떨었다.

그런데 과연 그런 호들갑이 옳은 것일까?

바둑게임에서 인공지능이 인간을 이겼다고 해서, 인공지능 세상이 오는 것일까.

그 게임의 결과에서 고려되지 않은 게 있다.

바로 ‘열린계와 닫힌계’라는 개념이다.

바둑은 닫힌계에 속하지만, 인간이 살아가는 세상은 열린계이다.

열린계 (open system)와 닫힌계 (closed system)

이세돌을 꺾었던 바둑 AI 알파고를 예로 들어 생각해보자

바둑판은 가로줄 19, 세로줄 19으로 이루어진 세상이다.

그런 바둑판에서 이루어지는 싸움수는 한정되어 있다. AI가 발달하여 그 수를 증가시킬 수 있을 수도 있겠지만, 어디까지나 그 수는 한정이 되어 있다.

또한 바둑을 두는 규칙 또한 정해져 있다.

그래서 인간이나 기계나 한정된 수의 범위 안에서 어떤 수를 두느냐, 하는 게임을 하는 것이다. 따라서 승패는 누가 바둑의 수를 먼저 계산하는가에 달려 있다. 해서 지치지도 않고, 다른 잡념도 생각하지 않는 기계가 유리한 것이다,

게임의 거의 모든 부분은 AI 알고리즘으로 이루어지며, AI는 결과가 어떻게 될지 정확히 예측할 수 있다. (52쪽)

그런 바둑의 세계에서 벗어나, 인간이 일상을 살아가는 모습으로 들어가 보자.

인간 세상을 살아가는데 모든 경우의 수를 생각할 수 있을까? 그래서 그런 경우의 수를 인공지능이 습득하여 인간처럼 살아낼 수 있을까?

현재 시점에서 알려진 변수를 모두다 고려하고 그 변수에 맞추어 대응책을 마련한다 하더라도, 다음날 또 새로운 변수가 생길 것이다. 그러면 그 전날까지의 변수를 고려하여 마련한 대응책은 아무런 소용이 없게된다. 새로운 변수에 맞추어 새로운 대응책을 마련해야 한다.

어떤 데이터도 계속 변화하는 세상을 완벽하게 반영하지 못한다. (52쪽)

간단한 예를 든 것처럼, 바둑판의 세계는 19줄 곱하기 19줄의 세계로 닫힌계인 반면에, 인간사는 항상 새로운 변수가 등장하는 열린계인 것이다.

이번엔 자율주행차를 예로 들어보자.

AI의 관점에서 운전할 때 발생하는 대부분의 문제는 운전의 개방성에서 비롯된다.

좋은 날씨의 고속도로 주행은 AI에게 비교적 잘 처리할 수 있는 과제다. 고속도로라는 장소가 대체로 닫힌계이기 때문이다. 보행자도 없고 자동차의 움직임도 제한적이다.

우리가 사는 세상은 열린계이다.

하지만 도심에서의 주행은 사정이 다르다. 복잡한 도시의 도로에서 일어날 수 있는 일은 근본적으로 무한하다. 인간 운전자는 직접적인 데이터가 거의 혹은 전혀 없는 상황에도 유연하게 대처할 수 있다. 그런 상황을 말하는 기술 용어가 이상치(異常値)이다. 그러면 AI는 그런 이상치 앞에서 잘 대처할 수 있을까? 그러지 못한다는 게 저자의 생각이다. (53쪽)

따라서, 이세돌을 알파고가 이겼다고 해서, 곧장 AI의 세상이 도래한 것처럼 호들갑을 떠는 것은 잘못된 것이다. 매스컴의 속성이 호들갑을 떨어야만 사람들이 봐줄 것이니까 그런가보다 생각하라는 것이다.

관건은 ‘범용 AI가 가능한가?’

그러면 AI가 앞으로 나아가야 할 모습은 어떤 것일까?

AI는 닫힌계에 끼워 맞춰진 능력이 아닌 범용지능에 의지해서 열린계에 대응할 수 있는 능력이야말로 필요한 것이다.

범용 (broad) 또는 일반 (general) 지능을 말하는 범용 AI는 인간과 같은 수준의 유연함을 갖춘 인공지능을 말한다. (44쪽)

그런 범용 AI는 엄청난 양의 관련 데이터에 담긴 구체적인 상황만이 아니라, 이전에 보지 못한 새로운 문제들과 변형된 상황들도 다룰 수 있어야 한다. (51쪽)

기계가 이런 것을 알 수 있을까?

우리는 인간으로서 우리가 하는 일의 대부분을 아주 짧은 순간에 학습한다. 3D 안경을 처음 보고 써본다고 해도 수십만번 시도가 필요하지는 않다. 안경을 끼면 어떤 일이 일어날지 어느 정도 추론할 수 있기 때문이다. 딥러닝은 이런 종류의 빠른 학습을 위해 만들어지지 않았다. (114쪽)

현실에서 겪는 많은 문제들은 적절한 종류의 충분한 데이터를 얻는 것이 비현실적이거나 아예 불가능하다. 딥러닝이 언어에서 문제를 겪는 가장 큰 이유는 언어는 새로운 의미를 가진 문장이 무한히 공급되며 각각이 서로 미묘하게 다르다는 데 있다. (114쪽)

지능이 있는 존재는 다섯 가지 기본적인 일을 계산할 수 있어야 한다. (186쪽)

• 어디에 있는지

• 세상에서 어떤 일이 일어나고 있는지
• 무슨 일을 해야 하는지

• 어떻게 실행해야 하는지
• 목표를 달성하기 위해서는 장기적으로 어떤 일을 해야 하는지.

세상은 끊임없이 변화하기 때문에 목표, 계획, 환경과 관련된 질문에는 고정된 대답이 있을 수 없다. 수준이 높은 가정용 로봇은 끊임없이 재평가를 해야 한다. (187쪽)

“나는 어디에 있나?”

“현재 나는 어떤 상황에 처해 있나?”

“현재의 상황에는 어떤 위험과 기회가 있나?”

“단기적, 장기적으로 무엇을 해야 하나?”

“내 계획을 어떻게 실행해야 하나?”

그러면 현재 AI는 어느 정도 위와 같은 일을 해낼 수 있을까?

AI 탄생 65주년에 다가가고 있는 지금의 상황은 이렇다. 로봇 연구가들은 로봇이 자기 위치를 파악하도록 하는 일에서 뛰어난 성과를 거뒀고 로봇이 개별적인 행동을 수행하게 하는 방법을 알아내는 데에서도 큰 발전이 있었다.

하지만 열린계에 대처하는 데 필수적인 세 가지 다른 아이디어, 즉 상황을 평가하고, 가능한 미래를 예측하고, 상황의 변화에 따라 주어진 환경에서 가장 이치에 맞는 행동은 무엇인지 역동적으로 결정하는 일에서는 그다지 많은 진전을 보지 못했다. (202쪽)

인공지능이 ‘인간의 지능’을 닮은 존재가 되게 하려면, 연구자들은 사람이 그렇게 하듯이 타고난 지식을 통합하고, 지식을 합성적으로 표상하고, 지속성 있는 개인을 추적하는 조직화된 하이브리드 시스템을 구축하는 방법을 배워야 한다. (253쪽)

다시, 이 책은?

혹자의 말대로 이미 인공지능이 인간을 추월하는 시점에 도달했거나, 그 시점이 임박한 것일까?

그래서 어떤 사람은 인공지능의 시대를 두려워하고, 또 다른 사람은 그런 시대는 결코 오지 않을 것이라 한다.

과연 우리가 맞이하게 될 미래는 어떤 모습일까?

인공지능에 관한 논의가 어지러울 정도로 범람하고 있는 이 시점에서, 이 책은 우리의 자세를 바로잡을 수 있도록 균형잡힌 견해를 제시하고 있다.

인공지능의 시대가 오기 위해서, 넘어야 할 산이 많은데, 그 중 어디를 넘어가고 있는지? 저자는 범용 AI의 시대를 맞이하기 위해 우리가 확실하게 알아야 할 것들을 차분하게 보여주고 있다.

이 책을 한 마디로!

아직도 인공지능의 시대는 멀었다. 오히려 인간의 지능을 발휘할 여지가 더 많다. 

공연히 '인공지능이 어쩌구' 하면서 호들갑 떨지 마라!