계산하는 기계는 생각하는 기계가 될 수 있을까?

계산하는 기계는 생각하는 기계가 될 수 있을까? - 인공지능을 만든 생각들의 역사와 철학 ㅣ Editorial Science : 모두를 위한 과학 2
잭 코플랜드 지음, 박영대 옮김, 김재인 감수 / 에디토리얼 / 2020년 1월

개인적으로 인공지능에 대한 현실적 관심은 2016년 이세돌9단과 알파고 대국이라기 보단,

아이가 음성인식 기술인 시리(SRI)와 대화하는 모습을 보면서부터이다. 그 모습을 이야기 해보자면, 자신이 원하는 의미를 전달하며 인공지능과 재미나게 대화하는 모습은 문제될게 없어보였다. 하지만 자신의 의미가 제대로 전달되지 않아 쉽게 짜증을 내거나, 어른이 되면 칩으로 지식을 심으면 된다는 확신 섞인 말을 들으니 ‘이대로 괜찮은가?'라는 질문이 자연스럽게 다가왔다.

  인공지능이 보여주는 정보와 지식의 힘은 우리 스스로가의 존재가치를 쉽게 수동적으로 만든다. 스스로 계속해서 질문하고 탐구하는 힘보다는 편리함에 의존하게 만든다. 자신의 능력을 의심하지 않음을 포함한다. 여기서 능력이란 인공지능에 전혀 의기소침하지 않아도 될 스스로에 대한 능력이며, 의심이란 고도로 발달한 인공지능의 정신적 노예가 되지 않기 위함이다. 

 인류학자 루스 베네딕트는 <국화와 칼>이라는 책에서 일본의 문화는 군사적 패배(의도치 않게 죽음을 피했더라도)보다 천황 앞에서 할복이라는 극단적 행동을 하는 다소 충격적 문화를 하나의 체계로 인정하게 만들었다. 그럼으로써 미국 점령군은 처음 계획과 다르게 일본에 천황 제국주의 폐지를 굳이 강요하지 않게 만들었다. 그녀가 일본이라는 사전 경험이 전혀 없는 문화에 다가가 그 문화의 구조를 파악해냈듯이 우리도 계산하는 기계에게 다가 가야한다. 

“기계가 X를 할 수 있다면, 생각할 수 있는 것이다.”

X에 무엇을 넣어야 기계가 생각한다고 말 할 수 있을까? 코플랜드가 말하는 3장의 결론을 빌려오자면 “미래의 인공물들은 생각할 수 있고 우리만큼이나 대규모 적응성을 지닐 수 있다”로 모을 수 있다. 동시에 우리는 ‘생각한다’의 정의를 바꾸거나 확장할 필요가 있음을 이야기한다.(3장) 

 생각한다는 고정관념에서 자유롭기 위해 저자가 던진 첫 번째 질문은 ‘생각에서 의식이 필수적인가?’이다. 저자는 의식적 행위는 사실 ‘생각한다’와 ‘자신이 생각한다는 것을 의식하고 있다’를 혼동하고 있을 뿐이라고 이야기한다. 그리고 이 말에 완고한 반대를 할 사람은 없다고 생각한다. 본문 외에 나의 예를 들어보자면, 지금도 나는 컴퓨터에 앉아 있으며 (의식하지 못했지만) 나의 손은 수 없이 내 얼굴의 어느 부분을 오고 갔다. 그리고 최근의 예로 평소 잠을 잘 때 이불을 덮고 자는 습관은 없으나 감기로 호흡기 문제가 있거나, 우풍이 있는 곳에 잠을 자게 되면 이불을 머리끝까지 덮으며 스스로를 보호하는 자신을 발견하고 한다.

두 번째 논의는 “튜링테스트”이다. 튜링은 결정론적일 뻔한 컴퓨터에 무작위 선택(똑같이 바람직한 선택지들 사이에서 취하는 선택) 장치를 추가한 아이디어를 논의한 최초의 사람일 뿐이며 무작위 선택이 자유로운 선택이 될 수 없음을 지적한다. 여기서 무작위 선택은 단지 평행을 깨는 역할을 할 뿐이며, (대체로 동등하게 만족스런 선택지들 중에서) 군계일학의 상황 (만족스런 선택지들 중에서 선택이 이루어진 상황)일 뿐이다.

“우리의 핵심 질문은 ‘기계가 정말로 생각한다고 말할 수 있는가’에 대한 튜링의 전략은 본질적으로 질문자에게 질문을 되돌려 주는 것이었다. 다음과 같은 형태로. “한번 생각해봐. 그들이 X를 할 수 있는 기계를 만들었다면, 당신은 기계가 생각할 수 있다는 말에 동의할 수 있을까?” 이 질문에 대한, 튜링 테스트와 같은 간접적인 접근법은 실패한다는 것을 이제 깨달을 수 있다. 왜냐하면 외적 행위 능력 만큼이나 내적 수행 능력을 고려하더라도, 튜링의 도발적인 문제제기에 대해 확실히 ‘예스’라고 대답할 수 있도록, X의 자리를 채울 방법이 전혀 없기 때문이다. (p.124)

이 X의 자리를 채우기 위해 저자는 자유와 의식에 관한 논의를 이어간다. 여기서 의식은

비-의식적 영역에서 일어나는 인지활동이나 상황판단이 얼마나 우리의 상식을 벗어나는 것과 관련되어 있다. 동시에 상식을 벗어난다는 것은 의심의 여지없이 복종 또는 예속에서 벗어나는 것이다. 예를 들어 개가 주인을 기쁘게 한다는 상식에서 벗어나야, 사람이나 개가 복종하기를 원하지 않는다는 진정한 상식에 닿을 수 있다. 단지 서로 다른 환경에서 형성되었기 때문에 서로 다른 필요에 따라 반응할 뿐임을 알 수 있다.

자유가 ‘필연적 세계와 양립가능하다는 주장’이나 ‘초월적 자유를 내세우는 주장’ 사이에서 어떤 자유를 취할 것인지에 따라 인공 지능의 자유를 다르게 논할 수 있다. 다시 말해 우리의 필요에 따라 인공지능은 방향을 설정하게 된다. 

저자가 주장하듯 실험과 증거수집으로만 비경험적 문제에 답할 때, 증거 수집은 아무런 의미 없다. 기존의 지식이 완전히 절단될 수 있겠구나라는 단순히 ‘~는 그럴거야’라는 한계를 반드시 뛰어넘어야 한다.