인공지능은 의식기계

괄호로 만든 세계
마이클 울드리지 지음, 김의석 옮김 / 알에이치코리아(RHK) / 2023년 10월

표지가 거의 검은색입니다. 제목도 난해합니다. 괄호로 만든 세계, 옥스퍼드대 교수가, 의식기계의 차가운 미래, A에서 I의 영역에 도전하는... 이것만 봐도 만만치 않은 책이라 생각됩니다. 마음을 단단히 먹고 책을 펼쳤습니다.
아앗. 생각보다 재미있습니다. 시작점부터 흥미롭습니다. 인공지능의 기원을 어디에서 시작해야 하는가? 대장장이 헤파이스토스부터 시작할까? 유대랍비가 만들었다는 골렘에서 시작되는가? 증기기관에서 시작된걸까? 메리 셸리의 프랑켄슈타인일까. 18세기 로봇 인형 오토마타 역시 시작이 될 수 있다. 맞습니다. 로봇, 인공지능은 인류의 꿈이었죠.

그 중에서 앨런 튜닝의 이야기로 시작합니다. 최초의 컴퓨터를 튜닝이 만들었습니다. (폰 노이만이 참여한 에니악이 최초가 아니었네요) 이 시기에 인공지능에 대한 생각을 했습니다. 도대체 얼마나 앞선 사람인가요.

재미있게 시작했지만... 인공지능을 이해하려니 어렵습니다. GPT나 바드처럼 그냥 답을 해주는 기계 아닌가요. 기계인데 인간을 가르쳐줄 정도면 인간보다 나은 건지도... 역시 검은 색의 표지답게 무겁게 흘러갑니다. 알듯말듯 넘어가다가 인공지능과 머신러닝이 다른 분야!라는 건 이해했습니다. (이해했다기 보다는 그렇게 적혀있습니다)

3부에서는 현재의 인공지능을 설명합니다. 건강관리에 바로 활용됩니다. 특히 진단분야는 인간보다 낫습니다.
사진 인식 프로그램 알렉스넷의 개발자 중 한 명인 제프 힌턴 교수는 더이상의 방사선 전문의 교육이 필요없다고 주장합니다. 굉장한 사실입니다. 전문의 한명이 숙달되어 정확한 판단을 할 때까지 몇년, 몇십년의 시간이 필요할까요. 이게 쓸모없어진다고 하니 그저 놀랄 뿐입니다.
인공지능의 판단이 인간보다 낫다는 두 가지 이유가 있습니다.
1. 의사의 판단을 절대적으로 신뢰하는 일은 너무 순진하다. 인간은 지치고 편견에 사로잡힐 수가 있지만, 기계는 일관된 판단을 내린다.
2. 인공지능 의료시스템과 의사 사이의 선택을 고민하는 것은 선진국의 배부른 소리로 들린다. 오히려 후진국일수록 인공지능의 도움을 받는 것이 쉽다. 의사들이 후진국에 안가니 오히려 인공지능이 들어가기 쉽죠.

두번째는 자율주행차입니다. 자율주행에서 항상 나오는 트롤리 딜레마.
트롤리 딜레마는 별거 아닌 문제인 줄 알았는데 기계가 올바른 판단을 내리기 위해 많은 생각을 해야 하는 부분이었네요. 하긴 인간도 고민되는 문제인데, 기계도 고민스럽겠지요. 어쩌면 인공지능은 너무 쉬운 대답을 가지고 있지 않을까요?

그런데 결론이 재미있습니다.

나는 지난 수십 년간 차를 몰았지만 트롤리 딜레마와 같은 상황에 처한 적이 한 번도 없었다. 내 지인들 역시 마찬가지다. 게다가 트롤리 딜레마를 포함해 윤리학에 대해 내가 알고 있는 것은 이제까지 말한 것이 전부다. 또한 운전면허를 받기 위해 윤리학 시험을 통과할 필요 따위는 없다. 트롤리 딜레마는 내 삶에서 문제가 된 적이 한 번도 없었다. 자동차 운전에 깊이 있는 철학 추론 능력은 필요하지 않다. 자율주행차를 만들어 도로에 내놓기 전에 트롤리 딜레마 해결을 요구한다면 이는 다소 불합리해 보인다.
277-278

​그런데 드론에 인공지능을 탑재하여 상대편을 공격하여 인간을 살상할 수가 있습니다. 그럼 인공지능이 인간을 죽이는 권력을 갖게 되는 걸까요. 로봇3원칙은 어떻게 되는걸까요. 전쟁에서 적기 격추한 개수를 표시하듯이 인공지능 알파37은 전쟁에 참가하여 적군 32,890명을 죽였다는 경험이 남게 될까요. 만화 플루토에서는 적의 로봇만 부수고 인간은 건드리지 않는데 어떻게 될건가요.

책의 원제는 의식기계로 가는 길 The road to Conscious Machine입니다. 인공지능은 평범한 기계가 아니라 의식을 가진 기계라서 많은 생각을 하게 만들어주는 흥미로운 책이었습니다.

#인공지능
#괄호로만든세계

리뷰어스 클럽의 소개로 출판사로부터 책을 제공받아 주관적으로 작성한 글입니다.