인간보다 10억배 똑똑한 인공지능

AI 쇼크, 다가올 미래 - 초대형 AI와 어떻게 공존해야 하는가
모 가댓 지음, 강주헌 옮김 / 한국경제신문 / 2023년 6월

scary smart. 무서운 지능이라는 뜻이겠습니다. 우리나라에서 ‘AI 쇼크, 다가올 미래‘로 멋지게 번역했습니다. 다가올거라고 이야기하지만 어느새 우리 옆에 있는 현실입니다. 1부에 scary로 디스토피아를 이야기하고 2부에 smart로 유토피아로 분류합니다.

저자 모 가댓은 슈퍼히어로의 능력을 가진 외계인이 지구에 도착한 순간이라고 표현합니다. 그는 정복자가 될 것인가, 인류의 친구가 될 것인가. 답은 아직 미지수입니다. 이제 막 도착한 상태입니다. 무시무시한 이야기입니다.
2049년에 인공지능은 인간보다 10억 배 더 똑똑해질거라 예상합니다. 그렇겠습니다. 지금도 챗GPT와 이야기를 하면 분명 저보다 똑똑하다고 느끼고 있습니다. 그 것이 열배, 백배, 천배, 만배, 억배, 10억배 똑똑해지면 어떻게 되는걸까요. 10억배 이상 똑똑한 인공지능이 하찮은 인간을 보면 어떤 생각이 들까요.

1부에서는 공포를 말합니다. 편리한 도구로 개발했는데 그 도구가 더 똑똑하다면 통제할 수 있을 것인가라는 절망적인 이야기로 시작합니다.
바둑이고, 게임이고, 가장 뛰어난 게이머는 더 이상 사람이 아닙니다. 인공지능의 기계라고 합니다.
가장 똑똑한 의사소통자도 더 이상 사람이 아닙니다. 인공지능을 갖춘 기계입니다.
가장 똑똑한 관찰자도 더 이상 사람이 아닙니다. 인공지능을 갖춘 기계입니다.

3가지의 필연적 사건을 예언합니다.
1. 인공지능이 등장할 것이다. (구글글래스는 실패한 아이템인데 저자가 구글에 있었던 이유로 슬쩍 멋진 개발의 시조인듯이 이야기합니다 ^^)
2. 인공지능이 인간보다 더 똑똑해질 것이다. / 그렇습니다. 게놈의 배열 순서를 1% 밝히는데 95년에 시작하여 7년이 걸렸는데, 거의 끝났다고 합니다. 발전속도는 점진적으로 가는 것이 아니라 폭발적으로 수직상승합니다.
3. 나쁜 일이 일어날 것이다. 나쁜 일이 뭘까요. 기계가 결정하는 판단은 도덕적으로 올바른 걸까요. 샌델의 공리주의가 떠오르는 모호함입니다.

도구는 사용하는 자의 통제 하에 이용됩니다. 그래서 인공지능을 도구라고 생각하는 낙관적인 부분이 있는데, 인공지능이 인간처럼 지능을 지닌 존재라면 통제할 수가 없는 거죠. 거기서 딜레마가 발생합니다. 우리가 인공지능을 통제하면 인공지능은 우리 기대에 부응하지 못할 것입니다. 통제하지 않으면 인공지능은 악당으로 변할 가능성이 큽니다. 어떻게 해야 할까요.

이렇게 디스토피아의 암울한 미래 예측을 끝내고 2부에서는 해결방안입니다. (과연 해결책이 있을까요)

인공지능의 교육과정을 설명합니다. 인공지능도 살아남기 위해 계속 진화해야 합니다. 멍청한 인공지능은 삭제해버린답니다. 뭔가 바벨탑을 쌓는 인간의 모습이 보입니다. 이세돌9단을 이긴 알파고도 아니고 알파고 제로가 세계 최고의 경지에 오르는데 걸린 시간이 45일이었다고 합니다. 이제 인공지능을 이길 수가 없는거죠.

더욱 무서운 것은 인공지능에게 윤리와 감정을 가르칠 수 있습니다. (아니, 소제목이 유토피아인데 점점 어두워집니다)

인공지능에 거슬리지 말고 올바른 인간의 모습을 보여주자고 합니다. 마치 부모를 보고 배우는 아무 것도 없는 백지 상태의 아이처럼 느끼지는 엄청한 이야기도 나옵니다. 가능할까요? 인간도 수천명을 학살한 도살자가 등장하는데 인공지능도 그럴 수 있지 않을까요.

그야말로 스케어리한 미래입니다. 아, 읽고 나서 소제목을 보니 ‘초대형 AI와 어떻게 공존해야 하는가‘입니다. 이미 그들의 눈치를 보고 살아남을 길을 찾아야 하는 세상인 겁니다.