가장 신뢰받는 기술 분야 저널리스트 파미 올슨의 책이다. AI 기술 경쟁을 두 인물, 두 기업을 중심으로 다룬다. 현재 세상에서 벌어지고 있는 일을 포괄적으로 심층적으로 접근한 책이다. 매우 좋았다.
노벨상을 받은 물리학자 스티븐 와인버그의 책이다. 굉장히 유명한 책인데 절판되었고 도서관에도 없다. 일단 스티븐 와인버그의 다른 책들부터 읽어봐야겠다. 이 책은 구글 딥마인드의 창시자 허사비스가 열여섯 살 때 읽은 책이다. 그는 인공지능을 개발해서 최종이론을 완성하려는 꿈을 품는다. SF 소설 같은 이야기지만 어쩌면 가장 빠른 방법일지도 모르겠다.
딥마인드의 또다른 창시자 레그가 읽은 책이다. 특이점으로 유명한 레이 커즈와일의 <21세기 호모 사피엔스>이다. 커즈와일은 이 책에서 컴퓨터가 자유 의지와 감정, 정신을 갖게 되리라 예측했다. 절판된 책이다. 도서관에도 없다.
옥스퍼드대학교의 철학자 닉 보스트롬이 쓴 <슈퍼인텔리전스>다. AI의 개발이 인류에게 재앙을 안길 수 있다는 경고를 담고 있다. 집에 있는 책인데 읽어봐야겠다. 그 유명한 클립 예시가 있는 책이다.
세계의 혁신 수도라는 실리콘벨리의 명성에도 불구하고 이곳의 빅테크 기업들은 사실 그다지 혁신적이지 않았따. 구글의 홈페이지는 지난 10여 년간 거의 바뀌지 않았다. 아이폰은 예의 그 평평한 금속 직사각형 디자인을 고수했다. 페이스북은 새로운 기능 대부분을 스냅챗이나 틱톡 같은 경쟁자를 모방해 만들었다. 일단 수백억 달러의 매출 규모에 도다한 이들 기업에게 성공 공식의 수정은 너무 위험한 일이었다. -p202
이 이야기에서 우리는 빅테크 기업의 독점에 가까운 거대한 규모가 혁신을 방해한다는 사실을 잘 알 수 있다. 결국 그들은 먼저 혁신을 이룬 경쟁자의 기술을 모방하거나 사들일 수밖에 없다. -p203
흥미롭다. 혁신으로 시작한 기업이지만 덩치가 커지면서 혁신과 멀어진다. 그들이 독점적 지위를 계속 유지하기 위해서는 경쟁자들을 인수하는 방법으로 제거하는 수 밖에 없다.
구글은 윤리 팀 리더들을 해고했고, 딥마인드의 윤리 담당 직원은 극소수였다. 나날이 신호가 더 분명해지고 있었다. 더 크고 강력한 기술을 개발하는 목표에 동의하든지, 그게 싫으면 떠나라. -p306
기업은 이익을 추구한다. 규제가 없는한 윤리, 안정성은 뒷전이다. AI 기술은 아직 윤리적, 법적 규제가 제대로 갖춰지지 않았다. 그 부작용을 우리는 경험하고 있다. 더 큰 부작용을 경험하기 전에 연구와 규제가 필요하다.
올트먼은 오픈AI가 계속해서 AI 모델의 규모를 키우고 모델 훈련 방법을 비밀로 유지하기 위해 관련 규제의 구속을 받지 않기를 원했다. 다행히 올트먼을 비롯한 여러 인사가 내놓는 AI 종말론 경고는 정책 입안자들의 관심을 잡아끄는 유용한 수단이 되었다. -p363
AI 종말론에 시선이 끌리면 AI 윤리 규제를 간과할 수 있다.
기술 업계 리더들은 통제 불능의 AI가 초래할 재앙을 우려했지만 그런 AI는 그들 자신의 모습과 어딘가 닮아 있었다. 그들의 회사는 브레이크가 고장난 글로벌 독점기업이 되어가고 있었기 때문이다. 현실세계에 초래하는 부작용들을 외면하고 성장과 승리 욕구에 무릎 꿇는 소수가 최근 역사에서 가장 혁신적인 기술을 개발하고 있다. 진짜 위험은 AI 기술 자체라기보다 그것을 개발하고 운영하는 인간들의 변덕스러운 욕구였다. -p393
결국 기술은 도구이고 인간이 문제다. 핵무기, 종교가 악의를 가진 사람의 손에 들으갔을 때 어떤 결과가 일어날지 우리는 안다. AI 기술 역시 그렇다.
AI 기술 산업을 발전을 볼 수 있는 흥미롭고 훌륭한 책이었다.