[마이리뷰] 인공지능은 무엇이 되려 하는가

[전자책] 인공지능은 무엇이 되려 하는가 - AI의 가능성과 위험을 바라보는 석학 25인의 시선
스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김 / 프시케의숲 / 2021년 11월

인공지능의 핵심에는 인공지능 행위자(로봇)가 무엇인가에 대한 수학적 정의가 있다. 로봇을 정의할 때 우리는 상태, 행동, 보상을 정의한다.

-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

머신러닝은 인간 자신의 편견도 영속시킨다. 넷플릭스나 아마존이 회원에게 무엇을 시청하거나 구매하고 싶은지 광고로 알려주는 것은 머신러닝의 적용 결과다. 현재 이런 제안 광고는 때로는 우스운 수준이지만, 시간이 지나고 더 많은 정보가 축적되면 인공지능은 점점 더 정확해지면서 우리의 편견과 호불호를 강화할 것이다. 인간은 새롭고 상충하는 생각에 노출되면서 우리의 관점을 바꾸도록 설득할지도 모르는 무작위적 조우를 놓칠 것인가? 선

-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

[마이리뷰] 인공지능은 무엇이 되려 하는가

[전자책] 인공지능은 무엇이 되려 하는가 - AI의 가능성과 위험을 바라보는 석학 25인의 시선
스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김 / 프시케의숲 / 2021년 11월

사이버네틱스는 어디에나 존재하며 심지어 공기 중에도 존재한다. 그러니 사이버네틱스는 시작하기에 알맞은 출발점이다.


-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

2005년 레이 커즈와일이 《특이점이 온다》를 출판하면서 초지능superintelligence으로 이끄는 기술 발달이라는 주제가 다시 돌아왔다. 커즈와일을 포함한 몇몇 신봉자는 사람의 뇌를 초지능과 병합해서 영원히 살 수 있을 것이라는 주장을 펴면서 특이점을 기회로 생각한다.

-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

인간이라는 종에게 알려진 모든 것이 어떤 ‘의미’가 있는지를 수집하는 기계를 만들고 싶다면 어떻게 해야 할까? 무어의 법칙이 여러분 뒤에 버티고 있으므로 세계의 모든 정보를 디지털화하는 데는 얼마 걸리지 않을 것이다. 지금까지 출판된 책을 모두 스캔하고, 작성된 이메일도 모조리 수집하고, 매일 일상을 기록한 49년간의 영상도 수집한다. 동시에 사람들이 어디 있는지, 무엇을 하는지도 실시간으로 추적한다. 하지만 ‘의미’는 어떻게 수집할 수 있을까?

-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

아이폰의 개인비서 시리Siri가 사용하는 음성인식기술이 바로 이 드래곤내추럴리스피킹에서 사용하는 것과 똑같다. 시리는 여기에 자연언어이해NLU를 처리하는 기능까지 덧붙인 것이다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

구글번역의 성능은 매우 놀랍다. DARPA는 매년 다양한 언어쌍에 대한 최고의 자동번역시스템 콘테스트를 개최하는데, 몇몇 언어쌍 번역에서 구글번역은 거의 매번 우승한다. 인간언어학자들이 직접 만든 시스템에 비해 월등히 뛰어난 성능을 발휘한다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

훌륭한 인공지능시스템을 만들어내는 가장 이상적인 방법은 과학적 지식과 데이터의 정확한 ‘코딩’과 (인간의 지능이 작동하는 방식이라고 내가 주장하는) 패턴인식 마음이론에 기반한 ‘계층적 지능’을 결합하는 것이다. 이러한 접근방식은 그 자체로서 컴퓨터(코딩)를 활용하는 인간(계층적 지능)을 상징한다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

잠깐, 우리가 의식에 관하여 해답을 찾고자 했던 질문은 정확하게 무엇이었던가? "누가, 또는 무엇이 의식이 있는가?"라는 질문이었다. 내가 이 책의 제목에 ‘뇌’나 ‘지능’이 아닌 ‘마음’이라는 단어를 쓴 것은 마음은 ‘의식을 가진 뇌’를 의미하기 때문이다. 또한 우리는 마음이 ‘자유의지’와 ‘정체성’을 가지고 있다고 말한다. 그래서 이 질문은 결국 "의식, 자유의지, 정체성을 가진 존재는 어디까지로 볼 것인가?"하는 문제가 된다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

우리 인간은 ‘영적인 기계’다. 아직은 우리의 능력을 확장시켜주는 기계들이 대부분 몸과 뇌 밖에 존재하지만, 이제 인간과 밀접하게 결합할 수 있는 도구들이 계속 만들어질 것이다. 결국은 인간과 기계의 구분은 흐려지고 마침내는 사라지고 말 것이다. 그러한 과정은 이미 시작되었다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

우리는 이미 역사적, 지적, 사회적, 개인적, 기억을 다양한 기계와 클라우드에 아웃소싱하고 있다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

많은 이들이 다양한 이유에서 나의 주장을 비판한다. 하지만 그러한 비판과 반론은 대개 기술에 대한 오해에서 비롯하거나 기계가 인간을 넘어설 수 없다는—인간을 넘어서서는 안 된다는—잘못된 신념에서 비롯한 것이다. 결국 기술발전만이 진실을 일깨워 줄 것이다

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

마지막으로 중요한 사실을 하나 덧붙이자면, 이제 우리는 자신의 지능을 디지털지능에 ‘백업’해서 보관할 수 있게 된다. 앞에서 설명했듯이, 이것은 전혀 은유적인 표현이 아니다. 컴퓨터나 스마트폰은 수시로 백업하는 마당에, 우리 머릿속에 담긴 무수한 정보는 하나도 백업이 되어 있지 않다는 사실을 떠올려보면 섬뜩할지도 모른다.

마지막으로 중요한 사실을 하나 덧붙이자면, 이제 우리는 자신의 지능을 디지털지능에 ‘백업’해서 보관할 수 있게 된다. 앞에서 설명했듯이, 이것은 전혀 은유적인 표현이 아니다. 컴퓨터나 스마트폰은 수시로 백업하는 마당에, 우리 머릿속에 담긴 무수한 정보는 하나도 백업이 되어 있지 않다는 사실을 떠올려보면 섬뜩할지도 모른다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

모차르트가 음악에 적성을 타고났다고 말하는 것은 무리가 아닐 것이다.
이러한 적성은 패턴인식 마음이론에서 어떻게 설명할 수 있을까? 분명한 사실은, 우리가 적성이라고 간주하는 것의 일부는 교육의 산물이라는 것이다. 다시 말해, 성장한 환경과 다른 사람에게서 영향을 받는다는 뜻이다. 모차르트는 음악가 집안에서 태어났다. 아버지 레오폴트 역시 작곡가였으며 잘츠부르크 대주교의 궁정오케스트라 단장이었다. 어린 모차르트가 음악에 관심을 보이기 시작하자 레오폴트는 세 살배기 아들에게 바이올린과 클라비어(건반악기의 일종)를 가르쳤다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

확장된 지능을 우리 신경망에 직접 연결하느냐, 지금처럼 통신기기를 활용해 무선으로 연결하느냐 하는 것은 중요한 문제가 아니다. 확장된 지능에 직접 접속하든 인터넷망을 통해 접속하든, 인간의 신피질이 전체적으로 강화될수록 인간의 창조성은 더욱 폭발할 것이다. 우리는 이미 개인적, 사회적, 역사적, 문화적 기억의 많은 부분을 클라우드에 아웃소싱하고 있다. 결국에는 체계적 사고 역시 클라우드에 아웃소싱하게 될 것이다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서