[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

모차르트가 음악에 적성을 타고났다고 말하는 것은 무리가 아닐 것이다.
이러한 적성은 패턴인식 마음이론에서 어떻게 설명할 수 있을까? 분명한 사실은, 우리가 적성이라고 간주하는 것의 일부는 교육의 산물이라는 것이다. 다시 말해, 성장한 환경과 다른 사람에게서 영향을 받는다는 뜻이다. 모차르트는 음악가 집안에서 태어났다. 아버지 레오폴트 역시 작곡가였으며 잘츠부르크 대주교의 궁정오케스트라 단장이었다. 어린 모차르트가 음악에 관심을 보이기 시작하자 레오폴트는 세 살배기 아들에게 바이올린과 클라비어(건반악기의 일종)를 가르쳤다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

확장된 지능을 우리 신경망에 직접 연결하느냐, 지금처럼 통신기기를 활용해 무선으로 연결하느냐 하는 것은 중요한 문제가 아니다. 확장된 지능에 직접 접속하든 인터넷망을 통해 접속하든, 인간의 신피질이 전체적으로 강화될수록 인간의 창조성은 더욱 폭발할 것이다. 우리는 이미 개인적, 사회적, 역사적, 문화적 기억의 많은 부분을 클라우드에 아웃소싱하고 있다. 결국에는 체계적 사고 역시 클라우드에 아웃소싱하게 될 것이다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

글을 모아놓은 도서관은, 순환하는 구조로 이루어진 생각의 지식기반을 유지하고 확장할 수 있도록 도와준다. 도서관은 우리 뇌의 능력을 크게 확장시켜준다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

이러한 협곡 아래에는 예외없이 물이 흐른다. 이러한 물길로 인해 거대한 자연구조물이 만들어진 것 아닐까 의심하는 것이 당연한 추론일 것이다. 하지만 19세기 중반까지만 해도 이처럼 잔잔한 물길이 그토록 거대한 계곡과 절벽을 만들어냈으리라고는 상상하지 못했다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

인간의 지능에서 학습은 대단히 중요한 역할을 한다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

[마이리뷰] 어떻게 인간과 공존하는 인공지능을 만들 것인가

[전자책] 어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 7월

겉모습, 특히 인간의 겉모습에 쉽게 속는 경향이 그렇다. 앨런 튜링은 사람을 닮은 로봇을 만들지 말라고 경고했다.

-알라딘 eBook <어떻게 인간과 공존하는 인공지능을 만들 것인가> (스튜어트 러셀 지음, 이한음 옮김) 중에서

그 방식은 출발점으로 삼기에는 좋지만, 그것만으로는 부족하다. 보증되는 것이 실제로 우리가 원하는 것이고 증명에 쓰인 가정들이 정말로 참이라는 것을 최대한 확실히 해야 한다. 증명 자체는 전문가를 위해 쓰는 학술지에 속한 영역이지만, 그럼에도 증명이 무엇이고 진정한 안전을 위해 무엇을 제공할 수 있고 무엇을 제공할 수 없는지를 이해하면 도움이 될 것이다. 이 장의 제목에 적힌 ‘증명 가능하게 이로운 provably beneficial은 약속이라기보다는 열망이지만, 올바른 열망이다. - P270

[마이리뷰] 슈퍼 인텔리전스

[전자책] 슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2020년 7월

그보다는 우리가 의도한 대로 묘사된 가치를 추구하도록 인공지능에게 동기를 부여하는 것이 어려운 문제이다. 우리의 의도를 이해하는 인공지능의 능력만으로는 이것을 보장할 수 없다. 즉 우리가 의도한 것을 정확히 이해한다고 해도─단어들에 대한 다른 해석에 따라 동기 부여가 된다거나 우리가 제공한 단어들에 아예 무관심하거나 하는 방법으로─전혀 무관심해질 수 있다.

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서

[마이리뷰] 슈퍼 인텔리전스

[전자책] 슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2020년 7월

우리는 초지능을사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다.1

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서

이 소단원을 마치기 전에 한 가지 강조할 것이 있다. 그것은 인공지능이 인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서