[마이리뷰] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?

[전자책] 마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?
레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수 / 크레센도 / 2020년 2월

글을 모아놓은 도서관은, 순환하는 구조로 이루어진 생각의 지식기반을 유지하고 확장할 수 있도록 도와준다. 도서관은 우리 뇌의 능력을 크게 확장시켜준다.


-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

이러한 협곡 아래에는 예외없이 물이 흐른다. 이러한 물길로 인해 거대한 자연구조물이 만들어진 것 아닐까 의심하는 것이 당연한 추론일 것이다. 하지만 19세기 중반까지만 해도 이처럼 잔잔한 물길이 그토록 거대한 계곡과 절벽을 만들어냈으리라고는 상상하지 못했다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

인간의 지능에서 학습은 대단히 중요한 역할을 한다.

-알라딘 eBook <마음의 탄생 : 알파고는 어떻게 인간의 마음을 훔쳤는가?> (레이 커즈와일 지음, 윤영삼 옮김, 조성배 감수) 중에서

[마이리뷰] 어떻게 인간과 공존하는 인공지능을 만들 것인가

[전자책] 어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 7월

겉모습, 특히 인간의 겉모습에 쉽게 속는 경향이 그렇다. 앨런 튜링은 사람을 닮은 로봇을 만들지 말라고 경고했다.

-알라딘 eBook <어떻게 인간과 공존하는 인공지능을 만들 것인가> (스튜어트 러셀 지음, 이한음 옮김) 중에서

그 방식은 출발점으로 삼기에는 좋지만, 그것만으로는 부족하다. 보증되는 것이 실제로 우리가 원하는 것이고 증명에 쓰인 가정들이 정말로 참이라는 것을 최대한 확실히 해야 한다. 증명 자체는 전문가를 위해 쓰는 학술지에 속한 영역이지만, 그럼에도 증명이 무엇이고 진정한 안전을 위해 무엇을 제공할 수 있고 무엇을 제공할 수 없는지를 이해하면 도움이 될 것이다. 이 장의 제목에 적힌 ‘증명 가능하게 이로운 provably beneficial은 약속이라기보다는 열망이지만, 올바른 열망이다. - P270

[마이리뷰] 슈퍼 인텔리전스

[전자책] 슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2020년 7월

그보다는 우리가 의도한 대로 묘사된 가치를 추구하도록 인공지능에게 동기를 부여하는 것이 어려운 문제이다. 우리의 의도를 이해하는 인공지능의 능력만으로는 이것을 보장할 수 없다. 즉 우리가 의도한 것을 정확히 이해한다고 해도─단어들에 대한 다른 해석에 따라 동기 부여가 된다거나 우리가 제공한 단어들에 아예 무관심하거나 하는 방법으로─전혀 무관심해질 수 있다.

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서

[마이리뷰] 슈퍼 인텔리전스

[전자책] 슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2020년 7월

우리는 초지능을사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다.1

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서

이 소단원을 마치기 전에 한 가지 강조할 것이 있다. 그것은 인공지능이 인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서

[마이리뷰] 슈퍼 인텔리전스

[전자책] 슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2020년 7월

우리는 초지능을사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다.

-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서