과학의 탄생 - 자력과 중력의 발견, 그 위대한 힘의 역사
야마모토 요시타카 지음, 이영기 옮김 / 동아시아 / 2005년 4월
평점 :
장바구니담기


  인간은 욕망함으로써 모든 것을 인식하고,  그 위에 군림할 수 있으며 자연의 주인으로서 지배자가 될 수 있다는 이 관념은 중세의 신과 인간과의 관계를 근본적으로 바꾸어 놓았다. 이런 논리라면 신에게만 허락되었던 기적을 인간이 행사하는 것도 가능해진다. 그것이 바로 마술이다. 즉 인간 중심설은 그 이면에 마술의 복권을 동반하고 있었다.  _ 야마모토 요시타카, <과학의 탄생>, p329


 자력과 중력의 역사를 다룬 야마모토 요시타카의 <과학의 탄생>은 우리에게 2천 년에 걸친 과학사를 통해 거대한 사상적 흐름을 보여준다. 플라톤과 에피쿠로스, 루크레티우스나 데카르트가 대표하는 환원주의적 철학이 아닌 경험적이며 귀납적인 방법론을 통해 비로소 근대 과학은 자리잡을 수 있었다.

 

 중세 말기에서 근대 초에 걸쳐 힘 특히 원격력, 구체적으로는 자력이나 조수간만에서 보이는 천체들 사이의 영향을 주요한 문제로 바라본 것은 마술과 점성술이었다. 그 중에서도 후기 르네상스의 자연마술은 전기력을 포함한 자연계의 많은 힘을 '공감과 반감', '숨겨진 힘'이라 부르며, 그 본질을 묻기보다는 실험과 관측을 통해 현상을 조사하고 이용하였다... 결국 힘에 대한 인식을 심화하고 새로운 발전의 계기를 연 것은 실험과 관찰을 통해 힘에 대한 수학적인 법칙을 확정하는 방식을 통해 이루어졌다. _ 야마모토 요시타카, <과학의 탄생>, p869


 <과학의 탄생>에서 저자는 근대 과학의 뿌리를 신학과 철학 대신 마술에서 찾는다.  삼단논법으로 대표되는 논리적인 철학 대신 연금술과 같은 비과학적인 마술과 합리적인 과학을 연결짓는 흐름은 독자들에게 혼돈을 주기에 충분하다. 그렇지만, 고대와 중세기를 거치면서, 이데아와 신과 같은 제1원인으로부터 현상을 설명하는 이론이 아닌, 현상으로부터 이론을 도출해내는 '가설-증명'이라는 수많은 노력이 축적되면서 근대 과학이 성립했음을 저자는 방대한 내용을 통해 독자들을 설득해간다. 그리고, 이 과정에서 독자들은 과학이란 절대적인 것이 아닌 수많은 가설들의 실패 속에서 현실을 설명하는 가장 합리적인 이론을 찾아내는 것이며, 수학적 정합성은 그 결과물임을 책을 통해 확인할 수 있다...


 1400년대의 마술은 로저 베이컨의 영향에서 시작되었고 아리스토텔레스의 영향도 크게 받았다. 때문에 전자의 마술은 종교적이며 사변적인 언어의 세계에 갇히는 경향이 짙었다. 그러나 1500년대의 마술은 경험적이며 수학적인 동시에 실천적인 성격을 가지고 있어서 장인들의 기술과 결부되었다. 여기서 실험적 방법과 수학적 추론에 근거하고, 기술적인 응용을 목적으로 하는 근대 과학이 생겨났다고 할 수 있다. _ 야마모토 요시타카, <과학의 탄생>, p353


 대항해 시대와 함께 서적 중심의 지식에서 경험을 중시하는 지식으로 전환이 일어나고, 특히 지구와 자석의 관계에 대한 이해가 깊어지는 세기적 변환은 과학의 새로운 담당자가 등장함으로써 가능해진 것이다. 그 과정에서 기술과 마술이 근대 과학으로 수렴되고 있었다. _ 야마모토 요시타카, <과학의 탄생>, p419




댓글(0) 먼댓글(0) 좋아요(43)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
누구나 물리 - 생활 속에서 재미있게 배우는 물리 백과사전 누구나 과학 시리즈
게르트 브라우네 지음, 정인회 옮김, 곽영직 감수 / Gbrain(지브레인) / 2022년 12월
평점 :
장바구니담기


시간이란 무엇인가? 물리학은 시간의 본질을 해명하는 것이 아니라, 시간의 물리학적 의미만을 다룬다. 즉 알베르트 아인슈타인 Albert Einstein, 1879 ~ 1955의 말에 따르면, "시간은 시계가 측정하는 것이다." 이 말은 유치하게 들릴지 몰라도 바로 이러한 시각을 철저히 적용함으로써 20세기 초에 이르러 우리의 전통적인 시간관념이 송두리째 무너지고 새로운 시간개념이 생겨나게 되었다(p15)... 앞에서 인용한 아인슈타인의 말을 이용하면 "길이는 자가 측정하는 것이다." _ 게리트 브라우네, <누구나 물리> , p17

고전 물리학부터 양자 물리학, 천체 물리학까지 물리학 이론을 실생활 사례와 접목시킨 알기 쉬운 물리학 입문서. 책을 한 줄로 정리한다면, 이렇게 요약되겠지만, 개인적으로 '알기 쉬운'과 '입문서'는 호완 가능한 단어는 아니라는 생각을 갖기에 사용에 조심하게 된다.

생각해보면, 어느 분야에 처음 접하는 이들을 대상으로 한 '입문서'는 초급자들의 수준을 고려했을 때 깊이와 분량을 많이 가져갈 수 없는데 반해, 내용적으로는 얇게나마 폭넓게 정리되는 것이 공통이다. 입문서의 이런 특성을 생각해본다면, 많은 내용들이 분명 제시되지만, 그 내용들의 인과관계나 내용의 의미를 독자들이 충분히 생각할 여유와 정보를 제공하지 않는다는 점에서 입문서는 결코 알기 쉬운 책이 아니라 여겨진다.

내용적으로는 '그럼에도 불구하고 이 책은 ~ '하고 기존 책과 다른 점을 이야기하면 좋겠지만, 그러한 입문서를 발견하는 것은 상대성 이론과 양자 이론이 동시에 적용될 수 있는 사건을 찾는 것만큼 어려울 것이라 여겨진다. <누구나 물리> 역시 예외는 아니다. 다만, 개인적으로 서두에 제시한 <누구나 물리>의 한 문장은 물리학의 많은 부분을 보여준다 생각되어 옮겨본다.

시간과 공간을 대상으로 의미를 부여하는 학문인 물리학. 시계와 자로 시간과 공간을 측정하듯, 물리적 의미를 기준점을 가지고 측정한다는 문장 안에서 기준 단위(m, kg, J 등)를 통해 사건들이 빛에서 열로, 에너지가 운동으로 변환되는 것을 정량(定量)적으로 측정하는 구조를 찾을 수 있다. 그리고, 이러한 변환구조 속에서 추상적인 수학과는 다른 물리학의 매력을 느낄 수 있다면 그것으로 충분하지 않을까...

댓글(0) 먼댓글(0) 좋아요(44)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 

슈뢰딩거의 고양이에게는 삶과 죽음이 공존하는 순간, 그 찰나의 순간에 일어나는 관찰은 이전까지 허수(imaginary number)로 표현되는 부분을 실수(real number)로 만든다. ‘허수 i의 제곱 = -1‘을 통해 파동함수는 붕괴되며, 동시에 삷과 죽음의 중첩상황은 확률문제로 전이된다. 또한, 힘과 작용의 관계는 사건(event)의 발생이라는 결과를 낳는다...




확률과 파동 함수는 다르다. 우선 확률은 0과 1 사이의 실수real number다. 반면 파동함수는 실수와 허수imaginary number의 두 부분으로 이루어진 복잡한수, 이른바 복소수complex number다. 이렇게 다른 두양은 어떻게 서로 연결되는 것일까? 답부터 말하면, 파동함수는 측정이 이루어지는 순간 확률로 바뀐다. 구체적으로 확률은 파동 함수의실수 부분과 허수 부분을 각각 제곱한 후에 더한 값, 즉 파동 함수의 절댓값의 제곱으로 결정된다. 참고로 이렇게 파동 함수가 확률로 바뀌는 것을 ‘파동 함수의 붕괴 collapse of the wave function‘라고 표현한다. - P76

결론적으로 전자가 바닥 상태와 들뜬 상태에 동시에 존재하게되면 슈뢰딩거의 고양이도 삶과 죽음이라는 두 상태에 동시에 존재할 수 있다. 고양이의 최종 상태는 고양이가 갇혀 있는 방의 문을 열어 확인하는 순간, 삶과 죽음 중 한 상태로 떨어지며, 그 확률은 측정 이전에 존재하는 전자의 파동 함수에 의해서 결정된다. 구체적으로 고양이가 살 확률과 죽을 확률은 각각 전자의 바닥 상태에 해당하는 파동 함수 성분과 들뜬 상태에 해당하는 파동 함수 성분의 절댓값의 제곱으로 주어진다. - P77


댓글(0) 먼댓글(0) 좋아요(12)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
최무영 교수의 물리학 강의 : 전면개정판
최무영 지음 / 책갈피 / 2019년 1월
평점 :
장바구니담기


과학의 올바른 활용을 위해서 과학은 사회 전체의 공유물이 되어야 하며, 사회의 모든 구성원이 과학에 대한 깊은 관심과 이해를 가져야 하겠습니다. 이는 단순히 과학 지식이 아니라 편협한 실증주의를 넘어서는 진정한 합리주의로서의 과학적 사고를 뜻합니다. 나아가 과학과 삶에 새로운 의미를 부여하고 인간과 세계에 대해 스스로 성찰하는 지혜의 수준, 이른바 온의식에 도달하기 위해서는 과학과 사회, 그리고 인문학의 만남은 매우 중요합니다. 이는 환원의 관점에서 또 다른 경계를 만드는 것이 아니라 경계 넘기로부터 경계 허물기로 나아가는 방향이어야 합니다. _ 최무영, <최무영 교수의 물리학 강의> , p686

최무영 교수의 <최무영 교수의 물리학 강의>는 여러 면에서 더글러스 호프스태터(Douglas R. Hofstadter, 1945 ~ )의<괴델, 에셔, 바흐 Go"del, Escher, Bach: An Eternal Golden Braid>를 떠올리게 하는 책이다. 실제로, 본문에 에셔(Maurits Cornelis Escher, 1898 ~ 1972)와 바흐(Johann Sebastian Bach, 1685 ~ 1750)가 인용되기도 했지만(특히, 에셔의 작품은 매우 비중있게 여러 곳에서 소개된다), 여러 분야를 자유롭게 넘나들면서도 저자 자신이 의도한 방향으로 독자들을 안내한다는 점에서 그렇다. 물리학이 생소한 이들이 느꼈을 혼돈의 카오스(Chaos)로부터 질서를 부여하며 코스모스(Cosmos)를 보여주는 느낌.

예전에 사람들은 어떤 것을 지각할 수 있게 해주는 적절한 은유를 갖기 전에는 그것을 보지 못한다 - 토마스 쿤 -

예전에 서재에서 활발하게 활동하셨던 AgalmA님의 서재 대문에 적힌 글을 잠시 옮겨본다. 다양한 분야의 사례를 통해 물리학의 세계를 조금이라도 친숙하게 느낄 수 있도록 적절한 은유를 제시하는 책이지만, 책에 담고 있는 내용은 결코 가볍지 않다. 많지 않은 수식이지만, 그 수식을 이해하기 위해서는 물리학에 대한 상당한 이해가 전제되어야 한다는 점에서 책은 독자에 따라 다른 빛깔의 책으로 보여질 것이다. 여기에는 저자의 철학도 작용한다. 저자의 사회, 세계를 바라보는 관점과 우리 말 용어를 사용하겠다는 의지는 누군가에게 불편함으로 비춰질 수도 있을 것이고, 책에 대한 호불호가 갈리는 지점이라 여겨진다. 이에 대해서는, 본문의 아래 내용이 답이 될 듯하여 옮겨본다. 서로 다른 세계에서 보다 효과적으로 현상을 설명하는 이론은 다르다는 것, 내가 속한 세상(또는 세계)는 다른 이가 속한 곳과는 다를 수 있다는 것 그리고 그 차이는 어쩌면 물리학에서 다루는 거대 시공간보다 더 클 수 있다는 점을 생각한다면, 다름이 공존할 수 있지 않을까.

가끔 양자역학에 비추어 고전역학은 틀렸고 잘못되었으니 버려야 한다고 말하는 경우를 보는데 이는 옳지 않습니다. 그렇다면 상대론적 양자역학만 남기고 양자역학도 버려야 하겠네요. 사실 고전역학은 지금도 대단히 훌륭한 이론입니다. 다만 적용 범위가 양자역학만큼 넓지 않은 것뿐입니다. 보편성 면에서는 양자역학이 더 좋은 이론이지요. 그러나 좋은 이론의 기준은 보편성 맟고도 여러 가지가 있고, 다른 측면에서는 고전역학이 양자역학보다 오히려 더 좋은 이론일 수 있습니다. _ 최무영, <최무영 교수의 물리학 강의> , p187

<최무영의 물리학 강의>는 미시 물리학에서 거시 물리학을 소개하는 방향으로 진행된다. 기본 입자와 기본 입자 사이에 작용하는 네 가지 힘, 힘을 설명하는 이론(고전역학, 양자역학, 상대성 이론) 등으로 부터 최근 이론이라 할 수 있는 복잡계 이론까지 점점 범위를 넓혀간다. 복잡계 이론을 통해 저자는 학문 간 통섭(通涉, consilience)의 가능성을 발견하는 전체 틀을 가진 이 책을 통해 독자들은 초끈이론, 양자역학 등을 담을 수 있는 그릇을 그리고 은유를 만들 수 있으리라 여겨진다...

기본입자는 세 가족으로 나누는데 쿼크 가족, 렙톤 가족, 그리고 게이지입자입니다. 모든 입자는 결국 이러한 세 가지로 이뤄져 있지요. 쿼크 가족은 알다시피 위, 아래, 맵시, 야릇함, 꼭대기, 바닥의 여섯 가지가 있습니다. 렙톤 가족은 전자와 전자중성미자, 뮤온과 뮤온중성미자, 그리고 타우와 타우 중성미자가 있습니다... 게이지입자는 기본입자들의 상호작용을 전해주는 알갱입니다... 자연에 존재하는 기본 상호작용은 네 가지입니다. 다시 말해서 모든 힘은 결국 네 가지 상호작용 중 하나입니다. 그중에서 가장 친숙한 것이 중력일겁니다. _ 최무영, <최무영 교수의 물리학 강의> , p157

결론적으로 일상 세계를 기술하려면 뉴턴의 고전역학으로 충분하지만, 원자나 분자 등 작은 세계의 기술에는 양자역학, 빛에 비해 크게 느리지 않은 빠른 세계나 우주 등 거대한 세계를 기술하는 경우에는 상대성이론을 써야 합니다. _ 최무영, <최무영 교수의 물리학 강의> , p186

우주는 중력이 존재하지 않으면 유클리드 기하학이 성립하는 평형한 4차원 시공간, 정확히는 민코프스키 시공간일 텐데 여기저기 물질이 존재하므로 중력마당을 형성했고, 따라서 굽어진 시공간이 되어서 일반적으로 비유클리드기하학이 성립하겠네요. 구체적으로 어떤 모습인지는 흥미로운 문제입니다. 우리 우주는 이를테면 쌍곡선일까요, 아니면 타원적일까요? 또는 평평할까요? _ 최무영, <최무영 교수의 물리학 강의> , p291

이제까지 물리학과 생물학 그리고 사회과학의 여러 분야에서 복잡계의 예를 몇 가지 들었습니다. 이렇듯 여러 분야에서 매우 다양하게 나타나는데 그 가운데에서 어떤 보편성을 찾아내고, 이에 따라 다양한 현상을 하나의 틀로 해석하려 합니다. 이른바 보편지식 체계를 구축하려고 노력하는 거지요. 이것이 바로 물리학의 독자성이라 할 수 있습니다. _ 최무영, <최무영 교수의 물리학 강의> , p682

댓글(2) 먼댓글(0) 좋아요(47)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
북다이제스터 2023-01-19 20:43   좋아요 1 | 댓글달기 | URL
드뎌 이 책을 영접하셨내요. ㅋ 그리고
AgalmA 님을 기억하시네요. 반갑습니다. ^^

겨울호랑이 2023-01-20 04:58   좋아요 1 | URL
^^:) 예전 초판을 읽었는데 개정판은 또 다른 느낌이네요. 더 체계적이고 저자의 철학이 잘 표현되었다는 느낌을 받습니다.좋은 글을 많이 쓰신 AgamA님을 잊을 수 없지요. 많이 아쉽습니다. 북다이제스터님 행복한 설 연휴 보내세요, 감사합니다!
 
슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2017년 4월
평점 :
장바구니담기


이 책에서 "초지능"은 다양하고 보편적인 인지 영역에서 현시대의 가장 뛰어난 인간보다 훨씬 더 우수한 지능체를 일컫는다. 이 정의는 여전히 꽤 모호하다. 단지 이 정의만을 따른다면 각기 다른 수행능력을 가진 여러 가지의 시스템들이 초지능으로 분류될 수도 있을 것이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p37/189

닉 보스트롬 (Nick Bostrom, 1973 ~ )의 <슈퍼 인텔리전스 - 경로, 위험, 전략 Superintelligence: paths, dangers, strategies>는 책 제목 그대로 '초지능(超知能)'에 대한 책이다. 인간 지능을 뛰어넘는 인공지능(AI)의 시대는 우리 곁에 와 있는가, 그렇다면 지금 우리는 무엇을 준비해야 하는가.

저자는 인공지능의 미래를 예상하는 것이 쉽지 않음을 고백한다. 지금 현단계에서 예상치 못한 문제가 발생할 수도, 난관이라고 여겨졌던 부분이 생각보다 쉽게 돌파될 수도 있기 때문이다. 이러한 기술적인 문제외에도, 인공지능의 확산과 인간의 완전대체까지는 개발단계보다 더 많은 시간이 소요될 것이기에 인공지능의 시대가 조만간 도래한다고 선언하기에는 아직 이르다.

인공지능 개발이 예상보다 느린 이유는 이러한 인공지능형 기계를 만드는 데에 필요한 기술들이 여러 선구자들의 예측보다 더 어려웠기 때문이다. 이 사실로부터 이러한 기술적인 난제들이 정확히 얼마나 어려운 것인지, 그리고 그것을 극복하는 데에 얼마나 더 걸릴 것인지 생각해보게 된다. 간혹 처음에는 도저히 해결할 수 없을 것만 같았던 매우 복잡한 문제가 놀라울 정도로 간단히 해결되는 경우도 있기 때문이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p10/189

그럼에도 불구하고, 인공지능에 의해 통제받는 디스토피아(dystopia)에 대한 경고가 끊이지 않는 것은 '지성'과 ' 이성'이 인류의 본성이라는 근본적인 사상의 기반이 위협받기 때문이라 여겨진다. 유한한 육체의 제약을 도구를 통해 극복하는 것에 대한 반발은 적은 반면, 서구 사회의 역사에서 인간 본연의 것으로 여겨지는 '이성'( reason 理性)을 다른 존재와 공유하는 것에 대한 거부감이 인공지능에 대한 공포의 실체가 아닐까.

기계와 기술이 많은 특정 유형의 인간 노동을 대체해왔지만, 그럼에도 불구하고 사실 과학기술은 대체로 노동을 보완하는 것이다. 이런 보완성 덕분에 전 세계적으로 노동자들의 평균 임금은 장기적으로 상승하는 경향을 보였다. 그러나 특정 노동에 대한 보완 수단으로 시작된 기술이 나중에는 노동을 대체하게 될 수도 있다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p98/189

이같은 면에서 향후 인공지능 개발에 대한 닉 보스트롬의 전망은 인간 이성을 강조하는 이들에게 작은 위안을 선사한다. 인간의 지능체계를 모사한 '또 하나의 인간'이 아닌 이와 별도로 '도구적 지능'으로서 인공지능이 개발된다면, '인간 본성은 무엇인가?'에 대한 물음에 우리는 조금은 여유롭게 대답할 수도 있을 수도 있을 것이며, 인간존엄에 대한 위기감도 낮춰준다.

한 가지 강조할 것이 있다. 그것은 인공지능이 인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다. 인공지능은 우리와는 완전히 이질적일 수도 있다. 사실 대부분이 그럴 것으로 생각된다. 생물학적 지능과는 아주 다른 인지구조를 가지고 있을지도 모르고, 특히 개발 초기 단계에는 인지능력에서 우리와 아주 다른 강점과 약점을 가지고 있을지도 모른다. 게다가 인공지능이 지향하는 목표 시스템(goal system)은 인간의 목표 시스템과 아주 큰 차이가 있을 수도 있다. 인공 일반 지능이 사람이나 증오, 또는 자존심 같은 인간의 감정을 행동의 동기로 삼으라는 법은 없다. 오히려 이러한 복잡한 감정을 인공지능에 적용하기 위해서는 신중하고 비용이 많이 드는 노력이 필요할 것이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p25/189

그렇다면, 보스트롬이 전망하는 인공지능에 사용되는 이성은 도구적 이성(道具的理性, instrumentellen Vernunft)이라 할 수 있지 않을까. 일찍이 막스 호르크하이머(Max Horkheimer, 1895 ~ 1973)가 비판했던 이성의 도구적 사용이 인공지능의 목표라면 마치 지킬박사와 하이드가 각각 선악(善惡)을 나눠가지듯, 인간 이성과 인공지능 이성이 밝은 면과 어두운 면을 각각 점유할 수 있지 않을까. 물론, 인공지능이 별도의 체계를 갖는다면 그것은 코딩의 어려움에서 비롯된 것이지만, 그 지향이 '행복의 목적'이 '행복의 수단'이라면 인공지능의 위협이 조금은 감수되고, 로봇이 육체노동을 대신하듯 인공지능은 지식노동을 행하는 기계로 받아들여질 수 있을 것이다. 그렇다면, 인공지능과 공존하는 인류의 미래가 아예 불가능한 것만은 아니지 않을까. 다만 여기에는 한 자기 전제가 따를 것이다. 도구적 이성의 효과적인 통제가 그것이다.

어려운 부분은 인공지능이 인간의 의도를 어떻게 이해하도록 하는가의 문제가 아니다. 초지능은 이런 이해 정도는 쉽게 획득할 것이다. 그보다는 우리가 의도한 대로 묘사된 가치를 추구하도록 인공지능에게 동기를 부여하는 것이 어려운 문제이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p115/189

기대효용에 대해서 이야기하자면, 프로그래머는 행복의 양에 비례하여 효용 가치를 특정 세계에 배치해주는 효용함수를 찾는다. 그런데 이런 효용함수를 어떻게 컴퓨터 코드로 표현할 수 있을까? 컴퓨터 언어는 "행복" 같은 개념을 어근(語根, primitives)으로 삼지 않는다. 이런 개념을 사용하려면 먼저 정의를 내려주어야 한다. "행복은 인간 본성의 가능성을 즐기는 것"이라든가, 또는 어떤 철학적 주해(註解)처럼 인간의 대란 개념을 이용해서 정의해주는 것은 충분하지 않다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p110/189

이런 관점에서 바라본다면, 인공지능의 개발에서 가장 중요한 부분은 통제 가능성일 것이다. 인류의 행복을 위한 인공지능이라는 도구적 이성의 합리적 사용. 인공지능이 궁긍적으로 인류 행복을 위한 하나의 수단이라면, 통제 없는 인공지능의 도입이 마치 파에톤이 모는 태양마차처럼 우리 삶을 파국으로 몰고갈 것임을 생각해본다면, 우리의 발걸음은 다시 인문학으로 향할 수 밖에 없게 된다. 이는 과학문명의 시대에 인문학과 통섭(統攝,Consilience)이 강조되는 이유이기도 할 것이다...

초개체의 가장 중요한 성질은, 하나의 조상이 낳은 복제품으로 이루어 졌다는 것이 아니라, 모든 개개인의 에이전트가 공동의 목표에 온전히 헌신적이라는 것이다. 초개체를 만들려면, 따라서 통제 문제의 부분적 해결이 필요하다. 통제 문제의 가장 완벽한 해결책이 누군가에게 임의의 최종 목표를 가진 에이전트(대리인)를 만들 권한을 주는 것이라면, 초개체를 만드는 데에 필요한 부분적 해결책은 (중요하기는 하지만 임의적이지 않은) 하나의 최종 목표를 가진 여러 개의 에이전트를 만들 수 있는 능력이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p107/189

인공지능의 최종 목표는 우리를 행복하게 만드는 것이지, 프로그래머들이 이 목표를 입력했을 때에 의도했던 바를 이루는 것은 아니다. 따라서 인공지능은 우리가 무엇을 의도했는지에 대해서는 단지 도구적 관심만을 가지게 될 것이다. 예를 들면, 인공지능은 프로그래머들이 의도한 것을 알아내는 일에는 그저 도구적 가치만을 부여할 수 도 있을 것이다(p77)... 이 왜곡된 사례들로부터 우리는 다음과 같은 사실을 알 수 있다. 즉 처음에는 안전하고 합리적으로 보였던 최종 목표들이 좀더 깊이 검토해보면, 전혀 의도하지 않았던 결과를 불러올 수 있다는 것이다. 이러한 목표들 중에서 어느 하나라도 가지고 있는 인공지능이 확실한 전략적 우위를 획득하는 경우, 인류에게는 더 이상 무엇을 할 수 없는 게임 끝이나 다름없는 상황이 될 것이다. _ 닉 보스트롬, <슈퍼 인텔리전스> , p78/189

댓글(0) 먼댓글(0) 좋아요(36)
좋아요
북마크하기찜하기 thankstoThanksTo