-
-
2029 기계가 멈추는 날 - AI가 인간을 초월하는 특이점은 정말 오는가
게리 마커스.어니스트 데이비스 지음, 이영래 옮김 / 비즈니스북스 / 2021년 6월
평점 : 
[ 2029 기계가 멈추는 날 ]
[[ 인간은 기계가 되고 기계는 인간이 된다!’ 세계적인 미래학자이자 구글 기술이사인 레이 커즈와일이 기술이 인간을 초월하는 순간이 온다고 예측한 2029년이 얼마 남지 않았다. 그가 예측한 미래는 정말 도래할 것인가? 구글 전 CEO 에릭 슈미트는 “AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!”라고 말했다.
반면 스페이스 X의 CEO 일론 머스크는 “AI 연구는 악마를 소환하는 일”이라고 말했다. 이러한 AI를 둘러싼 논쟁과 화려한 이슈에도 불구하고, 인간의 지능을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않고 있다. 단순한 알고리즘으로 움직이는 기계는 과연 진화할 것인가, 여기서 멈춰 설 것인가? ]]
몇몇 유명한 미래학자 , 신경망 학자, 그리고 엔지니어링 , 딥 마인드를 개발한 구글 자회사 알파벳 등은 어느 시기가 되면 인공지능이 인간의 지능을 능가하는 날이 올 것이고 영화 터미네이터의 스카이 넷처럼 무작 외 미사일과 파괴적인 알고리듬으로 인간을 파멸에 이르게 할 수 있을 것이라고 예측한 일부 기사도 있었다.
하지만 현제 기술 수준으로 그러한 인간의 오감과 센스에 능하고 직감과 지성에 도달하는 완전체가 되기 위해서는 아직 갈길이 좀 먼 건으로 추정되고 있다.
우선은 우리가 잘 알고 있었던 바둑의 귀제 이세돌 9단과의 알파고의 대결이다. 세간의 이목을 집중시켰고 , 결국 알파고의 승리로 끝나서 , 사람들은 이젠 게임 외의 것도 인공지능에 의해 도전받는 시개가 되었다고 한편으로 자조하기도 하였다. 그리고 그 알파고를 백전백승으로 이겨 버린 다른 버전의 능동적 머신러닝 AI가 나타났고, 그 기계는 자율 학습능력으로 시작과 동시에 수시간만에 이전 알파고가 학습하였던 모든 과정의 수백 배에 달하는 알고리즘을 학습하여 거의 모든 바둑과 체스 같은 경로 싸움에 있어서 천하무적이 되었다.
그러나 그렇다고 하여서 , 그 AI 가 바둑판이나 체스판처럼 조건이 주어진 경기장이 아닌 다른 일반적인 환경에서 사람처럼 생각하기에는 아직 이르다.
자율 추행 자동차를 목표로 시작된 테슬라의 전기차나 구글의 자율 주행 시스템도 수십만 번의 시행착오와 과정을 거쳐 가지만 아직까지도 완벽하게 도로 주행에서 운전자자 양손을 놓고 운전 하기에는 일정 부분 이상의 자기 목숨을 담보로 해야 한다. 몇 해전에는 수천 km 롤 자율 주행차로 전국 곳곳을 누비던 사람이 어느 한순간 교처로에서 트레일러 밑으로 빨려 들어갔고 즉사하였다... 99% 완벽하게 보이던 자율 주행 시슴템에도 나머지 1% 미만의 에측 불능의 변수는 있었던 것이다.
인공지능이 발달 해 가면서 , 인간적인 윤리적인 문제도 화두로 떠오른다. 향우 미래엔 전치 차던 추소 차던 자율 주행 차량을 구매 시엔 , 본인의 의사를 물어봐야 한다. 이 자동차가 이타적인 자율 주행차인지 이기적인 자율 주행차인즈등 ,
-그 이유는 이렇다. 우리 사회는 민주적이고 보편적 정의를 추구한다. 그리고 공공의 이익이 선이면 개인의 이타심도 선으로 받아들일 수 있다. 하지만 정작 당사자라면 그러한 판단을 유보할 가능성이 매우 높다.
공리적인 인공 지능이 개발되었다고 하자. , 트롤리 게임이라는 것이 있다. 아랫 마울 사거리에 사람들이 횡단 하고 있고 전차에는 브레이크가 파열된 체 내리막을 질 주 하고 있고, 교차로에선 기수는 한 한 가지 마지막 행위를 할 수 있는데 , 차단기를 돌리면 전차 경로가 바뀌어 전차 안에 사람은 살고 대신 , 근처 페선에서 작업 중이던 인부 3이 목숨을 잃는다. 그렇지 않고 그냥 내버려 둔 채로 교차로 사람들을 대피시키면 전차 안의 십 수 명의 사람들은 옹벽을 들이받거나 난간으로 튕겨자 나가서 절반 이상의 사림이 죽거나 타치는 것이 자명하다. 이경우 어떤 선택이 옳은가 , 전차 안의 사람을 보호하는 것이 옳고, 아무것도 모른 체 열심히 작업하는 인부들의 3명의 못 숨을 읽게 하는 것이 올인지, 아니면 반대의 경우라면 어떻까..
순간 판단하여야 하는 상황에서 인간 운전자나 , 이 상황을 바라보면서 교신하고 있던 신호수 입장에서는 매우 극도의 긴장으로 아무런 행동도 하지 못할 수도 있다. 하지만 자율 주챙차량에 답재된 레이더며 , 각종 기계와의 근거리 센서와 GPS , 주변 사람들의 돌발적인 움직임을 감지하는 고속 카메라 등 , 빅데이터적인 자료 판단을 할 수 있는 상태에서 결정 만이 남는다 , 이차의 주인을 지킬 것인지 말 것인지 등. 전방에 사람 수가 이차에 답 승자보다 많아 보인다면 , 측면 방향을 클어 난간을 들이받는 면이 전체 지구의 인구수 감소에는 미미하지만 영향을 미칠 수는 있다. 그렇지 않다면 , 철저한 운전자 보호 모드의 인공 이능이라면 , 순간 브레이크 파열 시 , 경고음을 울리지만 차선 이탈은 하기 어려울 것이다. 블의의 전면 사고를 당한 보행자는 운이 나쁨을 탓할 수도 있지만 엄밓히 보자면 인공지능의 선택적 판단 이기도 하다. 매우 인간 저 긴 이기적 알고리듬이기에 가능할 일이다.
다시 책 주제로 돌아가자면 , MIT 인지과학자 게리 마커스와 컴퓨터 공학자 어니스트 데이비스는 , 인공지능의 미래에 대해 이렀게 애가 한다.
지금까지 개발되어 왔던 딥러닝 머신 러닝 알고리즘에서 탈피하여 , 인간의 지성과 상식에 보다 접근할 수 있는 일반 상식과 추론에 근거한 Deep understanding 이 이뤄져야 하지 않을까 한다에-. 동의하며 이제까지 수많은 개발이 이뤄져 왔던 아마존의 알렉사나 의학 진단 프로그램 IBM의 왓슨 박사조차도 상식과 추론에 근거한 이해는 쉽지 않았다. 아무도 , 아무리 많은 데이터양에 의존하고 , 방 밥을 찾아가는 몬테 카를로 기법 (주 해석 -아래 참조 ) 한다고 하여도 인간의 수백조에 해당하는 뉴런 신경망이나 DNA의 판탕으로 아주 어릴 적부터 직관적인 판단을 해왔던 지구 상의 유일한 지성체 , 인간을 대체하거나 극복 하기는 어려운 듯 보인다. 아직 까지는 그래서 서두 신경망 학자가 얘기 하였던 2029년의 특이점 변혁은 상당 시간의 노력과 다른 방식으로의 접근 법도 필요하지 않을까 봅니다만 ,, 그사이 가능한 방법들에 대한 인공 지능 영화는 계속 확장과 혁신을 거듭할 듯하다.. Written by E HAN
PS. 몬테카를로 기법 [ 원문 번역 내용임]
몬테카를로 트리 탐색 - https://en.wikipedia.org/wiki/Monte_Carlo_method
몬테카를로 방법 또는 몬테카를로 실험 은 숫자 결과를 얻기 위해 반복된 무작위 샘플링에 의존하는 광범위한 계산 알고리즘입니다. 기본 개념은 무작위성을 사용하여 원칙적으로 결정적 일 수 있는 문제를 해결하는 것입니다. 그들은 종종 물리적 및 수학적 문제에 사용되며 다른 접근 방식을 사용하는 것이 어렵거나 불가능할 때 가장 유용합니다. 몬테카를로 방법은 주로 세 가지 문제 클래스에서 사용됩니다. [1] 최적화 , 수치 적분 , 확률 분포에서 도출 생성. 등 물리학 관련 문제에서 Monte Carlo 방법은 유체, 무질서한 재료, 강하게 결합된 고체 및 세포 구조와 같이 결합된 자유도 가 많은 시스템을 시뮬레이션하는 데 유용합니다 ( 셀룰러 Potts 모델 , 상호 작용하는 입자 시스템 , McKean-Vlasov 프로세스 참조 ). 기체의 운동 모델 ).
다른 예로는 비즈니스 위험 계산 , 수학에서 복잡한 경계 조건 이 있는 다차원의 명확한 적분 평가와 같은 입력에 상당한 불확실성이 있는 모델링 현상이 있습니다. 시스템 엔지니어링 문제 (우주, 석유 탐사 , 항공기 설계 등)에 적용할 때 몬테카를로 기반의 실패, 비용 초과 및 일정 초과 예측은 인간의 직관이나 대안적인 "소프트"방법보다 일상적으로 더 낫습니다. [2]
원칙적으로 몬테카를로 방법은 확률 론적 해석이 있는 모든 문제를 해결하는 데 사용할 수 있습니다. 큰 숫자의 법칙에 따라 일부 랜덤 변수의 기대 값으로 설명되는 적분은 변수의 독립 표본에 대한 경험적 평균 (일명 표본 평균)을 사용하여 근사화할 수 있습니다. 변수의 확률 분포 가 매개 변수화 될 때 수학자들은 종종 Markov chain Monte Carlo (MCMC) 샘플러를 사용합니다. [3] [4] [5] 핵심적인 아이디어는 정해진 고정 확률 분포를 갖는 현명한 마르코프 체인 모델을 설계하는 것입니다.. 즉, 한계에서 MCMC 방법에 의해 생성되는 샘플은 원하는 (타깃) 분포의 샘플이 됩니다. [6] [7]에 의해 에르 고딕 이론은 , 고정 분포에 의해 근사 경험적 측정 MCMC 샘플러 랜덤 상태.
다른 문제에서 목표는 비선형 진화 방정식을 만족하는 일련의 확률 분포에서 드로우를 생성하는 것입니다. 이러한 확률 분포의 흐름은 전이 확률이 현재 임의 상태의 분포에 의존하는 마르코프 프로세스의 임의 상태 분포로 항상 해석될 수 있습니다 ( McKean–Vlasov 프로세스 , 비선형 필터링 방정식 참조 ). [8] [9]다른 경우에는 샘플링 복잡성이 증가하는 확률 분포의 흐름이 제공됩니다 (시간 지평이 증가하는 경로 공간 모델, 온도 매개 변수 감소와 관련된 Boltzmann-Gibbs 측정 및 기타 여러 항목). 이러한 모델은 비선형 마르코프 체인의 임의 상태 법칙의 진화로 볼 수도 있습니다. [10] [10] 마르코프 프로세스 비선형 이러한 정교한 시뮬레이션하는 자연적인 방법으로 샘플링하여 진화 방정식에 랜덤 상태의 분포를 알 교체 프로세스의 복수의 카피 샘플링하는 경험적 대책.
전통적인 Monte Carlo 및 MCMC 방법론과 달리, 이러한 의미는 필드 입자 기술은 순차적 상호 작용 샘플에 의존합니다. 용어 평균 필드는 각 샘플 (일명 입자, 개인, 워커, 에이전트, 생물 또는 표현형)이 프로세스의 경험적 측정과 상호 작용한다는 사실을 반영합니다. 시스템의 크기가 무한한 경향이 있는 경우 이러한 임의의 경험적 측정값은 비선형 마르코프 체인의 임의 상태의 결정 론적 분포에 수렴하여 입자 간의
역사 [ 편집 ]
Monte Carlo 방법이 개발되기 전에 시뮬레이션은 이전에 이해된 결정 론적 문제를 테스트했으며 통계적 샘플링을 사용하여 시뮬레이션의 불확실성을 추정했습니다. Monte Carlo 시뮬레이션은 이 접근 방식을 뒤집어 확률 적 메타 휴리스틱을 사용하여 결정 론적 문제를 해결합니다 ( 시뮬레이션된 어닐링 참조 ).
몬테카를로 방법의 초기 변형은 상기와 같은 문제점을 해결하기 위하여 고안되었다 뷔퐁의 바늘 문제가 되는, π가 병렬 등거리 스트립 이루어지는 층 바늘 낙하에 의해 추정될 수 있다. 1930 년대에 엔리코 페르미는 중성자 확산을 연구하면서 몬테카를로 방법을 처음으로 실험했지만이 연구를 발표하지 않았습니다. [12]
1940 년대 후반 Stanislaw Ulam 은 Los Alamos National Laboratory에서 핵무기 프로젝트를 진행하는 동안 Markov Chain Monte Carlo 방법의 현대 버전을 발명했습니다. Ulam의 돌파구 직후 John von Neumann 은 그 중요성을 이해했습니다. Von Neumann은 Monte Carlo 계산을 수행하도록 ENIAC 컴퓨터를 프로그래밍했습니다. 1946 년 Los Alamos의 핵무기 물리학 자들은 핵분열 성 물질에서 중성자 확산을 조사하고 있었습니다. [12] 중성자가 원자핵과 충돌하기 전에 물질에서 이동하는 평균 거리, 충돌 후 중성자가 방출할 수 있는 에너지와 같은 대부분의 필요한 데이터를 가지고 있음에도 불구하고 Los Alamos 물리학 자들은 해결할 수 없었습니다. 기존의 결정 론적 수학적 방법을 사용하는 문제. Ulam은 무작위 실험을 제안했습니다. 그는 자신의 영감을 다음과 같이 설명합니다.
내가 처음으로 [몬테카를로 방법]을 실천하려고 한 생각과 시도는 1946 년에 내가 병에서 회복하고 솔리테어를 하면서 나에게 떠오른 질문에 의해 제안되었습니다. 문제는 52 장의 카드가 배치된 Canfield 솔리테어가 성공적으로 나올 가능성이 얼마나 됩니까? 순수한 조합 계산으로 그것들을 추정하는 데 많은 시간을 보낸 후, 나는 "추상적 사고"보다 더 실용적인 방법이 100번을 말하고 단순히 성공한 플레이의 수를 관찰하고 세는 것이 아닐지 궁금했다. 이것은 빠른 컴퓨터의 새로운 시대가 시작되면서 이미 상상할 수 있었습니다. 그리고 저는 즉시 중성자 확산 문제와 다른 수학적 물리학 문제를 생각했습니다. 보다 일반적으로 특정 미분 방정식에 의해 설명된 프로세스를 일련의 무작위 연산으로 해석할 수 있는 등가 형식으로 변경하는 방법.
나중에 [1946 년]에 나는 아이디어를 John von Neumann과 우리는 실제 계산을 계획하기 시작했습니다. [13] 비밀이기 때문에 폰 노이만과 울람의 작업에는 코드 명이 필요했습니다. [14] von Neumann과 Ulam, Nicholas Metropolis의 동료는 Monte Carlo라는 이름을 사용하도록 제안했는데, 이는 Ulam의 삼촌이 친척들로부터 돈을 빌려 도박 을하는 모나코의 Monte Carlo 카지노를 의미합니다. [12] "진정한 난수"난수 목록을 사용하는 것은 매우 느 렸지만 von Neumann 은 중간 제곱 법을 사용하여 의사 난수를 계산하는 방법을 개발했습니다.. 이 방법이 조잡하다고 비판을 받았지만 폰 노이만은 이것을 알고 있었다. 그는 자신이 처리할 수 있는 다른 어떤 방법보다 빠르다고 정당화했고, 미묘하게 틀릴 수 있는 방법과 달리 잘못되었을 때 분명히 그렇게 했다고 언급했다.. [15]
몬테카를로 방법은 맨해튼 프로젝트에 필요한 시뮬레이션의 중심이었지만 당시의 계산 도구에 의해 심각하게 제한되었습니다. 1950 년대에 그들은 수소 폭탄의 개발과 관련된 초기 작업을 위해 Los Alamos에서 사용되었고 물리학 , 물리 화학 및 운영 연구 분야에서 대중화되었습니다. 랜드 공사와 미 공군은 이 기간 동안 몬테 카를로 방법에 대한 정보를 자금 및 보급을 담당하는 주요 기관이 있었고, 그들은 여러 분야에서 다양한 응용 프로그램을 찾을 시작 했다.
보다 정교한 평균 장 유형 입자 몬테카를로 방법의 이론은 확실히 1960 년대 중반에 유체 역학에서 발생하는 비선형 포물선 편미분 방정식 클래스의 Markov 해석에 대한 Henry P. McKean Jr. 의 연구와 함께 시작되었습니다. [16] [17] 또한 의해 초기 선구 문서 인용 도어 E. 해리스 평균 필드 이용하여, 1951 년 출판 허만 칸을 유전 입자 송신 에너지를 추정하기 위한 형 몬테카를로 방법. [18] 평균 필드 유전형 몬테카를로 방법론은 휴리스틱 자연 검색 알고리즘 (일명 메타 휴리스틱) 진화 컴퓨팅에서. 이러한 평균 필드 계산 기술의 기원은의 작품으로 1950 년과 1954 추적할 수 있습니다 앨런 튜링 (Alan Turing) 유전자 형 돌연변이 선택 학습 시스템에서 [19]에 의해 및 기사 닐스 아올 바리 셀리 상기 프린스턴 고등 연구소에서 프린스턴, 뉴저지. [20] [21] Quantum Monte Carlo , 보다 구체적으로 확산 Monte Carlo 방법 은 Feynman – Kac 경로 적분의 평균 필드 입자 Monte Carlo 근사치로 해석될 수 있습니다. [22] [23] [24] [25] [26] [27] [28] Quantum Monte Carlo 방법의 기원은 1948 년 중성자 사슬의 평균 필드 입자 해석을 개발 한 Enrico Fermi와 Robert Richtmyer에 종종 기인합니다. 반응, [29]그러나 양자 시스템 (감소 매트릭스 모델에서)의 기저 상태 에너지를 추정하기 위한 최초의 경험적 유사 및 유전 적 유형 입자 알고리즘 (일명 Resampled 또는 Reconfiguration Monte Carlo 방법)은 1984 년 Jack H. Hetherington 때문입니다 [28] 분자 화학에서, 유전 적 휴리스틱과 유사한 입자 방법론 (일명 가지 치기 및 농축 전략)의 사용은 Marshall N. Rosenbluth와 Arianna W. Rosenbluth의 중요한 작업으로 1955 년으로 거슬러 올라갑니다. [30]
고급 신호 처리 및 베이지안 추론에서 Sequential Monte Carlo를 사용하는 것은 더 최근입니다. 그것은 고든 등. 그 정액 일에 간행, 1993 년이었다 [31] 몬테카를로의 처음 응용 리샘플링 베이지안 통계적 추론의 알고리즘. 저자는 알고리즘을 '부트스트랩 필터'라고 명명하고 다른 필터링 방법과 비교하여 부트스트랩 알고리즘이 해당 상태 공간이나 시스템의 노이즈에 대한 가정을 필요로 하지 않는다는 것을 보여주었습니다. 또한 Genshiro Kitagawa의 이 분야에서 관련 "Monte Carlo filter", [32] 및 Pierre Del Moral [33]의 또 다른 선구 적 기사를 인용합니다. 및 Himilcon Carvalho, Pierre Del Moral, André Monin 및 Gérard Salut [34]는 1990 년대 중반에 발표된 입자 필터에 관한 것입니다. 입자 필터는 1989 ~ 1992 년에 STCAN (Service Technique des Constructions)을 사용한 일련의 제한 및 분류 연구 보고서에서 LAAS-CNRS의 P. Del Moral, JC Noyer, G. Rigal 및 G. Salut에 의해 신호 처리에서 개발되었습니다. et Armes Navales), IT 회사 DIGILOG 및 LAAS-CNRS (시스템 분석 및 아키텍처 연구소)가 레이더 / 음파 및 GPS 신호 처리 문제에 대해 설명합니다. [35] [36] [37] [38] [39] [40] 이러한 Sequential Monte Carlo 방법론은 상호 작용하는 재활용 메커니즘을 갖춘 수용 거부 샘플러로 해석될 수 있습니다.
1950 년부터 1996 년까지 전산 물리학 및 분자 화학에 도입된 가지 치기 및 재 샘플 몬테카를로 방법을 포함하여 순차 몬테카를로 방법론에 대한 모든 간행물은 일관성에 대한 단일 증명 없이 다양한 상황에 적용되는 자연스럽고 휴리스틱과 유사한 알고리즘을 제시합니다. 추정치의 편향과 계보 및 조상 트리 기반 알고리즘에 대한 토론. 이러한 입자 알고리즘의 수학적 기초와 첫 번째 엄격한 분석은 1996 년 Pierre Del Moral에 의해 작성되었습니다. [33] [41]
다양한 인구 크기를 가진 분 지형 입자 방법론은 1990 년대 말 Dan Crisan, Jessica Gaines 및 Terry Lyons, [42] [43] [44] 및 Dan Crisan, Pierre Del Moral 및 Terry Lyons에 의해 개발되었습니다. [45] 이 분야의 발전은 또한 P. 델 도덕적 및 L. A. GUIONNET Miclo에 의해 2000 년 개발되었다. [23] [46] [47]