2029기계가 멈추는 날

[전자책] 2029 기계가 멈추는 날 - AI가 인간을 초월하는 특이점은 정말 오는가
게리 마커스.어니스트 데이비스 지음, 이영래 옮김 / 비즈니스북스 / 2021년 6월

요즘 인공지능 AI가 인간을 뛰어넘는다 혹은
이론 머스크는 AI 연구는 악마를 소환하는 길이라며
우리 미래에 해가될지 득이될지 찬반논란이
갈수록 양극화되어있다.
이책이 최근 AI연구로서 일인자들이 집대성한
책으로 현실적인 AI가 이끌어갈 미래와
불확실한 명제들과 사실들을
다양한 측면에서 사례를 제시하며 알기쉽게
설명한다.
현재 많은 언론은 사람보다 AI가 더 많은 일을
할수있다고 너무 과장해서 문제가 크다는 점을 지적한다.
또한 AI가 주는 장점들만을 기반으로
완벽한 '공상'이라는 결과를 만들어냈다.
하지만 AI는 아직 여러 부족한부분이 많아
더많은 개발이 필요하다.
또한 사람의 음성인식이나 대상인식을 뛰어넘어 새로운 신경망
기반 접근법으로 도약하는 딥러닝은 AI에 있어 소중한도구이며 우리 삶에
중요하고 필수적인 역할을 할것이다.
하지만 이 딥러닝의 완정한 지성이라면 갖춰야할
'유연성'과 '적응성'이 부족하여
점차적으로 보완 및 개발은 필요하다.
그리고 진정한 지능은 딥러닝이 뛰어난 역량을 보였던 분야인
개념적 분류를 훨씬넘어서는 것이어서,
앞으로도 더 높은 수준의 사고와 상징적 추론에 다시
연결 시켜야만 한다. 따라서 범용지능에 이르기위해
더 다양한 도구들을 우리가 아직 발견하지 못한 방식으로 통합해야할것이다.
여러분도 이책을 통해 우리 AI가 인간에게 궁극적으로
어떠한 강점과 단점을 가지는 알게되고
이를 상호보완하기위해 가장 올바른 AI의 가야할 방향이
무엇인지 방법또한 완전히는 아니어도
그 흐름은 이해하게 될 것이다.

P42 왜 AI가 아직 제 궤도에 오르지 않았는지, 견실하고 신뢰할 수 있는 AI, 즉 계속 변화하는 복잡한 세상속에서 우리의 집, 부모, 아이, 의학적 결정, 궁극적으로는 우리의 삶까지 믿고 맡길 수 있는 AI를 얻기 위해 우리가 할 수 있는 일은 무엇인지에 대해 논의해보려 한다.

P54 AI는 의학, 환경, 천연자원 등 인류가 직한 가장 큰 과제에 도움을 줄 수 있는 엄청난 잠재력을 가진 기술이다. 우리의 미래가 이 기술에 달려있다고 해도 과언이 아니다. 하지만 우리가 AI에게 더많은 힘을 쥐여줄수록, AI가 그힘을 우리가 신뢰할 수 있는 방식으로 사용하는 일이 중요해진다.

P172 불행히도 상식을 쌓는 것은 생각보다 훨씬 더 어려운 일이다. 앞으로보게 되겠지만 기계가 상식을 쌓아야 하는 필요성은 대개 보편적이고 전반적인 이유에서 비롯된다. 그리고 그 필요성은 언어영역에 있어서도 긴급한 문제지만 로봇 공학 영역에 있어서는 더욱 시급하고 중요한 문제로 작용한다.

P192 좀더 일반적인 AI에 있어 가장 큰 도전은 '신뢰성'이 될 것이다. 거의 모든 시연 영상에서 로봇들은 어수선하고 복잡한 실제 환경이 아닌 상상할 수 있는 가장 이상적인 환경에서 활동한다.

P203 가능성이 너무나 방대하고 개방적이기 때문에 순전히 빅데이터와 딥러닝에만 의지한 해법으로는 충분하지 않다. 클래식 AI 접근법 역시 그 나름의 불안정성을 갖고 있다. 이모든 것이 강화된 인지 모델과 딥러닝 중요성을 가리키고 있다.

P253 AI가 마침내 인지과학 이런 가르침을 받아들이고 이용하면 빅데이터를 중심으로 하는 패러다임에서 빅데이터와 추상적 인과 지식 모두를 중심으로 하는 패러다임으로 이동할 수 있다.

P285 인과적 이해의 영역들을 유동적으로 결합하는 능력, 인간이 아주 자연스럽게 발휘하는 이런 능력이 미래의 AI에는 특히 커다란 중요성을 갖게 될 것이다.