인공지능의 현황 및 정치적 위험성

T-Minus AI: Humanity's Countdown to Artificial Intelligence and the New Pursuit of Global Power (Hardcover)
Michael Kanaan / Benbella Books / 2020년 8월

인공지능(artificial intelligence, AI)의 역사와 현재 그리고 정치적 남용에 대해 경고하는 글이다. 전체 구성은 이렇다: 1부는 대략 컴퓨터의 역사, 2부는 AI의 역사 및 현황, 3부는 AI의 정치적 함의 및 위협, 특히 권위주의 정권(ex. 중국)이 어떻게 AI를 남용하고 있는지에 대한 설명과 민주주의 국가에서 어떻게 AI 정책을 세우고 있는지에 대한 논의이다. 컴퓨터의 역사부터 시작해서 정리해주니 좋기는 한데, 사실 AI 자체에 대해 알고 싶으면 2부만, 또는 2부의 9장만 읽으면 될 것 같다.

책을 통해 내가 알고 싶은 인공지능에 대한 궁금증을 해소한 부분은 다음과 같다.

1. 의식(consciousness)과 지능(intelligence)은 다르다. 인공지능은 의식과는 아무런 상관 없이 의도한 업무를 인간보다 훨씬 빨리 할 수 있다. 원문을 인용하면 "In this new world of ours, intelligence and consciousness are not interdependent." (6장, p. 66)

2. 현재 급격한 진보를 이루고 있는 AI는 의도한 특정한 업무만을 잘 할 수 있으며, 인간과 같이 모든 영역에서 판단을 내릴 수 있는 범용 인공지능(artificial general intelligence, AGI)이나 모든 영역에서 인간을 초월하는 초지능(superintelligence)은 앞으로 새로운 돌파구가 생기지 않는 한 나타날 가능성이 없다(9장의 내용). 한 마디로, <터미네이터>는 (현재로서는) 영화일 뿐이다. 특정한 업무만을 하는 현재의 인공지능을 좁은(narrow)[또는 약한(weak)] AI, 범용 인공지능이나 초지능을 강한(strong) AI라고 한다. 인류의 인공지능에 대한 두려움은 강한 AI에 대한 것이다.

(약한) AI는 이미 널리 사용되고 있으며, 앞으로도 지속적으로 그 적용 범위가 확대될 것이다. 민주주의 국가는 개인의 자유와 프라이버시를 보호하기 위해 노력하겠지만, 이러한 서구적 가치를 공유하지 않는 독재 또는 권위주의 국가는 이미 개인의 자유를 침해하는 수준으로 AI를 남용하고 있다. 이러한 인권 침해적 AI 알고리즘의 타국으로의 수출에 대해 저자는 주의를 촉구하는데, 사실 쉽지 않은 문제라는 생각이 든다. 예컨대 저자의 주장을 해석해서 적용하면, 중국에서 만든 앱은 사용하면 안 된다. 의문의 해소와 또 다른 과제를 받은 느낌으로 독서를 마쳤다.

<파란하늘 빨간지구> 밑줄 긋기

   우리는 살아가기에 적합한 환경이 먼저 조성되어야 그곳에서 생명체가 살 수 있다고 생각한다. 하지만 지구가 겪어온 과정을 보면 남세균처럼 생명체가 직접 적합한 환경을 만들어내기도 한다. 즉, 생명체와 환경이 함께 진화하는 것이다. 그러므로 지구환경이 지속할 수 있으려면 그 안에 사는 생명체도 건강해야 한다. 아무리 하찮아 보이는 생명체라도 함부로 다루어서는 안 되는 이유가 여기에 있다. 

   탄생한 생명체가 번성하려면 기후가 안정되어야 했다. 달이 그 역할을 했다. 화성과 비슷한 크기의 원시 행성이 원시 지구와 충돌했으며, 그 과정에서 달이 만들어졌다. 달이 세차운동이라고 부르는 지구 자전축의 흔들림을 안정시켰다. 혼자 뱅글뱅글 도는 사람이 있고 손잡고 함께 도는 사람이 있을 때, 둘 중 누가 더 안정적일까? 달과 지구가 그런 셈이다. 만일 달이 없었다면, 지구 자전축의 변화가 지금보다 더 커서 날씨 변화가 극심했을 것이다. 극심하게 변하는 기후에서는 인류 문명이 탄생하기 어려웠을 것이다. 

   ...

   대충돌이 지구 자전축을 기울어지게 만들었고, 그 덕분에 계절이 생겼다. 지구 자전축이 기울어지지 않고 공전 면과 수직이라면 지구 어디서든 밤낮 길이는 12시간으로 똑같다. 그랬다면 계절 변화가 없었을 것이고, 적도 지역은 더 뜨겁고 북극과 남극 지역은 더 추운 기후가 되었을 것이다. 자전축이 지금보다 더 기울어졌다면, 적도 부근을 제외한 대부분의 지역이 지금보다 심한 계절 변동을 겪을 것이다. 중위도에서 봄과 가을은 거의 없어지고 길고 극심한 여름과 겨울만이 있었을 것이다. (20~21 페이지)

   2만 년 전에서 1만 년 전까지 대기 중에서 약 100ppm의 이산화탄소가 상승하면서 10만 년 가까이 이어지던 마지막 빙하기가 끝났다. 그 후 산업혁명이 시작된 1750년대까지 대기 중 이산화탄소 농도는 280ppm을 유지했다. 하지만 인간이 화석연료를 사용하면서 대기 중 이산화탄소 농도가 300년도 안 되는 사이에 125ppm이나 급격하게 치솟았다. 이는 오늘날 인간이 지구에 미치는 영향이 어느 정도인지를 명백하게 보여준다. (30 페이지)

   인류는 생태계에서 한구석을 차지하고 있을 뿐이지만 이제는 그 구석이 너무 커져 전체를 왜곡하고 있다. 인간 활동은 태양에너지 변화, 화산 분출, 빙하 주기와 지각판 운동보다 더 큰 크기의 속도로 지구에 영향을 준다. 지구시스템에 미치는 인간의 영향력이 자연의 힘을 능가하는 새로운 시대에 들어셨다 (54 페이지)

[100자평] 시간이란 무엇인가?

시간이란 무엇인가? - 최신 과학으로 시간의 정체를 밝힌다!, 완전 개정판 ㅣ 뉴턴 하이라이트 Newton Highlight 134
일본 뉴턴프레스 엮음 / 아이뉴턴(뉴턴코리아) / 2019년 12월

2019년 발행된 완전 개정판인데, 이전 판과 달리 생물학적 시간을 제일 앞에서 소개하고 있다. 스몰린과의 인터뷰가 있어서 반갑지만, 개정하며 빠진 내용 중 아쉬운 것도 있다. 파인만의 관점에 따르면 반물질이 시간을 역행하는 물질이라고 생각할 수 있다는 흥미로운 내용이 빠졌다.

영화 <사랑에 대한 모든 것The Theory of Everything>

스티븐 호킹의 일생을 그린 <The Theory of Everything사랑에 대한 모든 것>(2014년 작)을 봤다. 기대보다 훨씬 좋았다. (알라딘의 DVD나 Bluray 상품을 넣으려고 했는데, 검색되는 것이 없다.)

호킹 역을 맡은 에디 레드메인이 아카데미 남우주연상을 받았는데, 받을 만하다는 생각이 든다. 우리말 제목이 <사랑에 대한 모든 것>인데, 왜 이렇게 지었는지도 이해가 간다.

영화가 사실에 바탕을 둔 것은 맞지만, 당연히, 극화를 위해 생략, 미화, 왜곡된 것들이 있다고 한다. 실제 호킹과는 좀 다를지라도, 호킹과 그의 아내가 맞서 싸운 어려움, 그리고 그의 주변인물들을 좀 더 이해할 수 있었다. 호킹의 삶은 뛰어난 과학자로서뿐만 아니라 역경을 극복한 인간으로서 모범이 될 만하다. 과학자 호킹 뿐만 아니라 '사랑'에 관해 알고 싶은 이들에게 추천한다.

다음은 호킹의 사후에 출간된, 그의 마지막 저서라고 일컬어지는 책이다. 호킹의 강연, 인터뷰, 에세이 등의 내용을 편집했다(왼쪽부터 국문판, 미국판, 영국판이다).

그의 메가 히트 <시간의 역사A Brief History of Time>를 읽고 싶어졌다.

맥스웰과 패러데이, 그리고 ‘장field‘의 탄생

Faraday, Maxwell, and the Electromagnetic Field: How Two Men Revolutionized Physics (Hardcover)
Nancy Forbes / Prometheus Books / 2014년 3월

맥스웰과 패러데이의 일생을 따라가며, 이들이 어떻게 '장'의 개념을 생각해 내고 발전시켰는지를 살펴본다. 둘 다 대단한 인품과 지력의 소유자였다는 생각이 든다. 그리고 이들 둘은 결국 새로운 과학을 만들었다. 현대 물리학의 모든 것이 패러데이와 맥스웰이 만들고 발전시킨 전자기장에 뿌리를 두고 있다. 우리 삶의 이기(利器)들 대부분 역시 마찬가지이다. 혜택을 받은 인류의 한 사람으로서, 두 분에게 경의를 표한다.

In short, not only our communications but also almost our whole way of life has come to depend on technology that exploits the electromagnetic field--a feature of the physical world that was undreamed of until it was first envisaged by Faraday, then elucidated by Maxwell. (p. 261)

The notion of the field has been the portal to the great discoveries of modern physics, leading us to profound questions about the ultimate nature of the universe at scales of huge energy and infinitesimally small length that even far-seeing Maxwell could never have imagined. (p. 271)