빅 나인

빅 나인 - 9개의 거대기업이 인류의 미래를 지배한다
에이미 웹 지음, 채인택 옮김 / 토트 / 2019년 12월

G- MAFIA + BAT

구글, 마이크로소프트, 아마존, 페이스북, IBM, 애플 + 바이두, 알리바바, 텐센트

이 9개의 거대 기업은 인공지능 뿐만 아니라 전세계 IT 업계에서 상위 9개 회사일 것이다.

중국과 미국의 환경에 따라 업체들과 정부사이의 관계가 다르고 만주주의와 공산당에 대한 협조 등의 차이로 발전의 속도나 사업의 영역, 규모는 다르다.

1. AI가 무엇인지 그리고 빅 나인이 AI 개발과 발전에 어떤 역할을 했는지

2. AI가 발전함에 따라 구축되는 50년 뒤의 미래에 대한 이야기(낙관적 시나리오, 실용적 시나리오, 피국적 시나리오)

3. 시나리오에서 확인된 모든 문제에 대해 전술적이고 전략적인 솔루션 제안

생각 하는 기계를 만들 수 있을까?

AI는 자동결정을 해주는 시스템이다.

생각한다는 단어는 마음과 이어져 있다.

이 장에서는 기계장치의 발생, 인간의 행위를 대신하는 기계, AI의 발달 과정과 진보에 대한 얘기를 하고 있다.

제로가 입증한 것은, 이 알고리즘이 그동안 AI 시스템을 제어해 왔던 인간 없이도 스스로 학습할 수 있는 능력을 갖췄다는 사실이다.

기계는 생각할 수 있다.

아인슈타인이 천재라는 점에 모두 동의하지만, 그 당시 담당교사들은 지능이 낮다고 여겼다. 강력한 사고력을 측정할 수 있는 의미 있는 방법이 없었다. AI도 마찬가지다.

기계도 창조주가 있다. 그 들은 AI의 새로운 신인데, 대부분 남성이고, 압도적으로 미구고가 서유럽 그리고 중국에 거주하며, 어떤 점에서는 빅 나인을 연결도어 있다. AI의 영혼은 미래에 대한 그들의 통찰력이자 의도의 표편이다.

생각하는 기계는 독창적인 생각을 할 능력이 있다.

AI안에 마음이 있다. 아직 어리고 여전히 성숙하는 중이지만, 우리가 이해하지 못할 방식으로 진화하고 있는 것으로 보인다.

AI 개발자는 무엇을 하고 있는가? 그들은 단일 업무를 인간과 대등하게 또는 더 잘할 수 있는 약 인공지능시스템을 구축한다.

빨리 실패하고 자주 실패하라.

빠르게 움직이고 낡은 것을 파괴하라.

무의식적 편견해소 계획

다양성이란 체크해야 할 또 다른 항목이다.

구글, 애플, 아마존, 페이스북, 마이크로소프트, IBM의 고위 경영층이 정확하게 모든 미국인을 대표하지 않는다. 우리 모두의 이익을 대표하는 자도 의사 결정 시스템을 개발하고 있다.

모든 개발팀은 기본적으로 같은 특성을 갖고 있다. 바로 재능이다.

개발자는 모두가 공통된 목적과 목표를 공유하고 같은 언어를 사용하며 동일한 긴장감 속에서 근무한다.

동일한 가치와 아이디어, 목적을 공유한 현재의 개발자 그룹 덕분에 비슷한 급진적 변화를 겪게되었다.

현대 AI 비즈니스 진앙은 실리콘밸리, 베이징 항저우 그리고 선전이지만, 대학이야말로 AI 개발자 그룹의 원동력이다.

개발자 그룹은 기술을 요구한다.

기술은 경험에 의거해 교육됨.

AI에 의해 제기된 윤리 강좌가 개설되었다.

미국 공학기술 인증원의 인증을 받으려면 학생은 “전문적, 윤리적, 법률적, 보안과 사회 이슈 그리고 책임감”과 “컴퓨팅이 개인과 조직 그리고 사회에 미치는 지역과 글로벌 충격을 분석하는 능력”을 갖추고 있음을 보여주어야 한다.

대학은 강력한 학생 취업 실적을 보여주길 원하며, 고용주는 졸업색이 뛰어난 기술을 갖추길 바란다. 빅 나인과 파트너는 이런 대학과 함께하며 대학은 이들에게 자금 조달과 자원을 의존한다.

AI 분야에서 일하는 여성과 유색인종은 수없이 많다. 하지만 그들의 비율은 인구 비율에 비해 엄청나게 낮다.

중국 어린이 들이 AI 기술을 소학에서 배우기 시작한다. BAT

바이두가(B) 대화형 AI 플랫폼과 휴대형 단말기 그리고 자율주행 프로그램에 다른 AI 프레임 워크까지 시작하였다.

알리바바(A) 그룹은 단일 플랫폼 대신 웹사이트의 대량 네트워크를 통해 판매자와 생산자의 연결자 역할을 하는 대량플랫폼이다.

텐센트는(T) 인스턴트 메신져와 facebook 특성과 기술을 모사한 위챗을 내놨다. AI를 의약품에 적용하는 데 초점을 맞추고 있다.

BAT의 재능 파이프라인은 AI의 북미대학 허브를 포함하며, 아이들의 덧셈과 뺄셈을 시작하는 나이에 AI 교육도 시작한다는 것이다.

중국은 어떤 평가 방법으로도 전 세계 최대인 디지털 시장을 보유하고 있다.

중국에서 자본 투자의 대가로 지적 소유권을 요구하는 것은 정부에 대한 조직적인 협력의 일부다. 가까운 미래에 세계를 지배한다는 분명한 비전을 갖고 있다. 그래서 AI를 그 목표로 가는 통로로 여긴다.

일대일로 불리는 장기 계획, 68개국에서 1년에 1500억 달러를 쓰면서 도로, 고속철, 교량, 항만 같은 인프라를 업그레이드하고있다. 이 나라 중 한나라도 중국이 휘두르는 정책과 경제적 영향력에서 벗어나기 어려울 것이다.

중국 경제는 빠른 걸음으로 성장해 왔으며, AI의 급속한 발전은 중국의 상승세를 더욱 촉진한다.

중국은 AI 분야의 발전과 경제적 자극을 자국 군사 분야를 현대화하는 지렛대로 삼고, 이를 서방 국가에 대한 이점으로 활용할 것이다.

만일 경제와 군사적인 이점과 관련 있는 게 아니라면 사생활에 대한 중국의 견해가 문제가 될 것이다. 중국의 방식이 하나의 모델이 될 것이고, 이는 시장과 교역 그리고 지정학적 균형을 불안정하게 할 것이다.

국가 수준의 감시는 BAT에 의해 가능해졌는데, 이들은 중국의 다양한 제도와 산업 정책을 통해 점점 대담해졌다.

국가 사회 신용 점수 시스템 – 미국의 글로벌 경제 형성을 총체적으로 통제하려는 것이고, 일대일로 파트너에게 영향을 끼치기 시작하면서 기본적인 수출품의 하나가 되었다.

천인 계획 – 연구자들을 중국으로 데려오겠다는 것. 서방으로부터 미래에 경쟁할 능력을 빼앗아 가는 것.

G-MAFIA - 미국에 기반을 둔 빅 나인은 창의력이 풍부하고, 혁신적이며, AI의 진보에 기여했다.

정부에 영향력을 발휘하는데 이는 부분적으로 미국의 시장경제 체제 때문이고, 힘센 정부가 비즈니스를 통제하는 데 대한 강한 문화적 거부감 때문이다.

하드웨어 자체는 독점적이고 서비스에는 구독료가 든다.

AI 개발지의 기본 정신 - 먼저 만들고 나중에 용서를 구하라.

우리는 서비스를 받는 대가로 지속적인 감시에 동의한다. 이를 통해 G-MAFIA는 수익을 창출할 수 있으므로, 우리에게 제공하는 서비스를 개선하고 발전시킬 수 있다.

중국의 BAT와 미국의 G-MAFIA가 AI의 미래를 좌우할 도구와 환경을 개발하고 있다.

어느 날 AI가 개발도어 인류가 파괴될 것이라 주장하는 수많은 이야기와 달리, AI 기술이 발달되어 악용되는 경우가 생기더라도 실제로 개인이 맞닥뜨리게 될 문제는 거의 없을 것이다.

종이에 손가락이 베이는 것처럼 사소한 타격이 점진적으로 쌓이는 경험을 하게 될 것이다. 우리는 상처를 안고 살아갈 수 있는 다른 방법을 찾아야 한다. 상처를 인지하고 제약을 두고 살아가는 방법이 그 하나이고, 제약은 없지만 매순간 고통을 느끼며 살아가는 방법이 다른 하나라고 할 수 있다.

AI 기계와 평범한 인간 사이에는 이미 우려되는 결과를 불어올 만한 격차가 생겼다.

빅 나인의 모든 가치와 운영 원리에 관한 벤다이어그램을 그리면 공통적이며 중점적인 부분을 파악할 수 있다. 모두 팀워크를 통해 전문적으로 개선점을 찾고, 고객의 일상에서 없어서는 안될 만큼 뛰어난 제품과 서비스를 제공하기 위해 노력하며, 기업의 주주에게 결과물을 전달하기 위해 노력한다. 모두 신뢰를 중요시한다.

AI 개발하는 기업은 개발 과정에서 인류의 보편적인 가치를 우선순위로 삼지 않는다.

콘웨이 법칙 - 시스템은 그 것을 설계한 사람의 가치를 반영하는 경향이 있다. AI에도 적용된다.

AI는 인간의 두뇌에서 영감을 얻어 탄생했지만, 결정과 선택을 할 때 인간과 차이가 있다.

우리의 뇌는 특정한 고정관념을 가지기 쉽다. 우리는 의사 결정을 완전히 통제할 수 있다고 생각하지만 무의식중에 자동으로 결정되는 것이 많다.

오늘 날 AI 시스템은 최적화되었다. 여기서 최적화라는 단어에 포함된 의미는 예측 불가능한 상황-인간이 판단할 수 없는-에서의 빠른 결정이 가능하다는 것이다.

딥페이션트는 어떻게 시스템이 작동되는지 정확히 알지 못했다. 아무런 근거나 설명없는 AI의 결정을 따르는 것이 쉬웠을까?

우리는 AI에 대한 투명성을 적극적으로 요구하지 않는데, 그 이유는 아직까지 기계가 인간을 흉내 내는 수준처럼 보이기 때문이다.

상용화된 AI 애플리케이션은 질문이나 투명성이 아닌 최적화된 결정을 내리기 위해 설계된다.

최적화 효과는 때때로 영리한 AI 개발자가 우둔한 결정을 하게 한다.

최적화 효과는 AI 시스템 내의 결함을 초래한다. 완벽이 목적이 아니기 때문에 때때로 AI시스템은 ‘사스템 상의 결함’으로 보이는 것에 근거하여 결정을 내린다.

최적화 효과는 AI 연구자의 목표인 예측 불가능한 방식으로 행동학 것이라는 의미지만 실제 데이터를 사용할 경우 참담한 결과를 초래할 수 있다. 우리 자신의 단점을 강조한다.

AI가 인간의 행동을 해석하고 반응을 자동화하는 것은 매우 복잡한 일이다.

AI의 가치 공유 시스템을 만드는 것은 어렵다. 인간의 가치는 정치 운동이나 경제 세력 같은 다른 오부 요인에 반응하여 변하는 경향이 있다.

AI는 완벽한 결정을 내리도록 교육 받은 것이 아니라 오히려 최적화하도록 교육받고 있기 때문에 사회의 변화하는 세력에 대한 우리의 대응은 매우 중요하다.

AI에 대한 계명을 만들 방법은 없다 기계가 빠르고 강력하면서도 유연성이 부족하기 때문이다. 우리는 시스템을 구축하는 사람들에게 주의를 집중해야 안다.

현재 AI의 발달로 자동화 및 효율성이 우선시되고 있는데, 이는 우리의 수천 가지 일상에 대한 통제와 선택의 폭이 그만큼 작다는 것을 의미한다.

AI의 잠재적 영향을 분석하는 것은 인간 사회가 어디로 가는지 결정하는 것과 다를 바 없다.

경고1. 우리는 AI를 지도 원칙이나 장기적인 계획 없이 인터넷과 유사한 디지털 플랫폼처럼 잘못 취급한다

수많은 똑똑한 사람이 공공의 이익을 위해 AI를 옹호하지만 우리는 아직 AI를 공공재로 논의하지 않고 있다. 이는 실수다.

경고2. AI는 장벽이 거의 없는 열린 생태계로 보고 있음에도 AI는 소수의 사람 사이에만 빠르게 전력을 집중하고 있다.

힘의 집중에는 이유가 있다. AI를 현재 상태로 만드는 데 수십년의 연구 개발과 투자가 필요했기 때문이다.

발생하기도 전에 잠재적인 위기와 기회에 마리를 싸매기는 어렵다.

우리는 적극적으로 경고표시를 찾고 AI의 궤적에 대한 대체적인 이야기를 만들어 위험을 예측하고, 희망적으로 재앙을 피할 수 있도록 도와야 한다.

우리의 지적 능력이 향상되는 것에 맞춰 AI도 그렇게 될 것이다.

우리는 우리가 보는 것을 해석하고, 여러 가지 선택 중에서 가장 실행 가능한 것을 선택한다. 우리 모두 AI에 대해 선택권을 가진다.

GAIA는 개인적인 자유와 더 큰 글로벌 선과 균형을 이루는 권리의 프레임워크를 고려해야 한다. 모든 프레임워큰 15가지 원칙을 포함해야 한다.(p288~291)

GAIA는 회원국 정부와 협력해야 한다. 정부는 협력과 장기적인 계획에 참여하여야 하며 AI의 미래에 민첩하게 대응할 태세를 갖춰야 한다.

AI는 용기있는 리더십을 요구한다.

규제는 한동안 인류의 걱정을 덜어줄 수 있지만 궁극적으로 미래에 더 큰 피해를 입힐 것이다.

빅 나인 최소한 G-MAFIA가 새로운 훈련 세트를 만드는 비용을 분담하는 것.

박 나인은 우리의 데이터가 필요하다. 하지만 그들은 우리의 신뢰를 얻어야 한다.

빅 나인은 냉철한 연구 의제를 추구해야 한다,

빅 나이는 학자와 훈련된 윤리학자, 리스크 분석가를 고용해 AI의 윤리를 뒷받침하는 문화를 구축할 수 있다

빅나인은 AI 근로자를 위한 행동 강령을 개발해야 한다.

만약 정보가 예상과 달리 사용되고 저장된다면 과감히 얘플리케이션 사용을 중단해야 한다.

AI와 장가적인 계획에 대해 보다 신중한 정책을 갖고 있는 후보자에게 투표해야 한다.

AI 시스템이 인류에 치명적일 수도 있다는 것을 경험하게 될 것이다.

빅 나인은 악당이 아니다.

사실 그들은 위리가 가진 최고이자 최선의 희망이다.

이 리뷰는 문화충전 200% 서평이벤트의 지원을 받아 작성하였습니다.

감사합니다.