중앙과 지방의 목판에서 책을 찍어내고, 기증을 받고, 사들이고, 교환하고, 수입하고, 필사하는 등 모든 방법을 동원해 유희춘은 거대한 장서를 마련했다. 아마도 그는 이름이 알려진 조선시대 최초의 장서가일 것이다. 그가 장서를 구축한 방법을 살펴보면 조선 전기 사대부사회에서 서적이 어떻게 유통되고 집적되었는지를 어림해 볼 수 있다. 그는 서적 유통과 집적의 흥미로운 사례인 것이다._ 미암 유희춘의 책 모으기 중 - P129
지방의 작은 서점지기가 소개한 추천도서이다. 여성-북유럽-20세기-노동자 등 접점이 없었던 지라, 신간이 나왔을 때 스킵했었다. 특히 일기 형식의 글이라...청소노동자로서 저자의 솔직한 감정상태와 5명의 자식을 키우는 엄마로서 생각이 가감없이 소개된다. 저자가 남다른 사람처럼 보여ㅆ던 이유중 하나는 노동과 학업을 계속 이어갔다는 점이다. 부모세대나 삼촌세대(40-60년대초중반)까지 지방에서 상경한 저임금 노동자 생활을 이어갔지만, 야학이든 야간학교든 공부를 이어간 그 세대가 오버랩된다. 당연히 학업을 이어갔으니, 베트남전쟁이나 아랍전쟁등의 국제적인 정세나 전쟁상황을 고민한다. 저자를 보고 아파트 청소노동자나 경비원이 신문이나 뉴스를 보는 모습은 어찌보면 공동체를 위해 괜찮은 모습이란 생각에 이르렀다.
요즘 살다보니 Ai, deep learning, 자연어처리, 이미지콧 이런 단어들을 접하고 있다. 제안서를 쓰기위해 관련 보고서나 논문들을 검색하여 찾고 있다. 한달만에 읽었지만, 대충 읽고 쌓아두기에는 너무 아까운 책이다. 저자가 이 책을 쓰기 위해 참여하고 협력한 기관이나 학회가 얼마나 많을까 생각해본다. <인공지능의 실체>에 충분한 질문을 던져야 한다. 데이타 센터를 돌리기 위해 에너지는, 데이터 처리를 위해 라벨링을 위한 저임금 노동을, 필요한 희유광물은 어디에서 오는지...분류의 단순함과 감정의 전제가 이끄는 관상헉의 부활은...이 책은 이 모든 정점에 국가와 플랫폼 거대기관(자본)을 주목하고 있다. 한때 유행했던 말로 ˝이익의 사유화˝와 ˝비용의 사회화˝가 가장 잘 적용되는 분야가 인공지능이 아닐까? 각자도생 사회에서, 감시되고 노출된 이런 사회에 소극적이나마 저항하는 방법은 커톡을 끊고 인스타나 페이스북에 사진이나 동영상을 올리지 않고 마스크를 쓰고 다니면서 CCTV에 안나오게 하는 방법밖에 없을까? 무심고 누르는 <동의>버튼은 그들의 학습자료로 활용되고 있다. 인공지능 시대는 정말 이대로 괜찮을까? 최소한 데이터 복잡성과 가정의 불완결성은 인공지능이 만병통치약이 아님을 가리키고 있다.
제1차 상쇄는 흔히 1950년대의 핵무기 사용으로 이해된다."제2차 상쇄는 1970년대와 1980년대에 추진된 비밀, 병참, 재래식 무기의 팽창이었다. 카터에 따르면 제3차 상쇄는 AI, 컴퓨터 전쟁, 로봇의 조합이어야 한다." 하지만 국가안보국이 탄탄한 감시 능력을 갖춘 것과 달리 미 군부는 미국 유수의 기술 기업들이 가진 AI 자원, 전문성, 인프라를 보유하지 못했다. 2014년 로버트 워크 국방부 부장관은 제3차 상쇄를 ‘인공지능과 자율 구동에서의 모든 발전을 활용하려는 시도로 규정했다."_ 국가 중 - P223
궁극적으로 국방부가 원한 것은 적 전투원을 탐지하고 추적하는 자동 드론 영상 검색 엔진이었다._ 국가 중 - P224
질서 정연한 수확. 생산의 순환을 촉진하기 위해 밭을 가는 것처럼 말이다. 필 애그리는 이렇게 주장한 적이 있다. ‘현재의 기술은 몸을 숨긴 철학이다. 관건은 기술을 공공연히 철학적인 것으로 만드는 것이다.‘_ 국가 중 - P245
정치학자 버지니아 유뱅크스가 ‘자동화된 불평등‘에서 밝히듯 AI 시스템이 복지국가의 일부로 운용되면 사람들에게 지원을 확대하는 수단보다는 공적 자원에 대한 접근을 감시하고 평가하고 제한하는 수단으로 주로 이용된다._ 국가 중 - P243
국가는 자신이 통제할 수 없고 온전히 이해하지도 못하는 기술 기업들과 계약을 맺고있으며 기술 기업들은 자신에게 적합하지 않고 미래의 어느 시점에는 책임져야 할지도 모르는 국가적 · 초국가적 기능을 떠맡고 있다.._ 국가 중 - P246
국가안보국의 독특한 방법과 도구는 교실, 경찰서, 직장, 고용지원센터에 스며들었다. 이것은 막대한 투자, 사실상의 민영화, 위험과 공포를 이용한 안보 정당화가 낳은 결과다. _ 국가 중 - P247
정확한 예측이란 세상의 복잡성을 단순화하는 것이라는 믿음은 사회에 대한 암묵적 이론을 낳았다. 그것은 잡음 속에서 신호를 찾고 무질서에서 질서를 만들어내라는것이었다._ 권력 중 - P252
청사진에서 보듯 인공지능 산업은 국방비와 연방 연구 기관에서 공공시설과 세금 감면, 검색 엔진을 이용하거나 이미지를 온라인에 게시하는 사람들에게서 취한 데이터와 무급 노동에 이르는 공적보조금을 받으며 팽창했다. AI는 20세기의 주요 공공사업으로 시작되었으며 무차별적으로 민영화되어 추출 피라미드의 꼭대기에 있는 극소수에게 막대한 금전적 이익을 가져다준다._ 권력 중 - P256
AI는 볼리비아의 소금 호수와 콩고의 광산에서 탄생하여, 크라우드 노동자들에 의해 라벨링되며 인간의 행동과 감정과 정체성을분류하려 드는 데이터 집합으로부터 구성된다. 예멘 상공에 드론을날리고 미국에서 이민자 단속을 지휘하고 전 세계에서 인간의 가치와 위험에 대한 신용 점수를 조정하는 데 이용된다. 이 중첩하는 체제와 맞서려면 AI를 광각廣角적이고 다 규모적인 관점에서 바라보아야 한다._ 권력 중 - P258
한때 정보기관의 면죄부이던 ‘모조리 수집하라‘ 사고방식은 이제 정상으로 뿐아니라 규범으로 취급받으며, 가능할 때마다 데이터를 수집하지 않는 것이야말로 낭비로 치부된다._ 권력 중 - P260
AI는 체계화할 수 없는 것을 체계화하고, 사회적인 것을 규격화하고, 무한히 복잡하고 변화하는 우주를 기계가 읽을 수 있는 린네식 질서로 바꾸려 든다. _ 권력 중 - P262
기술 부문을 평가할 때가 왔다. 지금껏 업계의 통상적 반응은AI 윤리 원칙에 서명하는 것이었다. 유럽 의회 의원 마리트 스하커에 따르면 2019년에 AI 윤리 규정은 유럽에서만 128건에 이르렀다. 이 문서들은 종종 AI 윤리에 대한 ‘폭넓은 합의‘의 산물로 제시된다. 하지만 이중 압도적 다수는 경제적으로 발전한 나라들에서제정되며 아프리카, 남아메리카, 중앙아메리카, 중앙아시아를 대변하는 일은 거의 없다. AI 시스템으로 인해 가장 큰 피해를 입는 사람들의 목소리는 이 규정들을 제정하는 과정에서 누락되는 경우가 태반이다. _ 권력 중 - P264
무엇이 관건인지를 이해하려면 윤리보다는 권력에 더 초점을 맞춰야 한다. AI는 최적화를 위해 동원된 권력 형태를 증폭하고 재생산하도록 어김없이 설계된다. 여기에 맞서려면 가장 큰 피해를 입는 공동체의 이익을 중심에 놓아야 한다. 기업 창업자, 벤처 투자가, 기술 예측 전문가를 찬미하는 것이 아니라 AI 시스템에 의해 권력을 박탈당하고 차별당하고 피해를 당하는 사람들의 생생한 경험에서 출발해야 한다. 누군가가 ‘AI 윤리‘를 입에 올리면 광부, 도급업자, 크라우드 노동자의 노동 여건을 떠올려야 한다. ‘최적화‘라는말을 들으면 이것이 이민자를 비인도적으로 처우하는 수단이 아닌지 물어야 한다. ‘대규모 자동화‘가 칭송받으면 지구가 이미 극심한 스트레스를 받고 있는 시대에 자동화로 인해 생겨나는 탄소발자국을 명심해야 한다. 이 모든 시스템을 아울러 정의를 추구한다는 것은 어떤 의미일까?_ 권력 중 - P265
계몽주의가 자본주의의 씨앗이었다면 상업혁명과 그에 뒤따른 가격혁명은 씨앗을 움트게 한 햇살이었다. 15세기말 아메리카와인도 항로가 발견되면서 아시아와 아프리카, 아메리카와 유럽 사이의교역이 크게 확대되었다. 기존 지중해 지역으로 국한되었던 상업 활동이 전 대륙에서 이뤄지는 글로벌 무역으로 진보한 것이다. 이런 상업의 규모와 체제의 대변혁을 ‘상업혁명‘이라 부른다._ 산업자본주의, 부르주아와 ‘베토벤들‘을 낳다 중 - P28
노동과 자본의 확충 못지않게 중요한 요인은 생산성의 산정 기준이 되는 기술혁신이다. 영국에서 산업혁명이 처음 등장했다는 것은 산업혁명의 기초가 되는 기술혁신이 가장 활발했다는 뜻이다. _ 산업자본주의, 부르조아와 ‘베토벤들‘을 낳다 중 - P33
영국 면공업은 정부의 적극적 후원으로 수출시장에서 승리를 거두었는데, 제국주의적 지배라는 방법을 통해 독점적 지위를 확보한 탓이다. 여기에 더해 엘리자베스 1세 Elizabeth I, 1533~1603로 대표되는 정치적 안정성, 세계 최강의 해군력을보유하고 있다는 이점은 영국이 산업혁명의 길로 나아가게 한 원동력이었고, 이는 곧 영국의 세계 독점으로 이어졌다._ 산업자본주의, 부르조아와 ‘베토벤들‘을 낳다 중 - P35