제1차 상쇄는 흔히 1950년대의 핵무기 사용으로 이해된다."
제2차 상쇄는 1970년대와 1980년대에 추진된 비밀, 병참, 재래식 무기의 팽창이었다. 카터에 따르면 제3차 상쇄는 AI, 컴퓨터 전쟁, 로봇의 조합이어야 한다." 하지만 국가안보국이 탄탄한 감시 능력을 갖춘 것과 달리 미 군부는 미국 유수의 기술 기업들이 가진 AI 자원, 전문성, 인프라를 보유하지 못했다. 2014년 로버트 워크 국방부 부장관은 제3차 상쇄를 ‘인공지능과 자율 구동에서의 모든 발전을 활용하려는 시도로 규정했다."
_ 국가 중 - P223
궁극적으로 국방부가 원한 것은 적 전투원을 탐지하고 추적하는 자동 드론 영상 검색 엔진이었다.
_ 국가 중 - P224
질서 정연한 수확. 생산의 순환을 촉진하기 위해 밭을 가는 것처럼 말이다. 필 애그리는 이렇게 주장한 적이 있다. ‘현재의 기술은 몸을 숨긴 철학이다. 관건은 기술을 공공연히 철학적인 것으로 만드는 것이다.‘
_ 국가 중 - P245
정치학자 버지니아 유뱅크스가 ‘자동화된 불평등‘에서 밝히듯 AI 시스템이 복지국가의 일부로 운용되면 사람들에게 지원을 확대하는 수단보다는 공적 자원에 대한 접근을 감시하고 평가하고 제한하는 수단으로 주로 이용된다.
_ 국가 중 - P243
국가는 자신이 통제할 수 없고 온전히 이해하지도 못하는 기술 기업들과 계약을 맺고있으며 기술 기업들은 자신에게 적합하지 않고 미래의 어느 시점에는 책임져야 할지도 모르는 국가적 · 초국가적 기능을 떠맡고 있다.
.
_ 국가 중 - P246
국가안보국의 독특한 방법과 도구는 교실, 경찰서, 직장, 고용지원센터에 스며들었다. 이것은 막대한 투자, 사실상의 민영화, 위험과 공포를 이용한 안보 정당화가 낳은 결과다.
_ 국가 중 - P247
정확한 예측이란 세상의 복잡성을 단순화하는 것이라는 믿음은 사회에 대한 암묵적 이론을 낳았다. 그것은 잡음 속에서 신호를 찾고 무질서에서 질서를 만들어내라는것이었다.
_ 권력 중 - P252
청사진에서 보듯 인공지능 산업은 국방비와 연방 연구 기관에서 공공시설과 세금 감면, 검색 엔진을 이용하거나 이미지를 온라인에 게시하는 사람들에게서 취한 데이터와 무급 노동에 이르는 공적보조금을 받으며 팽창했다. AI는 20세기의 주요 공공사업으로 시작되었으며 무차별적으로 민영화되어 추출 피라미드의 꼭대기에 있는 극소수에게 막대한 금전적 이익을 가져다준다.
_ 권력 중 - P256
AI는 볼리비아의 소금 호수와 콩고의 광산에서 탄생하여, 크라우드 노동자들에 의해 라벨링되며 인간의 행동과 감정과 정체성을분류하려 드는 데이터 집합으로부터 구성된다. 예멘 상공에 드론을날리고 미국에서 이민자 단속을 지휘하고 전 세계에서 인간의 가치와 위험에 대한 신용 점수를 조정하는 데 이용된다. 이 중첩하는 체제와 맞서려면 AI를 광각廣角적이고 다 규모적인 관점에서 바라보아야 한다.
_ 권력 중 - P258
한때 정보기관의 면죄부이던 ‘모조리 수집하라‘ 사고방식은 이제 정상으로 뿐아니라 규범으로 취급받으며, 가능할 때마다 데이터를 수집하지 않는 것이야말로 낭비로 치부된다.
_ 권력 중 - P260
AI는 체계화할 수 없는 것을 체계화하고, 사회적인 것을 규격화하고, 무한히 복잡하고 변화하는 우주를 기계가 읽을 수 있는 린네식 질서로 바꾸려 든다.
_ 권력 중 - P262
기술 부문을 평가할 때가 왔다. 지금껏 업계의 통상적 반응은AI 윤리 원칙에 서명하는 것이었다. 유럽 의회 의원 마리트 스하커에 따르면 2019년에 AI 윤리 규정은 유럽에서만 128건에 이르렀다. 이 문서들은 종종 AI 윤리에 대한 ‘폭넓은 합의‘의 산물로 제시된다. 하지만 이중 압도적 다수는 경제적으로 발전한 나라들에서제정되며 아프리카, 남아메리카, 중앙아메리카, 중앙아시아를 대변하는 일은 거의 없다. AI 시스템으로 인해 가장 큰 피해를 입는 사람들의 목소리는 이 규정들을 제정하는 과정에서 누락되는 경우가 태반이다.
_ 권력 중 - P264
무엇이 관건인지를 이해하려면 윤리보다는 권력에 더 초점을 맞춰야 한다. AI는 최적화를 위해 동원된 권력 형태를 증폭하고 재생산하도록 어김없이 설계된다. 여기에 맞서려면 가장 큰 피해를 입는 공동체의 이익을 중심에 놓아야 한다. 기업 창업자, 벤처 투자가, 기술 예측 전문가를 찬미하는 것이 아니라 AI 시스템에 의해 권력을 박탈당하고 차별당하고 피해를 당하는 사람들의 생생한 경험에서 출발해야 한다. 누군가가 ‘AI 윤리‘를 입에 올리면 광부, 도급업자, 크라우드 노동자의 노동 여건을 떠올려야 한다. ‘최적화‘라는말을 들으면 이것이 이민자를 비인도적으로 처우하는 수단이 아닌지 물어야 한다. ‘대규모 자동화‘가 칭송받으면 지구가 이미 극심한 스트레스를 받고 있는 시대에 자동화로 인해 생겨나는 탄소발자국을 명심해야 한다. 이 모든 시스템을 아울러 정의를 추구한다는 것은 어떤 의미일까?
_ 권력 중 - P265
|