[마이리뷰] 행정도 과학이다

[eBook] 행정도 과학이다 - 세계 최고 혁신대학 KAIST가 제시하는 행정의 변화와 혁신
방진섭 외 지음 / 지식공감 / 2019년 9월

입법사법행정의 삼권분립에 기초한 국가권력 구조 차원의 행정에 대해서는 익숙하지만, 대학에서의 행정에 대해서는 그 가치와 깊이를 생각하지 못하고 있는 것이 현실이다. 교수와 학생을 지원하는 단순한 일로 생각할 뿐 그 속에서 대학 발전을 고뇌하고 다양한 정책을 검토조사하며 합리적인 대안과 개선방안을 만들기 위해 불철주야 노력하는 직원들의 열정과 헌신에 대해서는 제대로 알지 못하고 때로는 알면서도 애써 외면하기도 한다.이 책은 행정 특히, 글로벌 가치 창출 선도대학이라는 비전을 지향하고 있는 KAIST에서 직원들이 행정의 혁신과 변화를 도모해가는 과정과 지향가치, 발전방안 그리고 KAIST와 대학사회에 던지는 메시지를 담았다.

-알라딘 eBook <행정도 과학이다> (방진섭 외 지음) 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

배럿 연구진은 감정 추론을 자동화할 수 있다는 AI 기업들의 주장에 비판적이었다. ‘이를테면 기술 기업들은 그런 공통된 견해를 마치 과학적으로 탄탄하게 뒷받침되는 사실로 착각한 채 얼굴에서 감정을 읽는 기기를 개발하려고 수백만 달러의 연구 자금을 쓴다. (……) 정작 우리가 과학적 증거를 검토했더니 특정 얼굴 움직임이 어떻게 왜 감정을 표현하는가에 대해서는 알려진 것이 거의 없었다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

분류는 작업 하부 구조 속에 끼워 넣어짐으로써 그 힘의 어느 부분도 상실하지 않으면서 상대적으로 보이지 않게 된다.’15 AI 훈련용 데이터 집합에서 이미지에 라벨을 다는 것이든 얼굴 인식으로 사람들을 추적하는 것이든 산탄을 두개골에 붓는 것이든, 분류는 권력의 행위다. - <AI 지도책> 중에서

AI 분야에서 이 현상을 볼 수 있다. 영향력이 매우 큰 인프라와 훈련 데이터 집합은 순전히 기술적인 것으로 간주되지만 실은 분류 체계 안에 정치적 개입이 들어 있다. 세계에 대한 특정 질서를 자연적인 것으로 치부함으로써 기존 질서를 정당화하는 것처럼 보이는 효과를 만들어내는 것이다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

알고리즘에 따라 정해지는 할당 시간은 한 시간 이내로 극히 짧을 수도 있고 바쁜 시간대에는 매우 길어질 수도 있는데, 언제나 이윤이 극대화되도록 결정된다. 알고리즘은 근처에서 대기하거나 출근하자마자 퇴근해야 하거나 일정을 예측할 수 없어 인생 계획을 짜지 못해 발생하는 인적 비용을 고려하지 않는다. 이 시간 도둑질은 회사의 효율성을 높여주지만 직원들은 그 대가로 직접적인 손실을 입는다. - <AI 지도책> 중에서

나는 AI 시스템이 어떻게 만들어지는지를 수년간 연구하면서 수백 개의 데이터 집합을 살펴보았지만 NIST 머그샷 데이터베이스는 그중에서도 유난히 심란하다. 장차 벌어질 일의 본보기를 보여주기 때문이다. 사진 자체가 주는 엄청난 비감 때문만은 아니다. 용의자와 재소자에게는 사진 촬영을 거부할 권리가 없다는 점에서 개인정보 침해 때문만도 아니다. 내가 심란한 이유는 NIST 데이터베이스가 현재 기술 부문에 속속들이 스며 있는 논리의 출현을 예고하기 때문이다. 그것은 모든 것이 데이터이고 수집되기 위해 존재한다는 확고한 믿음이다. 사진이 어디서 찍혔는지, 취약하거나 고통받는 순간에 찍혔는지, 대상자에게 수치심을 유발하는지 등은 그들의 관심사가 아니다. 할 수만 있다면 무엇이든 수집하고 이용하는 관행이 업계 전반에 어찌나 일상화되었던지 그 이면의 정치적 성격에 의문을 제기하는 사람은 좀처럼 찾아보기 힘들다. - <AI 지도책> 중에서

대학 기반의 기관감사위원회institutional review board, IRB 같은 윤리 보호 기구들은 오랫동안 이 논리를 받아들였다.63 처음에는 일리가 있었다. IRB는 개인 피험자에게 명백한 위험이 따르는 생체의학·심리학 실험에서 흔히 쓰는 방법들에 집중하느라 여력이 없었기 때문이다. 전산학은 훨씬 추상적인 학문으로 간주되었다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

AI 시스템의 깊숙한 물질적·인간적 뿌리를 이해하는 새로운 방법을 찾는 것은 인류발 기후변화의 영향이 이미 훌쩍 진행된 역사의 지금 순간에 꼭 필요한 일이다. 하지만 말하기는 쉬워도 실천하기는 힘든 법이다. 한 가지 이유는 AI 시스템의 사슬을 이루는 많은 산업이 현실에서 발생하는 비용을 숨기기 때문이다. 게다가 인공지능 시스템을 구축하는 데 필요한 규모는 너무 복잡하고 지식재산권법 때문에 너무 모호하고 물류적·기술적 복잡성에 너무 얽혀 있어서 전모를 파악하기가 쉽지 않다. 하지만 이 책의 목표는 이 복잡한 덩어리를 투명하게 만드는 것이 아니다. 우리는 ‘내부’를 들여다보려고 애쓰기보다는 다양한 시스템을 ‘가로질러’ 연결함으로써 이것들이 서로 어떻게 연관되어 작동하는지 이해하고자 한다.76 그러므로 우리의 경로는 AI의 환경 비용과 노동 비용에 대한 이야기를 따라가며 이것을 일상생활 전반에 얽혀 있는 추출과 분류라는 맥락에 놓을 것이다. 이 문제들을 아울러 생각함으로써 우리는 더 큰 정의를 향해 노력할 수 있을 것이다 - <AI 지도책> 중에서

자동화된 시스템은 예전에 인간이 수행하던 작업을 똑같이 수행하는 것처럼 보이지만 실은 배후에서 인간 노동을 조율하는 것에 불과하다. 테일러는 패스트푸드 식당의 셀프서비스 무인 주문기와 슈퍼마켓의 무인 계산대를 예로 들며 자동화된 시스템이 직원 노동을 대체한 것처럼 보이지만 사실은 데이터 입력 노동이 유급 직원에게서 고객에게로 이전되었을 뿐이라고 말한다. - <AI 지도책> 중에서

노동자들은 같은 일을 하는 다른 노동자들과 단절될 뿐 아니라 자신의 노동 결과물로부터도 소외된 채 고용주에게 착취당할 우려가 더욱 커진다. 이 현상은 전 세계 크라우드 노동자들이 받는 급여가 극단적으로 낮은 것에서 뚜렷이 드러난다.2 - <AI 지도책> 중에서