[마이리뷰] 기억의 뇌과학

[전자책] 기억의 뇌과학 - 인간의 기억은 어떻게 만들어지고 사라지는가
리사 제노바 지음, 윤승희 옮김 / 웅진지식하우스 / 2022년 4월

우리의 할 일은 기억을 완벽하게 만드는 것이 아니라 불완전한 기억마저 너른 마음으로 사랑하는 일이 아닐까. 서로 조금씩 다를지라도 끝내 아름다운 기억의 오케스트라가 되는 우리 삶은 불완전하기에 더욱 애틋하고 눈부시다. - <기억의 뇌과학> 중에서

[마이리뷰] 행정도 과학이다

[전자책] 행정도 과학이다 - 세계 최고 혁신대학 KAIST가 제시하는 행정의 변화와 혁신
방진섭 외 지음 / 지식공감 / 2019년 9월

입법사법행정의 삼권분립에 기초한 국가권력 구조 차원의 행정에 대해서는 익숙하지만, 대학에서의 행정에 대해서는 그 가치와 깊이를 생각하지 못하고 있는 것이 현실이다. 교수와 학생을 지원하는 단순한 일로 생각할 뿐 그 속에서 대학 발전을 고뇌하고 다양한 정책을 검토조사하며 합리적인 대안과 개선방안을 만들기 위해 불철주야 노력하는 직원들의 열정과 헌신에 대해서는 제대로 알지 못하고 때로는 알면서도 애써 외면하기도 한다.이 책은 행정 특히, 글로벌 가치 창출 선도대학이라는 비전을 지향하고 있는 KAIST에서 직원들이 행정의 혁신과 변화를 도모해가는 과정과 지향가치, 발전방안 그리고 KAIST와 대학사회에 던지는 메시지를 담았다.

-알라딘 eBook <행정도 과학이다> (방진섭 외 지음) 중에서

[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

배럿 연구진은 감정 추론을 자동화할 수 있다는 AI 기업들의 주장에 비판적이었다. ‘이를테면 기술 기업들은 그런 공통된 견해를 마치 과학적으로 탄탄하게 뒷받침되는 사실로 착각한 채 얼굴에서 감정을 읽는 기기를 개발하려고 수백만 달러의 연구 자금을 쓴다. (……) 정작 우리가 과학적 증거를 검토했더니 특정 얼굴 움직임이 어떻게 왜 감정을 표현하는가에 대해서는 알려진 것이 거의 없었다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

분류는 작업 하부 구조 속에 끼워 넣어짐으로써 그 힘의 어느 부분도 상실하지 않으면서 상대적으로 보이지 않게 된다.’15 AI 훈련용 데이터 집합에서 이미지에 라벨을 다는 것이든 얼굴 인식으로 사람들을 추적하는 것이든 산탄을 두개골에 붓는 것이든, 분류는 권력의 행위다. - <AI 지도책> 중에서

AI 분야에서 이 현상을 볼 수 있다. 영향력이 매우 큰 인프라와 훈련 데이터 집합은 순전히 기술적인 것으로 간주되지만 실은 분류 체계 안에 정치적 개입이 들어 있다. 세계에 대한 특정 질서를 자연적인 것으로 치부함으로써 기존 질서를 정당화하는 것처럼 보이는 효과를 만들어내는 것이다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

알고리즘에 따라 정해지는 할당 시간은 한 시간 이내로 극히 짧을 수도 있고 바쁜 시간대에는 매우 길어질 수도 있는데, 언제나 이윤이 극대화되도록 결정된다. 알고리즘은 근처에서 대기하거나 출근하자마자 퇴근해야 하거나 일정을 예측할 수 없어 인생 계획을 짜지 못해 발생하는 인적 비용을 고려하지 않는다. 이 시간 도둑질은 회사의 효율성을 높여주지만 직원들은 그 대가로 직접적인 손실을 입는다. - <AI 지도책> 중에서

나는 AI 시스템이 어떻게 만들어지는지를 수년간 연구하면서 수백 개의 데이터 집합을 살펴보았지만 NIST 머그샷 데이터베이스는 그중에서도 유난히 심란하다. 장차 벌어질 일의 본보기를 보여주기 때문이다. 사진 자체가 주는 엄청난 비감 때문만은 아니다. 용의자와 재소자에게는 사진 촬영을 거부할 권리가 없다는 점에서 개인정보 침해 때문만도 아니다. 내가 심란한 이유는 NIST 데이터베이스가 현재 기술 부문에 속속들이 스며 있는 논리의 출현을 예고하기 때문이다. 그것은 모든 것이 데이터이고 수집되기 위해 존재한다는 확고한 믿음이다. 사진이 어디서 찍혔는지, 취약하거나 고통받는 순간에 찍혔는지, 대상자에게 수치심을 유발하는지 등은 그들의 관심사가 아니다. 할 수만 있다면 무엇이든 수집하고 이용하는 관행이 업계 전반에 어찌나 일상화되었던지 그 이면의 정치적 성격에 의문을 제기하는 사람은 좀처럼 찾아보기 힘들다. - <AI 지도책> 중에서

대학 기반의 기관감사위원회institutional review board, IRB 같은 윤리 보호 기구들은 오랫동안 이 논리를 받아들였다.63 처음에는 일리가 있었다. IRB는 개인 피험자에게 명백한 위험이 따르는 생체의학·심리학 실험에서 흔히 쓰는 방법들에 집중하느라 여력이 없었기 때문이다. 전산학은 훨씬 추상적인 학문으로 간주되었다. - <AI 지도책> 중에서