인공지능 파놉티콘

인공지능 파놉티콘 - 기술 독재와 감시 권력에 저항하는 상상과 실천
홍성욱 지음 / 김영사 / 2026년 4월

파놉티콘은 푸코의 감시와 처벌에서 처음 알게 되었었다. 감옥을 위해 디자인된 파놉티콘이 사회 전반의 통제와 규율의 원리로 확산되었다는 것이다. 20세기 초 작업장의 통제는 눈으로 보는 감시에서 작업을 기계로 대체하고, 탈 숙련하고, 작업에 대한 실시간의 정보를 수집하고, 작업자 개개인에 대한 정보관리를 강화하고, 이를 과학적으로 분석하는 방법으로 바뀌었다. 이것이 바로 정보 파놉티콘이다.

6장의 인공지능과 빅데이터 시대의 감시를 읽으면서 데이터의 수집과 처리, 이 수집된 데이터로 어떻게 여론을 움직일 수 있는지 등을 볼 수 있다. 또한 데이터 수집의 윤리와 책임 규제의 필요성도 제기한다.

철학자 한병철의 담론의 회복에 관한 얘기가 인상 깊었다. 담론이란 서성거리고 타인의 의견을 경청하며 자신의 확신을 되돌아보는 과정인데, 우리는 타인의 생각을 수용하며 그 속에서 우리의 의견을 형성해야 한다. 지금 AI 시대에 가장 중요한 것이 아니겠느냐는 생각이 든다.

중국의 사회 신용 시스템을 바라보는 관점은 차이를 보이지만, 극히 중국적인 방식이라는 저자의 의견이다. 전체주의 국가에서만 할 수 있는 특별한 시스템이라고 하지만 이런 시스템이 세계적으로 확대되어 간다면 빅브라더 그 자체가 아닐까? 라는 생각이 든다.

책을 읽는 내내 인공지능 시대에 가장 중요한 건 무엇일지 생각했다. 검색어 하나로 시작해서 관련 사이트가 메인에 뜨고 광고에 연결되는 것을 보면서, 스스로 데이터 수집에 관해 제대로 알고 대처해야 하는 것이 필요하다.

9장의 마지막에 프라이버시 권리선언문이 있는데 어렴풋이 알고 있던 내가 생각해야 할 것들, 권리 등을 읽으며 어떻게 살아야 할지 다시 한번 생각해 본다.

이 책은 출판사로부터 지원 받았습니다.