인공지능 파놉티콘

인공지능 파놉티콘 - 기술 독재와 감시 권력에 저항하는 상상과 실천
홍성욱 지음 / 김영사 / 2026년 4월

#도서제공
💬 한줄평 : 시선에서 정보로의 진화


영국의 공리주의 철학자 제러미 벤담이 설계한 원형 감옥 파놉티콘. 수감자는 교도관을 보지 못한 채 항상 보여지기만 하고, 교도관은 노출되지 않은 채 항상 모든 수감자를 감시할 수 있도록 설계되었다. 보이지 않는 시선의 권력은 수감자 스스로에게 규율권력을 내면화 시켰고, 이는 감시자가 누구인가와 상관없이 수감자 스스로 자신을 감시하게 만든다. 이 시스템은 이제 정보사회를 만나 새로운 감옥을 탄생시켰다.


📖 제러미 벤담, 《파놉티콘》(1791)
한마디로 말하자면 나는 빌딩으로 가려지거나 통솔될 정도의 공간이라면 [파놉티콘이] 어떤 종류의 기관에도 예외없이 적용될 수 있다고 생각한다. 그 목적이 다르거나 혹은 정바대되는 것이라도 말이다.


벤담의 말처럼 파놉티콘은 통솔과 제어가 효율적으로 필요한 공간이라면 적용할 수 있고, 이는 산업혁명 이후 노동규율화의 필요성과 만나 퍼져나간다. 수감자를 감시하기 위한 매커니즘이 근면성실한 노동자로 옮겨간 것이다.


📖 111p
정보 파놉티콘에서는 개개인에 대한 정보 수집이 직접적 통제 및 규율과 하나로 합쳐지고, 정보는 제러미 벤담의 파놉티콘에서의 시선을 대신해 규율과 통제의 기제로 작동한다.


기존의 산업 구조에서 근면한 노동자를 효율적으로 관리하던 파놉티콘은, 디지털 세계로 들어와 한 번 더 진화한다. '정보 파놉티콘'. 권력은 시선에서 정보로 옮겨 갔다. 이는 범사회적이고 일상적으로 감시가 가능하게 바뀌었고, 김시자는 '중앙'이 아니어도 독립적으로 분산(지하철, 직장, 은행, 관공서, 거리 등의 CCTV)된 사회가 되었다.


116p
감시는 가게 점원이 신용카드를 긇은 후 상품을 구입한 정보가 전선을 타고 데이터베이스로 넘어가는 순간에 이루어진다.


정보 파놉티콘, 그중에서도 소비자 데이터베이스를 '슈퍼 파놉티콘'이라고 부르는데, 이것의 중요한 특성이 바로 "감시 당하는 사람이 감시에 필요한 정보를 제공하는 것"이라고 강조한다. 이러한 자발성은 감시체계가 우리 개개인에게 더 깊숙하고 은밀하게 침투할 수 있도록 만든다.


"프라이버시는 죽었다."
2010년에 페이스북의 창업자 마크 저커버그가 선언한 말이다. 그는 왜 그런 말을 했을까? 국가나 기업이 더 은밀하고 깊숙하게 개인의 사생활에 침투했기 때문이 아니다. SNS 사용자들이 자발적으로 자신의 일상을 올리고 전시하기 때문이다.


119p
우리는 보는 것에 만족한 나머지 보여지는 것에 그다지 신경을 쓰지 않는다.


사생활의 노출이 돈이 되는 시대에 우리는 살고 있다. 모든 것이 정보화 되어 데이터베이스로 축적되지만 우리는 직접적으로 알아차리지 못 한다. 어떤 사람들은 '프라이버시? 그게 그렇게 중요해?' 라며 의문을 가질 수 있다. 명확한 답을 내어줄 수 없지만, 나는 이 책의 마지막장(9장_빅데이터-인공지능 파놉티콘 시대의 새로운 프라이버시 권리선언문)에 나오는 부분을 보여주고 싶다.


289,p
6. 프라이버시는 자율성과 비판의 조건이다.
감시는 독립적 판단능력을 약화시킨다. 선택의 자유가 있는 듯 보이지만 실제로는 필수 서비스를 이용하려면 '동의'할 수밖에 없다. 동의의 반복은 감시권력에 대한 비판적 감수성을 마비시킨다. 따라서 프라이버시는 정보 통제권을 넘어 자기 정체성 형성의 권리로 다시 개념화되어야 한다.


#인공지능파놉티콘 #홍성욱 #김영사 #인문학