인공지능 파놉티콘 - 기술 독재와 감시 권력에 저항하는 상상과 실천

오늘날 만인을 대상으로 한 빅데이터-인공지능 감시가 일상화되었다. 국가는 공공의 안녕과 질서를 목적으로 방대한 개인정보를 수집하며, 기업 역시 효율적인 마케팅을 위해 데이터를 기반으로 우리의 행동을 예측·조작한다. 나아가 각종 혜택을 누리기 위해, 타인과 소통하기 위해 사람들은 자발적으로 정보와 사생활을 노출한다.



《인공지능 파놉티콘》은 벤담의 파놉티콘을 분석 틀로 삼아 17세기 산업혁명 시대부터 20세기 말 정보화 시대까지 감시 기제의 변천사를 고찰한 후, 2010년대 빅데이터와 인공지능 기술의 부상으로 더욱 교묘하고 침입적인 방향을 향하는 현대사회의 감시 문제를 다룬다.



우리는 어떤 서비스를 이용하기 위해 기나긴 약관에 동의를 누를 수밖에 없고, 잊을 때쯤이면 거듭 불거지는 개인정보 유출 사건에 무력감을 느끼며 자율성이 박탈된 상황에 체념하기도 한다. 그러나 감시에 이용되는 기술을 전유해 역감시의 수단으로 사용하는 등, 현대의 감시 권력에 우리가 저항할 방법은 여전히 있다. 우리는 프라이버시라는 개념을 ‘관계적’인 것으로 새롭게 인식하고 실천해 독립적·비판적 능력과 자율성을 지켜야 한다. 그것이 21세기 민주주의의 새로운 조건임을 이 책은 강조한다.