인공지능의 진화
2016년 3월 알파고 대 이세돌이 바둑 대전을 펼쳤습니다. 알파고는 이미 프로바둑기사를 이긴 전적이 있었지만 4승 1패의 승리로 또다시 세상을 놀라게 하였습니다. 그리고 이세돌도 더 유명해져 많은 광고와 인기를 얻었습니다. 더이상 인공지능을 단순한 로봇으로 여길 수 없게 된 것을 증명하는 것이기도 합니다. 언제가 영화에서 본 것처럼 로봇이 사람을 지배하는 순간이 올지도 모르겠습니다.
최근 인공지능을 이용한 감시 시스템이 더 발전되고 곳곳에 설치 되고 있습니다. 사람들의 삶을 더 편리하게 해주지만 한편으로 불안하고 침해당하는 삶을 살게 하고 있습니다. 이미 점차적으로 발전한 인공지능에 대하여 사람들이 이런 부분을 알고 있었지만 편리함에 취해 방관하고 있습니다. 저는 이런 시스템을 지나치게 의존하는데 부정적인 사람이고 자유를 버리는 행동이라고 생각합니다. 그러나 그런 저조차도 어디까지 의존해야 하는지에 대한 경계선을 아는 건 어렵게 느껴집니다.
미국의 인공지능(AI)
2018년 미국에서 일어난 스톤맨 더글러스 고등학교 총기사건이 있었습니다. 17명이 사망하고 그 이상으로 부상자가 나왔습니다. 당시 가해자는 화재 알람을 가동하여 쏟아져 나오는 상대를 대상으로, 내부로 들어가 추가로 총을 쏘는 범행을 저질렀습니다. 그리고 이곳을 비롯한 미국의 많은 학교에서는 사람을 추적할 수 있는 감시 시스템을 설치하게 되었습니다. Appearance Search 와 같이 AI 기반 소프트웨어입니다. 이 감시 시스템은 프레임 하나하나를 정밀하게 분석하여 성별, 나이, 얼굴의 특징 등을 확인하고 인식합니다.
이들의 기본 동작 방식은 이렇습니다.
학교의 감시 비디오는 어떤 한 사람을 인식합니다. 일반 경찰이나 학교의 안전요원이었다면 지나쳤을지도 모를 이 감시 시스템은 모든 데이터를 확인합니다. AI가 감시를 걸러내는 방법 중 하나는 사람이 움직이는 행동을 “비정상적인 움직임”을 포착한다는 것입니다. 학교 안에서 움직이며 다닌 데이터를 바탕으로 의심스러운 행동을 하지 않았는가에 대한 판단을 하는가입니다. 가령 아무도 없는 곳에서 서성이는 것은 비정상적인 움직임에 포함 될수도 있습니다. 장애인이나 술 취한 사람의 행동은 이런 행동으로 분류가 될지 테스트 결과가 궁금해집니다. 그럼 빈 교실에서 다른 이성친구를 만나는 것은 비정상적인 것인가요? 아무튼 이 시스템은 괴롭힘를 당한 학생을 가려내기도 했습니다. 물론 이런 경계선이 어느 정도 정해져 있을것이고 그 범위가 넘어선다면 특정 행동에 대해 관리자에게 알려주는 방식이 되는 것입니다. 그러면서 이 감시 시스템은 이름과 신분에 관계하지 않는다고 합니다. 그 사람의 특성과 속성을 보고 판단하는 것이지 그 사람 자체의 신분(증)을 알 수 있는 것이 아니라는 겁니다.
설령 이런 신분을 알 수 있는 게 아니라 해도 Appearance Search를 만들게 된 통계를 수집할 수 있었던 통계의 근원적인 배경이라던지 또한 이 감시 프로그램을 설치하여 모으게 된 정보는 잠재적인 개인 정보입니다. 이런 데이타베이스들이 구축되었을 때 보호받을 수 있을지에 대해서 저는 회의적입니다.
중국의 감시 시스템
중국의 감시 시스템은 국가에서 이미 운영하고 있습니다. 공산당 사회체제로서 테러범과 범죄자로부터 국민의 안전을 위한다는 이유로 오래전부터 개발하여 2015년부터 감시 시스템을 설치하기 시작했습니다. 대표적으로 CCTV 안면인식 감시체제에 들어서기 시작하였습니다. 실제로 많은 강력범죄자의 수가 줄어들었지만 이런 감시체제는 국가에 어떤 반항도 할 수 없게 만들었고, 그것이 중국 정부의 목적이었을 거라 생각합니다. 과거 중국이 인터넷의 자유로운 차단 과정의 흐름을 보면 야동 사이트 범죄 때문에 시작한 제재가 현재는 구글 유튜브까지 이어져온 상황이 온 것처럼 지금의 중국은 엘리베이터 안에서도 감시 카메라가 동작하고 있습니다.
그렇다면 중국의 감시 시스템이 동작하는 방식에 대해 알아보겠습니다. 중국은 16살이 되면 신분증을 발급받게 됩니다. 그때 등록된 개인의 많은 정보들이 데이터베이스 되어 중국에서 말하는 범죄 감시 시스템 “텐왕”과 연계하여 계속된 데이베이스를 구축하게 됩니다. 얼굴 안면을 직접적으로 인식하고 사진으로 대조하여 3초 안에 사람을 찾아낼 수 있습니다. 중국 정부는 사생활 침해에 대해 말하기보다 국민의 안전을 수호한다고 말합니다. 더 큰 문제는 이것이 더 발전하고 있다는 것입니다. “신용평가 시스템”이나 “시민 점수”에 관한 데이베이스도 구축하고 있으며 그런 것들은 이미 보호의 범위를 한참 넘어서고 있습니다. 이런 것들은 정부의 권력자들을 비난하거나 개인재산에 대해서 아무것도 보장받지 못한다는 것을 의미합니다. 이미 사회주의는 자유민주주의에 비해 보장되지 못하는 것이 많습니다. 감시 시스템으로 인해서 가진 자율성까지 훼손된다면 정부와 나의 생각이 달라졌을 때 행동은 포기하게 될 것입니다.
중국의 이런 감시 시스템은 미국의 기술을 이미 넘어섰습니다. 그리고 이것은 중국 자체에 감시 시스템을 설치할 뿐만 아니라 다른 많은 나라에도 수출되고 있습니다. 자유민주주의를 표방하는 국가에서도 국민의 안전을 위한다는 목적으로 중국과 계약을 맺고 감시 시스템을 설치합니다. 그리고 이것은 중국이 더 좋은 개발 환경을 가지게 될 것입니다.
결론
이런 모든 기술 자체는 나쁜게 아닙니다. 오히려 우수한 인간의 지능에 대한 결과물일뿐입니다. 모든것은 양면성이 있습니다. 총과 폭탄은 사람을 지키기도 하고 공격하는 수단을 제공하는 것과 마찬가지입니다. 그러나 이 인공지능의 감시시스템은 국가와 기업에 제공돼서는 안될 시스템입니다. 현재 우리나라에서도 스마트시티라는 이름으로 각 도시에 시도되고 있습니다. 이것이 공공의 안전이라는 역할만을 얼마나 유효하게 해낼 수 있을까요? 그렇다 해도 사람들은 그런 공공의 안전을 위해 일거수일투족을 감시당한다면 평소와 똑같이 행동할 수 있을지 의문입니다. 감시시스템이 동작하는 곳에서 나의 행동과 의지가 제어 당한다면 인간은 더는 “생각하지 않는 동물”로 정의될지 모릅니다.
