
0.1초. 당신의 피눈물 나는 스펙과 간절한 자기소개서가 차가운 휴지통으로 직행하는 데 걸린 시간이다.
세계 최대의 혁신 기업 아마존은 야심 차게 도입했던 인공지능(AI) 채용 시스템의 전원을 조용히 뽑아버렸다. 기계가 '여성'이라는 단어가 포함된 이력서를 발견하는 즉시 가차 없이 감점하고 탈락시켰기 때문이다. 누군가 악의적인 차별 코드를 심은 것이 아니었다. AI는 그저 과거 10년 동안 IT 업계를 지배했던 '남성 합격자'들의 데이터를 충실하게 집어삼키고 학습했을 뿐이다. 감정이 없으니 인간보다 훨씬 공정할 것이라는 우리의 완벽한 착각은 기계가 뱉어낸 이 섬뜩한 합격자 명단 앞에서 산산조각 났다.
보이지 않는 손, 합법적 차별을 코딩하다
우리는 지금 내 삶의 궤적을 보이지 않는 코드 뭉치에 결재받는 시대에 살고 있다. 내가 어떤 뉴스를 읽으며 하루를 시작할지, 벼랑 끝에서 신청한 은행 대출이 승인될지, 수백 대 일의 경쟁률을 뚫고 면접의 기회를 얻을 수 있을지 결정하는 주체는 더 이상 인간이 아니다.
4차 산업혁명이라는 거대한 파도는 알고리즘이라는 투명한 권력을 우리 일상 깊숙한 곳까지 밀어 넣었다. 문제는 이 권력이 철저한 베일에 싸여 있다는 점이다. 기업들은 고도의 영업 비밀이라는 명분 뒤에 숨어 알고리즘의 작동 원리를 굳게 닫아버렸다.
이 거대한 블랙박스 안에서 내 데이터가 어떤 방식으로 난도질당하고 평가되었는지 개인은 도무지 알 길이 없다. 인간의 편견은 교육과 사회적 제도를 통해 집요하게 교정할 수 있는 여지라도 있다.
그러나 기계의 편견은 한 치의 오차도 없는 차가운 코드로 굳어져 그 자체로 거대하고 폭력적인 시스템이 되어버린다. 기계가 내린 0.1초의 탈락 통보 앞에서 인간의 존엄은 항변할 기회조차 얻지 못한 채 조용히 증발한다.
흑인에게 두 배의 형량을 선고한 진짜 이유
데이터 공학자들 사이에는 "쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)"는 뼈아픈 명제가 있다. 이 명제는 AI의 편향성이 만들어내는 비극을 가장 정확하게 관통한다.
미국의 탐사보도 매체 프로퍼블리카(ProPublica)는 범죄 예측 알고리즘 '컴파스(COMPAS)'의 실체를 폭로하며 사회에 큰 충격을 던졌다. 이 기계는 똑같은 조건의 범죄를 저질렀음에도 흑인 피고인의 재범 위험성을 백인보다 두 배 가까이 높게 평가했다.
안면 인식 기술 역시 철저히 편향적이다. 백인 남성의 얼굴은 99%의 정확도로 판별하면서 유색 인종 여성 앞에서는 30%가 넘는 오인율을 보이는 현상은 결코 단순한 기술적 결함이 아니다. 우리 사회가 그동안 누구의 삶을 가치 있는 데이터로 기록했고 누구를 투명 인간 취급해 왔는지를 적나라하게 보여주는 잔혹한 거울이다.
기계는 우리가 애써 외면했던 불편한 진실을 수학적 확률로 환산하여 다시 우리 앞에 던져놓고 있다.
경찰관의 눈으로 본 확증 편향의 진화
35년간 치안 현장을 뒹굴며 수많은 범죄자와 피해자를 마주했던 경찰관의 눈으로 볼 때, 현장에서 가장 끔찍한 재앙은 수사관의 '확증 편향'에서 시작된다. 색안경을 낀 채 범인을 지목하고 증거를 끼워 맞출 때 억울한 누명이 탄생한다.
그런데 지금의 알고리즘은 과거 수백 년간 누적된 인종 차별과 사회적 불평등이라는 '쓰레기 데이터'를 먹고 자란 괴물이 되어 인간의 편견을 초당 수억 번의 연산으로 증폭시키고 있다.
인간 수사관의 오판은 상급자의 결재나 법원의 판결을 통해 뒤집을 수 있는 최소한의 안전장치라도 존재한다. 그러나 고도화된 알고리즘이 내린 결정은 수천만 건의 데이터를 근거로 삼았다는 수학적 환상으로 단단히 포장된다. 결국 누구도 쉽게 반박할 수 없는 절대적인 권위를 획득하며 합법적인 차별을 완성해 버리는 것이다.
기계의 오판 앞에서 인간은 어떻게 증명되는가
가장 서늘한 공포는 이 완벽해 보이는 기계적 심판대 앞에서 약자들이 속수무책으로 무너진다는 사실이다. 은행 창구 직원이 불친절하거나 부당하게 대출을 거절했다면 우리는 분노하고, 따져 묻고, 상급자를 불러달라 요구할 수 있다. 하지만 스마트폰 액정 화면에 뜬 "AI 분석 결과 부적격 판정입니다"라는 한 줄의 통보 앞에서는 무력해진다.
기계가 나보다 나를 더 잘 안다는 맹신, 알고리즘의 권위가 인간의 존엄을 압도하는 시대. 기계의 결정이 곧 법이자 진리가 되는 '디지털 전체주의'가 소리 없이 우리의 목을 조여오고 있다.
알고리즘은 신이 아니다. 그것은 결국 결함 많은 인간이 직조해 낸 코드이자 비뚤어진 과거가 남긴 데이터의 그림자일 뿐이다. 인공지능 시대의 인권은 기계의 통보에 맹목적으로 순응하지 않고 끊임없이 불온한 질문을 던지는 데서 출발한다. 나를 평가한 그 데이터의 출처는 어디인지, 알고리즘 설계의 밑바탕에 차별의 씨앗은 없는지 당당히 따져 묻는 '설명 요구권'이 헌법적 권리로 격상되어야만 한다.
또한, 알고리즘을 지배하며 막대한 부를 축적하는 거대 기업들에게 엄격한 '인권 영향 평가'를 강제해야 한다. 우리가 매일 세 끼의 밥을 먹으며 생명을 유지하듯, 인권 역시 매일의 일상 속에서 예민하게 감각하고 실천해야 하는 생존의 문제다.
기계가 내린 차가운 판결문 앞에서도 "이것은 진정 공정하며 인간의 존엄을 지키고 있는가?"라는 뜨거운 질문을 멈춰서는 안 된다. 알고리즘의 주인이 되어 기계의 목줄을 쥘 것인가, 아니면 편향된 데이터 조각으로 전락해 기계의 지배에 순종할 것인가. 미래의 권력을 결정지을 그 치열한 싸움은 바로 지금 당신의 깨어있는 인권 감수성에서 시작된다.
칼럼니스트

전준석 칼럼니스트는 경찰학 박사이자 35년간의 경찰 생활을 총경으로 마무리한 치안 행정 전문가다. 현재 한국인권성장진흥원 대표로서 우리 사회의 인권 감수성을 높이는 데 헌신하고 있다. 인사혁신처, 한국양성평등교육진흥원, 한국생명존중희망재단, 한국장애인고용공단 등 주요 기관에서 전문 강사로 활동하며 성인지감수성, 4대폭력 예방, 자살 예방 및 직장 내 장애인 인식 개선, 인권 예방, 리더십 코칭 등 폭넓은 주제로 사회적 가치를 전파하는 중이다.
주요 저서로는 ‘범죄심리학’, ‘다시 태어나도 경찰’, ‘그대 사랑처럼, 그대 향기처럼’, ‘4월 어느 멋진 날에’ 등이 있다. 경찰관으로 35년간 근무하면서 많은 사람이 인권 침해를 당하는 것을 보고 문제가 있음을 몸소 깨달았다. 우리 국민이 서로 다름을 인정하고, 차이를 인정하는 마음을 갖게 되면 차별이라는 것이 없어지고 인권이 성장할 것이다. 그런 생각에서 [삼시세끼 인권, 전준석 칼럼]을 연재 중이다.





