[김현아 가천대 사회정책대학원 초빙교수·정책평가연구원 연구위원] 필자는 이번 지방선거 개표 방송 앞에 앉아 묘한 감정의 엇갈림을 느꼈다. 화면 한쪽에서는 당선자들의 얼굴이 하나 둘 화면을 채우고 다른 한쪽에서는 방송사와 오픈AI가 협업한 ‘AI 상황실’이 실시간으로 당선 확률을 숫자로 보여주고 있었다. 기술은 분명 인상적이었다. 그런데 질문 하나가 계속 머릿속을 맴돌았다. AI가 민심을 읽는 시대에, 과연 AI는 민심을 위해 작동하고 있는가. 지난 칼럼까지 필자는 지방선거라는 창을 통해 우리 도시의 설계도를 들여다봤다. ▲행정통합의 효율과 역설 ▲부동산 민심의 지층 ▲에너지 전환이 바꾸는 도시 경쟁의 문법 ▲전쟁과 월세 사이에서 흔들린 표심까지. 선거는 끝났다. 이제 시선을 선거판 너머로 돌려야 할 때다. 선거보다 더 도시를 조용히, 그리고 빠르게 재편하고 있는 또 다른 힘이 있다. 알고리즘이다.

‘기술 중립성’이라는 신화

흔히 기술은 중립적이라고 말한다. 예를 들어보자. 망치는 집을 짓는 데도, 사람을 해치는 데도 쓰인다. 기술 자체에 선악은 없다. 다만 쓰는 사람의 의도에 따라 그 결과는 다를 수 있다. 그러나 도시에 들어오는 AI는 다르다. 알고리즘은 특정 목적을 위해 설계되고 특정 데이터를 학습하며 특정 주체의 손에 쥐어진다. 그 설계의 의도와 데이터의 편향, 권력의 배치가 AI의 ‘중립성’을 이미 지워버린다.

AI 도시 연구자 롭 키친(Rob Kitchin)은 이를 ‘알고리즘 통치’라고 부른다. 즉, 알고리즘 통치란 인간의 판단을 대신해 데이터와 알고리즘이 ▲자원 배분 ▲서비스 제공 ▲공간 관리를 결정하는 통치 방식을 말한다. 과거에 시장이나 시의회가 예산을 배분하고 정책을 결정하던 자리에, 이제 코드가 들어서고 있다는 것이다. 문제는 코드가 내린 결정은 투표로 번복하기 어렵다는 데 있다. 알고리즘은 선출되지 않기 때문이다.

얼마 전 필자는 AI 기능이 탑재된 부동산 정보 사이트에 접속했다가 멈칫했다. 내가 찾는 집을 찾아줄 뿐만 아니라 세금 조회부터 대출, 청약 시뮬레이션까지, 서비스는 놀랍도록 정교했다. 그런데 그 정교함에 닿으려면 ▲로그인 ▲본인 인증 ▲각종 조건 입력 등 여러 단계의 문을 통과해야 했다.

그렇다면 이 문을 열지 못하는 사람은 어떻게 될까. 그리고 곧 이어진 생각 ‘나도 나이를 더 먹으면 이 문 앞에서 멈추게 되지 않을까.’ AI가 정교해질수록 서비스의 문턱도 함께 높아진다. 이것이 지금 우리 스마트시티가 직면한 역설이다.

민간 서비스만의 이야기가 아니다. 국토교통부는 올해만 거점형·특화단지·강소형 등 유형별로 스마트도시 조성사업을 전국 각지에서 동시 추진하고 ‘AI시티 혁신기술 발굴사업’을 통해 6개 민간 기술을 실제 도시 공간에서 실증하는 프로젝트를 가동 중이다. 숫자만 보면 화려하다. 그러나 이 화려한 대시보드 뒤에 가려진 것이 있다. 2020년부터 2025년까지 국내 스마트시티 뉴스 기사 2만 2000여 건을 텍스트마이닝으로 분석한 연구(구자근, 2025)에 따르면, 기술·산업·데이터 생태계 관련 어휘는 담론의 전면을 차지한 반면, 시민권·데이터 권리·알고리즘 윤리와 같은 사회적·윤리적 차원의 논의는 상대적으로 약하게 등장하는 데 그쳤다. 

한국만의 이야기가 아니다. 유럽연합 기본권청(FRA)은 2022년 보고서에서 AI 알고리즘이 훈련 데이터에 내재된 사회적 편견을 그대로 흡수해 젠더·인종·계층 차별을 자동화하는 현상을 경고했다. 우리의 스마트시티 담론은 ‘어떻게 만들 것인가’에는 능숙하지만, ‘누구를 위해 만들 것인가’에는 아직 서툴다.

그 누구의 문제는 생각보다 훨씬 구체적이고 날카롭다. AI는 과거의 데이터를 먹고 자란다. 그런데 그 과거는 결코 중립적이지 않았다. 아마존은 2018년 AI 채용 시스템을 폐기했는데, 남성 중심의 이력서 데이터로 학습한 알고리즘이 여성 지원자에게 체계적으로 낮은 점수를 매겼기 때문이다. 

미국 형사사법 체계에서 재범 가능성 예측에 쓰인 콤파스(COMPAS) 시스템은 흑인의 재범 확률을 과대평가하고 백인의 확률을 과소평가했다는 연구가 공개돼 파문을 일으켰다. 알고리즘은 사회의 불평등을 수정하지 않는다. 오히려 그것을 수치화하고 자동화하고 더 빠르게 확산시킨다.

알고리즘에도 선거가 필요하다

도시 공간에 이 논리를 들여오면 문제는 더 선명해진다. AI가 도시 서비스를 배분할 때 학습하는 데이터에는 이미 여성 안심 귀갓길이 부족했던 도시의 기억, 장애인 이동권이 배제된 보도블록의 설계, 고령층의 동선이 빠진 대중교통 노선이 반영도 있다. 기존의 공간 불평등이 데이터로 코드화되고, 그 코드가 다시 미래의 도시를 설계하는 데 사용되는 것이다. 한국여성정책연구원도 AI 기술 활용의 젠더 편향 실태를 분석하며 이 문제를 정책 의제로 제기하고 있다.

스마트시티가 정말 ‘스마트’하려면, 데이터를 정교하게 만들기 전에 먼저 물어야 할 것이 있다. 이 도시를 설계하는 사람들은 노인의 느린 걸음을, 장애인의 우회 동선을, 야간 귀갓길을 불안해하는 여성의 감각을 충분히 이해하고 있는가. 문제는 누가 버튼을 누르느냐가 아니라, 버튼을 누르는 사람이 자신과 다른 삶을 상상할 수 있느냐다. 그 상상력은 타고나는 것이 아니라, 젠더 감수성 교육과 다양성 설계 훈련을 통해 길러진다. 알고리즘이 소외를 자동화하기 전에, 먼저 설계하는 사람이 자신과 다른 삶이 어떻게 소외되는지를 느끼고 배워야 한다

알고리즘은 우리의 동의 없이 도시를 결정한다. 그래서 필자는 이 연재를 통해 하나의 질문을 반복해서 던질 것이다. “이 알고리즘은 누가 설계했고, 누구의 이익을 위해 작동하는가.” 이것은 기술의 문제가 아니라 정치의 문제다. 어떤 도시를 원하는지에 대한 시민의 의지가 기술의 방향을 규정해야 한다. 배달 플랫폼의 AI가 구도심 골목을 배송 불가 지역으로 분류하는 것도 CCTV의 안면인식 시스템이 광장을 감시하는 것도, 노인 복지 예산을 AI가 더 정교하게 배분하는 것도 모두 기술의 문제이기 전에 우리가 어떤 선택을 했는지의 결과다. 기술에도 투표가 필요한 이유다. (다음 편에 계속)

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지