이용자 데이터가 행동과학의 렌즈 통한 분석 기술과 만나면 이용자 조종해 이익 창출할 수 있어

우버의 비즈니스 모델은 기막히게 단순하다. 사람들 간의 거래를 활성화하는 플랫폼이다. 우버는 그 일을 기막히게 잘 해왔다. 사람들의 시내 이동부터 음식배달에 이르기까지 모든 사업의 거래비용을 거의 없앴다. 지난 5월 10일 뉴욕증권거래소에서 주식이 상장된 후 우버가 지금은 세계에서 가장 시가총액이 높은 기업에 속하는 이유 중 하나다.

하지만 24억 달러의 시가총액은 그들이 축적하는 방대한 이용자 데이터에 비하면 아무것도 아니다. 우버는 이용자(또는 어쩌면 이용하지 않는 사람이라도)에 관해 엄청난 양의 정보를 보유한다. 위치·성별·지출기록·연락처와 전화 배터리 잔량 심지어 하룻밤 외도를 마치고 귀가하는 것까지도. 머지않아 술 취했는지 맨정신인지도 알게 될지 모른다.

그것만으로도 겁나는 일이지만, 그 모든 데이터가 행동과학의 렌즈를 통해 그것을 분석하는 우버의 노하우가 만나면 이용자를 조종해 이익을 창출하는 위험성이 생긴다. 우버뿐이 아니다. 우리 조사에선 에어비앤비·페이스북·이베이 등 초대형 디지털 플랫폼들이 우리의 생활방식에 관해 대단히 많은 데이터를 수집해 이용자를 대규모로 조종하는 능력을 지닌다. 그들은 행동을 예측해 무엇을 클릭하고 공유하고 어디에 돈을 쓸지 우리 결정에 영향을 미칠 수 있다.

대다수 플랫폼은 아직은 이런 역량을 모두 사용하지 않지만, 행동심리 기법을 통한 조종은 소리 없이 이뤄지고 흔적을 거의 남기지 않을 수 있다. 지금 규칙을 세우지 않는다면 나중에는 감지하고 저지하기가 훨씬 더 어려워진다.

구매자와 판매자 간의 거래를 활성화하는 어떤 공간이든 플랫폼이 될 수 있다. 전통적인 사례로 벼룩시장과 주식거래소가 꼽힌다. 디지털 플랫폼도 같은 기능을 하지만 사람들이 그것을 이용하는 동안 그리고 종종 이용하지 않을 때도 그들을 ‘중개’하는 능력을 소유자에게 부여한다. 이는 이용자 행동을 관측하고 그에 관해 엄청난 양의 정보를 입수해 행동과학자들이 말하는 이른바 ‘선택체계(choice architecture)’를 완성할 수 있다는 의미다. 결정이 내려지는 방식을 통해 인간의 행동에 영향을 미치려는 의도의 주의를 끌지 않는 디자인 요소다.

예컨대 우버는 운전자를 대상으로 그들을 최대한 오래 운전하도록 만드는 데 가장 효과적인 전략을 찾아내는 실험을 했다. 운전자가 일한 만큼 충분한 소득을 올리지 못하는데도 손실회피(loss aversion)와 확률 낮은 사건의 과대평가 같은 인지적 편향을 활용하는 방식이 이런 전략에 속한다. 운전자는 카지노의 도박꾼처럼 확률이 낮은데도 좀 더 오래 하도록 종용받게 된다. 우버는 논평 요청에 아직 응하지 않았다.

에어비앤비도 이용자 대상으로 실험한다. 행동과학을 이용해 호스트들이 숙박료를 내리고 투숙객을 선별하지 않고 예약받도록 했다. 특히 호스트가 집을 함께 사용할 때는 그에게 실질적인 위험을 안겨준다. 비교적 무해한 듯하지만 이런 사례는 디지털 플랫폼들이 어떻게 조작적인 방식으로 이용자의 행동을 유도하도록 소리 없이 시스템을 설계할 수 있는지를 보여준다.

그리고 플랫폼이 성장할수록 선택체계는 더 진화한다. 기업공개로 데이터와 행동과학에 사용할 투자자금이 대거 밀려들면서 우버가 위험할 정도로 비윤리적인 영역으로 넘어설 수 있다. 그들의 과거 관행을 고려하면 쉽게 상상할 수 있는 일이다. 예컨대 이용자가 술에 취했거나 거의 찾아가지 않는(그리고 그들의 데이터에 범죄율이 높게 나타나는) 지역에 있다는 것을 앱이 인식할 경우 거부할 수 없으리라는 것을 알고 높은 요금을 부과할 수 있다.

그리고 이 모두가 추측인 것만은 아니다. 우버는 실제로 회사를 조사하려는 사법 당국을 속이려고 그들의 앱을 이용하려는 정부 규제당국자를 알아낸 뒤 승차를 막는 방법을 고안했다. 정치인과 규제당국자들이 행동 과학과 신기술의 어려운 상관관계를 수년 전부터 논의해온 한 가지 이유다. 그리고 특히 우버를 포함한 일부 기업은 차별부터 이용자 데이터 남용에 이르기까지 다수의 부정한 사업 관행으로 조사를 받아 왔다.

그러나 우리가 확인하고 우려하는 조종의 대부분이 명백한 불법은 아니다. 그리고 종종 갈수록 진화하는 기술의 사용과 선택체계를 규제 당국이 따라잡을 수 없는 경우가 많아 앞으로도 그런 상태를 유지할 가능성이 크다. 명확히 규정되고 집행 가능한 법적 가드레일이 없음을 고려할 때 플랫폼 업체들이 행동과학을 이용해 이용자들을 조종하는 성향은 앞으로도 견제받지 않을 듯하다.

우리는 플랫폼 업체들이 따라야 할 윤리 규정의 수립이 한 가지 해법이라고 본다. 그리고 그들이 적극적으로 그것을 채택하지 않을 경우 투자자·직원·이용자가 요구할 수 있다. 20세기 중반 이후 윤리적 행위 규범문은 미국 기업의 필수품이었다. 법률과 의료 직종은 수천 년 동안 그에 의존해 왔다. 그리고 조사에 따르면 기업들에 윤리적 행위를 장려하는 효과가 있다.

우리는 IT와 컴퓨팅 업체 대상의 윤리규정을 포함해 수백 건을 검토했다. 우리의 조사를 토대로 디지털 플랫폼들에 아래 5가지 윤리적 지침의 도입을 촉구한다.

1. 플랫폼에서 사용하는 모든 선택체계는 완전히 투명해야 한다. 플랫폼들이 이용자의 행동에 영향력을 행사하려 행동과학 도구를 이용할 때 그 사실을 공개해야 한다.

2. 플랫폼 이용자가 자유롭게 그리고 손쉽게 선택할 수 있어야 한다. 그리고 선택체계의 행동 개입은 이용자 자율의 훼손을 최소화하는 알림이나 메시지에 국한해야 한다.

3. 플랫폼은 이용자가 충동과 감정에 따라 무의식적이고 비합리적인 의사결정을 내리도록 유도하지 않아야 한다. 새 연구에선 투명한 선택체계가 마찬가지로 효과적일 수 있었다.

4. 플랫폼은 자신들이 가진 힘을 인식하고 자신들이 구축한 시장을 악용하지 않도록 주의해야 한다. 예컨대 자신들과 이용자 간의 정보 비대칭을 남용하거나 합당한 규제에 반대하는 식이다.

5. 플랫폼은 이용자가 자신에게 가장 유리한 방향으로 행동하지 못하게 하는 선택체계를 사용해선 안 된다. 노벨상을 받은 행동경제학자 리처드 탈러의 말마따나 “좋은 쪽으로만 유도해야(nudge for good)” 한다.

IT 대기업과 행동과학이 통합하면서 칫솔질을 보람 있게 느껴지게 하는 전동칫솔부터 문자 메시지를 이용해 빈민층 엄마들에게 헬스케어를 이용하도록 유도하는 사업에 이르기까지 기업들이 큰 성공을 거두고 있다. 그런 결과가 우리의 삶을 크게 향상할 수 있지만, 또한 기업들이 이용자들을 조종해 자신들의 수익성을 향상하기가 어느 때보다 쉬워졌다.

- 애비 스템러, 조슈아 E 페리, 토드 하우



※ [애비 스템러, 조슈아 E. 페리, 토드 하우는 인디애나대학 상법·윤리학과의 각각 조교수·부교수·조교수다. 이 기사는 온라인 매체 컨버세이션에 먼저 실렸다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지