미래에는 알고크라시(algocracy)에 의해 지배 받는 사회가 도래할까? 알고크라시가 지배하는 세상에서는 알고리즘이 인간을 어떻게 통제해야 할 지 결정한다. 영국 금융행위감독청(FCA) 및 산하 결제시스템규제청(PSR)의찰스 랜들(Charles Randell) 청장은 지난달 11일 런던에서 (현재로서는 이론적이지만) 미래 알고크라시라는 시나리오에 어떻게 대비해야 할 지에 대해 발표했다. 랜들 청장의 주요 발언은 다음과 같다.
알고크라시에 기여하는 요인
랜들 청장은 다음 세 가지의 조건이 갖춰지면 알고크라시 사회가 보다 앞당겨질 것이라고 설명했다.
- 소수의 대기업이 방대한 개인정보를 보유하게 되는 경우, (이는 이미 현실이 되었음)
- 급속히 발전하는 인공지능 및 머신러닝 기술 덕택에 기업들이 빅데이터를 훨씬 쉽고 빠르게 수집할 수 있게 되는 경우,
- 행동과학의 발전에 따라 소비자의 ‘의사결정 편향(decision-making biases)’을 활용해 기업의 영업 효율성이 크게 개선되는 경우.
자유시장에 대한 위협
랜들 청장은 ‘매수자 위험 부담 원칙(Caveat Emptor)’에 기반한 현재 자유시장 체제는 빅데이터의 출현에 대처할 준비를 제대로 갖추지 못했다고 주장했다. 매수자 위험 부담 원칙은 소비자가 공평하게 정보를 제공받는다면현명한 선택을 할 수 있다고 가정한다. 따라서 소비자가 자신의 선택에 책임을 지는 것이 당연하다고 본다. 하지만 이 원칙을 온라인 세계에 적용한다면 다음과 같은 문제점이 도출된다.
- 기술의 급속한 발전과 빅데이터 사용의 복잡성으로 인해 소비자가 주어진 정보를 통해 의사결정을 내리는 데 제약을 받게 된다.
- 소비자가 매일같이 올라오는 온라인 상의 수많은 이용약관이나 개인정보보호정책 등을 모두 읽는 것은 현실적으로 불가능하다.
- 청장은 10년 전 미국에서 실시된 연구에서 흥미로운 통계를 찾아 인용했다. 동 연구에 따르면 온라인 서비스 이용 시 사용자가 ‘동의함(Agree)’을 클릭하기 전에 개인정보보호정책을 실제 읽는 데 에는 매년 약 250시간이소요됐다. 하지만 지난 10년 간 온라인 서비스 시장이 크게 성장했다는 점을 감안한다면 현재 이 시간은 기하급수적으로 늘어났을 것이다.
랜들 청장은 개인을 단순히 데이터 수집 대상으로만 여기는 실태는 문제라고 지적했다. 이를 증명하는 사례로 뉴욕 타임즈의 기사를 예로 들었다. 이 기사에 따르면 미국의 몇몇 신용카드 회사들은 결혼생활 상담 비용이카드대금 청구 항목에서 확인되면 카드 사용자의 여신한도를 낮췄다고 한다. 이는 결혼의 실패가 채무불이행과 연관돼 있다는 사실에 기인한 것으로 보인다. 또한, 랜들 청장은 올해 초 발표된 여러 언론사의 보고서를 예로들었는데, 이들 보고서에서는 가격비교 사이트들이 소수민족으로 보이는 이름을 가진 사람들의 보험료가 높게 산출되어 나타나도록 운영하고 있다고 주장했다.
어떤 대응이 필요할까?
랜들 청장은 사회 전체적으로, 특히 정책 입안자들이, 미래 알고크라시가 가져올 위험을 어떻게 낮출 지를 고민해야 한다고 주장했다. 그는 알고크라시가 사회적 약자에 대한 배제를 더욱 심화시키고, 어떤 고객이 수익성이 가장좋을지 또는 가장 나쁠지를 미리 규정하는 방식으로 금융서비스 이용자들을 더욱 차별할 것이라고 설명했다. 또한, 그는 나아가 금융서비스 회사들이 고수해야 할 ‘좋은 혁신’의 3대 요소로 목적, 사람, 신뢰를 들었다. 여기서좋은 혁신이란 지속가능하면서도, 장기적으로 사회를 유익하게 하는 혁신을 의미한다.
랜들 청장은 기업들이 소비자 편향을 이용해 수익 극대화만을 꾀하기 보다는 장기적인 가치를 창출하는 데 ‘
목적’을 둬야 한다고 설명했다. 단기적 수익만을 좇는 기업은 오래 존속하기 어려울 것이라는 주장이다.
이어서 랜들 청장은 기업의 목적과 운영의 중심에 ‘
사람’이 있어야 한다고 강조했다. 더 나아가 기계가 아닌 사람이 빅데이터의 결과물이 윤리적으로 받아들일 만한 것인지, 아닌지를 최종적으로 판단하는 책임을 맡아야 한다고강조했다.
마지막으로 금융서비스 회사들은 자신들이 서비스를 제공하는 사회의 일원이 되어 신뢰를 쌓아야 한다고 주장했다. 또한, 개인정보를 공정하게 사용해야 하는 사회적 책임을 이해하고, 기업의 가치관을 명확히 제시해야한다고도 덧붙였다. 그때야 비로소 소비자는 자신들의 정보를 이용하고자 하는 기업의 입장을 이해하고 수용하게 될 것이라고 말했다. 랜들 청장은 모든 기업들이 고객정보보호 헌장을 구비해야 하는지, 또 만약 그렇다면자발적인 실천강령 또는 법규로 강제해야 하는 것인지에 대해 의문을 제기했다.
결론적으로 빅데이터는 영국 금융서비스 산업에 새로운 기회를 열어주었다. 혁신적 기술을 받아들이고, 규제를 효율화 하는 것뿐만 아니라 데이터 윤리에 관한 새로운 규범을 마련하는 데에도 기여할 수 있게 된 것이다. 랜들청장의 발언은 금융서비스 산업의 빅데이터 사용에 관해 깊게 생각할 수 있는 중요한 계기가 되었으며, 기저에 깔린 메시지의 의미는 다른 분야에도 시사하는 바가 크다고 할 수 있다.
좀 더 나아간다면
랜들 청장의 발언은 금융행위감독청(FCA)이 혁신적 기술의 적용과 금융서비스 회사에 유익한 지침을 제공하는 데 있어서 선도적인 위치에 있음을 다시 한번 확인시켜 주었다. 랜들 청장의 연설은 지난 3월 23일 알랜 튜링 기관(Alan Turing Institute)의 정보위원회사무국(ICO) 위원장 엘리자베스 덴험(Elizabeth Denham)의 발언과 맥을 같이 한다. 덴험 위원장 역시 일상생활에서 이 같은 알고리즘을 사람들이 사용할 수 있게끔 하기 위한 법률, 기술 및데이터 윤리 간의 상호작용뿐만 아니라 알고리즘의 중요성에 대해 이야기한 바 있다.
논평
FCA와 ICO가 모두 인공지능과 유사 기술에 의해 제공되는 기회들을 잘 알고 있다는 사실은 매우 고무적이다. 더 나아가 이들 규제기관은 어떻게 그러한 기술들이 규제 체계 내에서 활용될 수 있는지, 그리고 그로 인한 영향은무엇일지에 대해 공개적인 입장을 밝히고 있다. 이것이 주는 한 가지 분명한 메시지는 인공지능 및 유사 기술에 대한 사항이 비공개로 운영해서는 안된다는 것이다. 신뢰와 이에 따른 투명성은 빅데이터가 밝은 미래를 위해사용될 수 있게 만드는 근간이 된다. 실례로 ICO는 FCA의 프로젝트 이노베이트 샌드박스(Project Innovate Sandbox)에서 제시된 규제 샌드박스
[1]를 도입할 의향이 있다고 공개적으로 밝힌 바 있다.
결론적으로 일반 기업들이 준법성, 투명성 그리고 윤리성에 비춰서 어떻게 빅데이터를 활용하면 좋을 지에 대해 아직 명확한 답변을 얻기는 힘들겠지만, 영국 규제당국이 그러한 노력을 충분히 지지하고 있다는 점에 대해서는 확신을 가질 수 있을 것이다.
[원문] FCA Speaks Out on the Ethics of Big Data
[1]규제 샌드박스(regulatory sandbox)란 문제가 되는 활동을 함에도 어떤 규제에도 제한 받지 않고 혁신적인 제품과 서비스, 사업 모델과 전달 매커니즘 등을 테스트해볼 수 있는 ‘안전 영역’이다. 혁신 기업들에겐 규제 샌드박스는 보다 전통적인 사업 모델에만 적합해 보이는 규제를 살펴볼 수 있는 좋은 도구다.