작년 3월 경 대표적인 소셜미디어 기업 페이스북 사용자 5,000만 명에 대한 신상정보가 유출되었는데, 영국의 데이터 분석 기업 캐임브리지 애널리티카가 이를 2016년 미국 대선 당시 도널드 트럼프 후보의 선거운동에 활용했던 것으로 알려졌다. 이에 대해 미국과 영국에서 동시에 진상 파악을 위한 조사에 들어갔지만, 필자가 아는 한 별다른 조치는 없었던 것으로 보인다. 그 밖에도 소셜 미디어를 이용해 러시아가 미국 대선 과정에 개입했다는 의혹이 끊임없이 제기되었다. 이런저런 추문이 터져 나오자 보수적인 언론에서도 소셜 미디어가 민주주의를 위협한다는 기사를 내보내기 시작했다. 지금처럼 가짜 뉴스가 위력을 떨치는 시대에 이는 충분히 우려할 만한 사항이다.
빅데이터를 보유한 기업들이 다양한 방법으로 사용자들에게 영향을 미칠 수 있다는 점은 이전부터 논의되어 왔으며, 이는 페이스북을 비롯해 구글과 아마존, 나아가 중국의 바이두, 알리바바 및 텐센트과 같은 기업들에도 적용된다. 한 마디로 빅데이터를 축적한 후, 인공지능 알고리즘을 이용해 분석하고 가공해 비즈니스에 활용할 역량이 있는 기업이라면 언제라도 이런 위치를 점할 수 있는 것이다. 그 결과 극단적인 비대칭정보(asymmetric information)의 상황이 발생하게 되는데, 이것은 경제학에서 시장실패(market failure)를 초래하는 중요한 요인으로 간주되고 있다. 시장실패란 시장을 통한 자원배분이 효율적인 결과를 달성하지 못하는 현상으로서 그 원인으로는 외부효과, 독과점, 공공재, 그리고 비대칭정보를 들 수 있다.
그런데 필자가 우려하는 바는 빅데이터와 인공지능 알고리즘으로 인한 비대칭정보의 부정적 효과는 기존의 경우와 사뭇 다르다는 점이다. 보통 전통적인 비대칭정보의 경우 거래 과정에서 정보가 많은 쪽이 유리하지만, 정보가 없는 쪽이 이에 대응하는 과정에서 시장 거래가 위축되면서 비효율이 발생한다. 그런데 구글이나 아마존 및 페이스북과 같은 정보기업이 정보를 독점하는 경우는 이와는 상당히 다른 결과가 발생하게 된다. 우선 거래가 위축되는 것이 아니라 더 활성화된다는 점이 다르다. 검색 엔진으로서 구글은 사실상 시장을 독점하고 있는데, 이로 인해 사용자들이 부당하게 높은 가격을 지불하는 일은 없다. 대신 사용자들은 다른 방식으로 비용을 부담한다고 봐야 하는데, 이 비용이 증가하고 있다는 증거는 찾기 어렵다. 또한 소셜미디어를 이용하는 사람들이 점점 늘어나고 있으며, 동시에 이들이 소셜미디어 플랫폼을 제공하는 기업들의 서비스를 이용하는 빈도 또한 점점 늘어나고 있다. 이들이 서비스 대가로 점점 더 큰 비용을 지불하지 않기는 구글의 경우와 마찬가지다. 필자는 이런 서비스를 별로 이용하지 않는 편이지만, 이것이 분명한 대세라는 점은 인지하고 있다.
아마존이나 구글 및 페이스북 같은 정보기업은 자기 분야에서 사실상 독과점 기업으로서의 위상을 갖고 있다. 전통적인 독점이론에 의하면 이들의 시장지배력으로 인해 가격이 상승하면서 소비자잉여가 줄어드는 반면, 독과점기업의 잉여는 점점 늘어나게 되어 있다. 그런데 구글이나 페이스북을 이용하는 직접 비용은 사실상 제로라는 사실은 소비자나 정부가 독과점적인 시장지배력의 부작용을 의식할 필요가 없는 것처럼 보이게 만든다. 그러나 이것은 사실이 아니라는 점을 인식할 필요가 있다. 우리는 이들 기업이 제공하는 서비스를 공짜로 이용하는 것이 아니다. 이들이 제공하는 플랫폼을 이용하는 일체의 행동은 모두 빅데이터의 일부를 구성하면서 결국 이들이 얻는 이익의 원재료(raw material)가 되기 때문이다. 부정적으로 말하면 우리는 이들이 제공하는 서비스에 낚이는 것이다. 일종의 피싱(phishing)에 해당된다면 지나친 표현일까?
여기서 우리가 간과해서는 안 될 점은 글로벌 정보기업들이 제공하는 서비스의 긍정적·부정적 측면 가운데 부정적인 측면에 좀 더 관심을 가져야 한다는 사실이다. 이러한 측면을 나타내는 대표적인 표현이 이른바 데이터주의(Dataism)이다. 데이터주의라는 용어를 처음 사용한 사람은 뉴욕타임스의 기자였던 데이비드 브룩스(David Brooks)였다. 그는 2013년 처음 이 용어를 상용했는데 그다지 주목받지 못하다가 역사학자 유발 하라리(Yuval N. Harari)가 저서 '호모 데우스'를 통해 대중적으로 널리 알리는 역할을 했다. 하라리가 강조한 것은 사람들은 점점 자신의 자유의지에 따른 판단을 유보하고 인공지능 알고리즘이 추천하는 대로 행동하게 된다는 것이다. 그래서 사람들은 데이터를 마치 종교처럼 신봉하는 상황이 발생하게 된다는 점을 우려하면서 이를 데이터주의라고 표현한 것이다. 극단적으로 말하자면 데이터가 중심이 되고 인간은 변방으로 밀려나 하찮은 존재로 전락한다는 것이다. 그것도 순전히 자의에 의해서 말이다. 편리함을 얻기 위해 스스로 자유를 포기하는 참담한 상황이 점점 더 현실로 다가오고 있음을 유념해야 한다는 경고이기도 하다.
실제로 사람들은 광고를 통해 인공지능 스피커의 편리함에 점점 더 많이 노출되고 있다. 아마존의 에코, 마이크로소프트의 코타나, 구글의 홈, 애플의 홈팟 등이 있고, 우리나라에서도 SK텔레콤의 누구, 네이버의 클로버 등이 사람들의 관심을 끌고 있다. 이들 인공지능 스피커는 고작 약인공지능 수준의 기술에 기반을 둔 것임에도 이미 일상생활 곳곳에서 영향을 미치고 있다. 앞으로 이보다 월등한 알고리즘에 기반을 둔 인공지능 스피커가 출시된다면 일상생활 대부분이 이들의 영향력 하에 놓일 가능성이 농후하다. 그것도 우리 스스로 선택의 자유를 포기하는 가운데 일어나고 있다는 데 문제의 심각성이 있다. 자유를 포기하는 대가로 삶의 편리함을 추구하는 것이 과연 그렇게 중요한지 우리 모두 자문해 볼 필요가 있다.
하버드 대학교 경영학과 명예교수인 쇼사나 주보프(Shoshana Zuboff)는 이런 상황을 신랄하게 비판하면서 우리 모두에게 경고를 보내고 있는 대표적인 학자이다. 그녀는 하버드 경영대학원에서 최초로 종신교수직에 임명된 여성으로서 일찍이 1980년대부터 선경지명을 갖고 ‘스마트 기계’의 시대를 경고했는데, 얼마 전 'The Age of Surveillance Capitalism'이라는 제목의 책을 출판했다. 이른바 ‘감시 자본주의’ 시대의 문제점을 지적한 책이다.
이 책에서 주보프 교수는 구글이나 페이스북과 같은 거대 정보기업들이 사람들의 행동에 관한 빅데이터를 축적하고, 이를 분석해서 얻은 정보를 어떻게 사용하고, 어떤 방식으로 이익을 극대화하는지 상세하게 다루고 있다. 그러면서 이러한 자본주의를 ‘감시 자본주의’라고 부른다. 매우 적절한 표현이라는 생각이 든다. 우리는 지금 이들 기업이 제공하는 서비스에 중독되어 있으면서 부지불식간에 이들이 제공하는 서비스에 필요한 원재료를 제공하는 수단으로 전락한 셈이다.
주보프 교수가 우리에게 던지는 메시지는 간단하면서도 심각하다. 구글이나 페이스북 같은 기업들은 인간의 경험을 원재료로 사용할 뿐만 아니라 이를 바탕으로 우리의 행동을 통제하는 힘을 갖게 된다는 것이다. 그래서 주보프 교수는 감시 자본주의는 “자본주의의 불량한 돌연변이”라고 말한다. 이들 기업은 사람들의 일거수일투족에 대한 정보를 바탕으로 이른바 “행동잉여(behavioral surplus)”을 창출하는데, 이것이 이들 기업 이윤의 원천이라고 말한다. 이것은 다분히 칼 마르크스가 말한 잉여가치에 상응하는 표현이다. 그만큼 이들 기업이 이윤을 얻는 방식이 착취적이라는 의미를 담고 있다.
주보프 교수에 의하면 감시 자본주의는 2001년 구글로부터 비롯되었는데, 이는 그 해 미국 월드 트레이드 센터에 행해진 비행기 테러와 무관하지 않다는 것이다. 이후 미국 정부는 개인의 사생활에 깊이 개입할 수 있는 명분을 얻었고, 구글도 이런 분위기에 편승해 감시 자본주의 모델을 탄생시켰다는 것이다. 이후 아마존, 페이스북, 그리고 마이크로소프트 등 글로벌 정보기업들도 이 대열에 합류함으로써 이들 간의 치열한 경쟁을 통해 감시 자본주의는 현재의 수준으로 진화한 것이다. 그런데 앞으로 이런 추세가 더욱 강화될 가능성이 매우 높다는 데 문제의 심각성이 있다.
현재 자본주의 위기의 상당 부분은 금융자본의 위력이 지나치게 비대해진 데 있다고 해도 과언이 아니다. 그런데 설상가상으로 향후 금융자본과 정보자본이 결합한다면 상황은 더욱 악화될 것으로 예상된다. 이는 감시 자본주의가 단지 소수 기업의 전횡으로 그치는 것이 아니라, 개인의 자유를 침해하고 민주주의에 위협이 되며, 궁극적으로는 정치와 경제 모든 면에서 새로운 전체주의 사회의 출현으로 이어질 수도 있는 것을 시사한다. 이들 기업이 개발한 알고리즘이 사람들의 행동을 통제할 뿐만 아니라 미래의 행동에 대한 예측을 가능하게 해준다는 사실이 확인된 상황에서, 이 기술을 이용해 사람들을 자신이 원하는 방향으로 통제하고자 하는 세력이 등장할 가능성을 배제할 수 없기 때문이다. 우리 모두 후손들의 미래를 걱정하는 마음으로 이런 변화에 대항할 수 있는 힘을 키워나가야 할 것이다. 어떻게 대항력을 키워나가야 할지 현재로서는 뾰족한 묘수가 보이지 않는다. 그렇기에 문제의식을 가진 사람들이 지혜를 모아야할 시점이다.