대학교수에서, 해지펀드의 퀀트(quant)로, 그러다 2008년 대침체 이후 금융에 수학이 저지르는 만행(?)에 대한 환멸을 갖게 된 후 월가점령그룹의 하위조직을 이끌게 된 수학자이자 데이터과학자, 캐시 오닐. 그녀는 수학이 학살의 무기로 이용되는 것을 대량학살무기(Weapons of Mass Destruction)에 빗대어 대량학살수학무기(Weapons of Math Destruction)이라는 용어를 만들고, 책에서는 WMD라고 지칭하고 있다(이 두 용어는 발음도 거의 비슷하다. 미국인들이 구분할 지 모르지만 한국인들은 거의 구분 정도로.

그럼 이 책이 무슨 얘기를 전하고자 하는 지 예상할 수 있다. 이른바 빅데이터에 기반한 수학적 모델이 후기자본주의 사회를 농단하는 상황에 대한 고발이다. 교사의 능력에 대해 대리 데이터를 이용해서 평가하고, 약탈적 금융자본에 논리와 약탈의 방법을 가르쳐주고, 대학을 평가라는 미명하에 줄 세우고, 알고리즘을 이용해 약탈적 광고를 통해 약자들을 노리고, 사람에 대한 평가가 아니라 그 사람이 속한 집단을 자의적으로 판단해서 예비 범죄자, 예비 신용불량자, 직장 부적격자로 판단하고, 직원들을 회사의 진정한 부속품으로 만들고… WMD는 이런 일들을 한다는 것이다.

사실 요즘 대학의 수학과가 각광을 받는다. 신입생 학력을 비교해 보았을 때 의대 다음이라는 얘기도 들리고, 국내의 연구비도 수학 관련 분야에 점점 많이 편성되고 있다. 바로 빅데이터 때문이다. 그게 바로 WMD에 기여할 수 있기 때문이라는 것은 그 이유의 부분집합이 된다. 수학자가 만들어내는 모형을 통해, 그리고 수집되는 데이터를 취사선택하는 과정을 통해, 아니면 취사선택해야만 하는데도 불구하고 무차별적으로 적용하는 바람에 수많은 사람들이 피해를 입는다. 더 큰 문제는 피해를 입은 사람이 자신이 무엇 때문에 그런 피해를 입었는지, 나아가 정작 피해를 입었는지도 알 수 없다는 것이다. WMD의 은밀한 속성이 그런 것이다.

“대다수 WMD는 모형에 현실을 반영해 수정하기보다는 원하는 현실을 창조한다. 관리자드은 모형이 계산한 점수가 이익을 증대시키기 위해 기꺼이 이용할 수 있을 만큼 충분한 근거를 갖추어서 인간이라면 망설일 결정을 쉽게 내일 수 있도록 도와준다고 생각한다. 비용을 절감하기 위해 직원들을 해고하면서 그 같은 결정에 대한 책임을 객관적인 숫자에 떠넘기는 것이다. 그들에게 숫자가 진실을 담고 있는가는 그다지 중요하지 않다.” (225쪽)

저자가 수학이 모형을 만드는 것, 빅테이터에 기반하여 마케팅을 하거나 정치활동을 하는 것에 대해 전면적으로 반대를 하는 것은 아니다(그녀도 수학자이고, 그것에 기반한 활동을 하고 있다). 수학이 WMD에 기여하는 것을 막아야 한다는 것이다. 플랫폼을 공개하고, 공정성을 위해서 효율성을 조금은 양보하고, 기업과 단체들의 빅데이터에 기반한 활동에 대해 감사를 실시해야 한다고 주장한다. 과연 그런 일이 쉽게 가능해질지 모를 일이지만, 은밀하지만 무차별적 학살이 될 수 있는 무기에 대한 통제가 반드시 필요한 것만은 사실이라 생각한다.

그러나 책을 펼치기 전에 기대는 좀더 정교한 논리를 기대했다. 주장을 떠받히는 정교한 논리가 있어야 선동이 아니라(이 책이 선동이라는 것은 아니다), 깨달음과 행동으로 나아가기에 더 큰 역할을 할 수 있다고 본다. 그러기에는 아직 WMD의 속살에 대한 파헤침이 부족한 것이 아닌가 하는 생각을 하게 된다. 물론 추측이다.

수학자, 금융공학자, 데이터 과학자라는 무시무시한 타이틀을 가진 캐시 오닐이 자본주의 부역자(?) 신세로 전락하고 있는 데이터 과학의 이면을 고발한 책. (데이터 과학자의 본격 데이터 과학 디스) '월가점거 운동의 하위 조직인 대안금융그룹을 이끌고 있다'는 저자 소개가 심상치 않다. 좌파의 냄새가 솔솔(..)

좋은 면이 있으면 안 좋은 면도 존재하는 게 세상 만사의 이치. 수십억 인구를 절대 빈곤에서 해방시킨 자본주의가 우수한 사회 체제임은 분명하다. 하지만 역시나 단점은 존재한다. 유발 하라리는 '사피엔스'에서 자본주의의 단점을 이렇게 얘기했다.

"노예무역이 아프리카인을 향한 증오의 결과가 아니었던 것처럼, 현대의 동물산업도 악의를 기반으로 출발한 것이 아니었다. 이번에도 그 연료는 무관심이다." (486 페이지)

이 책의 저자 캐시 오닐은 '대량살상 수학무기(Weapons of Math Destruction)'라는 용어까지 만들어 가며 자본주의의 단점을 다시 한번 지적한다.

"대리 데이터가 진실인 것처럼 행세하는 위험한 상황이 발생하는 이유는 대부분의 데이터과학자가 거래 대상이 되는 사람들을 생각하지 않기 때문" (32 페이지)

여기 젖소의 정신건강을 연구하려는 과학자가 있다. '젖소의 행복 추구'와 '우유 생산 증가' 중 어떤 설명이 연구비를 타내기 쉬울까?

"소의 향정신성 약물에 대한 전 세계 시장의 수요는 매년 2억 5천만 달러에 이른다." - 사피엔스 (388 페이지)

데이터 과학이 흥하는 이유는 인류 행복 증진에 도움이 돼서가 아니라, 돈이 되기 때문이다. 결국 자본주의의 선택을 받은 데이터 과학이 (자본주의의 속성인) 효율에 매달리면서 자본주의의 비인간화가 더 가속화되고 있다는 것이 저자의 주장.

"데이터 경제에서 인간은 외부자이고 구닥다리이다. 반면 시스템은 자동으로 작동하도록 만들어진다. 그것이 바로 효율성이고, 그래서 수익 창출원이 된 것" (256 페이지)

불공정한 시스템

그리고 근거로 제시하는, 인과 또는 상관관계를 확신하기 어려운 대리 데이터에 의존해서 학업 성취도나 신용도는 물론, 심지어 재판 결과에까지 영향을 주는 다양한 평가 시스템들.

"우편번호 등 직무 능력과 직접적 상관관계가 없는 대체 혹은 대리 데이터를 근거로 직무수행능력의 통계적 연관성을 도출" (39 페이지)

"'우리가 누구인가'가 아니라 '우리가 무슨 행동을 하는가'에 따라 법의 심판을 받아야 한다." (53 페이지)

"외국 학생들을 거부한 입학사정 시스템 같은 모형들은 사람들을 배척한다. 그런 모형에 포함된 '과학'이 검증되지 않은 '가정'에 불과한데도" (207 페이지)

데이터 과학은 4차 산업혁명의 핵심 동력으로까지 부상해 인기몰이 중이며, 데이터로 세상을 먹어치운다는 구글, 아마존 등이 제법 근사하게 동작하고 있음에도, 저자의 지적은 그리 억지스러워 보이지 않는다. '최소 비용, 최대 이익'도 좋지만 그 과정에서 인간을 소외시키지 말자는, 이제는 흔해진 자본주의 담론이기 때문. 데이터 과학이 저자의 바람처럼 공정성과 도덕성의 균형을 회복하려면 어떻게 해야 할까? 저자가 강조한 건 피드백.

"통계 시스템에서 (데이터)양만큼 필수적인 것이 있다. 바로 피드백이다. 피드백은 시스템이 정상 항로에서 벗어날 경우, 이를 알려주는 장치" (22 페이지)

"실수는 학습의 기회가 된다. 단, 시스템이 실수에 대한 피드백을 받아들일 때만 그렇다." (258 페이지)

저자는 시스템이 실수를 정정할 수 있는 피드백이 존재하지 않거나, 악화가 양화를 몰아내는 부정적 피드백에 의해 '예측이 예측 내용을 스스로 실현하는 자기충족적 예측'이 강화되고 있다고 얘기한다.

"부정적인 피드백 루프가 활성화되기 시작... 대학 순위가 자기 강화적 특징을 갖는다" (97 페이지)

"경범죄가 경찰의 범죄 예측 모형에서 점점 더 많은 점을 차지하고, 이는 다시 경찰이 그 지역을 순찰하게 만든다. 이는 바로 유해한 피드백 루프가 활성화되는 전형적인 과정" (152 페이지)

한마디로 버핏이 사면 이유가 있을 거라는, 오를 거라는 생각으로 투자자들이 버핏이 산 주식을 따라 사기 시작하면 주가가 왜곡되는 식으로 시스템이 왜곡된다는 것.

"영향력 있는 디자이너들이 갈색이 내년을 지배할 유행 색이라고 판단해 갈색 옷을 제작하기 시작... 대중은 이 추세를 따라갈 것이다. 대중은 갈색 옷의 마케팅에 반응할 뿐, 자신의 선호에 대해 표현하지는 않는다." - 신호와 소음 (326 페이지)

사람이 먼저

해결책은 단순하다. 사람이 먼저라는 것.

"미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 포함시키고, 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다." (337 페이지)

이상하게 컴퓨터 분야에서는 (컴퓨터를 만든) 사람이 자주 소외당하는 것 같다. 너무 잘 동작하는 컴퓨터를 만들어버린 건가? 정보보안 분야에서 밥벌이를 하는 입장에서도 별로 낯설지 않은 주장.

"정보보호 기술은 관리자의 판단을 도와주는 제한적 전문가 시스템(Expert System)만을 제공... 정보보호는 제품이 아닌 전문가와 잘 구성된 절차에 의해 수행된다" - 네트워크 보안 실무 (20 페이지)

그저 저자의 주장이 미국에서 흥하기를 바라지만, 과연 자본주의가 가끔이라도 이익과 효율을 희생하려고 할까? 우리는 과연 그런 상황을 허용할 수 있을까? 나만 봐도 어떻게 하면 더 효율적으로 일 하고, 더 효율적으로 돈 벌까만 궁리 중인데(..)

데이터 과학이 부상하기 전에도 자본과 결합한 과학 덕에 탄생한 (총이나 내연기관 등) 수많은 문명의 이기들이 인류 진보를 도왔다. 하지만 당연하게도 모두가 그 혜택을 누리지는 못한다.

누군가는 총에 맞아 죽고, 누군가는 자동차에 의해 목숨을 잃는다. 나름 잘 동작하는 것처럼 보이는 알고리즘에 의해 누군가는 억울한 피해자가 된다. 그리고 우리 모두는 언제라도 그 운 나쁜 누군가가 될 수 있다. 운 나쁜 누군가가 되기 싫다면 문명을 거부하고 원시시대로 돌아가야 하는데, 할 수 있을까?

못할 것 같다. 나는 그 운 나쁜 누군가에 포함되지 않을 거라 생각하며 사는 게 최선일 듯. 아니면 긍정적인 피드백을 주고 받으며 조금씩이라도 나아지는 세상을 만들어 가거나.