자유시장 경제학자들은 (힘이나 정보의 불균형 없는 완벽한 경쟁을 특정한 이상적인 시장에서) 재화나 서비스를 맞바꿀 가격을 생산자와 구매자가 흔쾌히 동의하면 최고의 사회자원 배분을 끌어낼 거라고 믿습니다. 자기-이익의 공급망을 보여주는 복잡한 방정식에 대한 해결책은 시장가격으로 표현됩니다. 사실 Adam Smith의 '보이지 않는 손' 너머에 있는 조정력은 돈입니다.
어느 익명 네티즌(wag)은 '이론과 실제의 다른 점은 항상 이론보다 실제가 더 대단한 것'이라고 했습니다. 경제학자들은 완벽경쟁이 이론에서만 존재하고 판매자와 구매자 외 다른 사람들이 가격을 부담하는 '외부 요소'가 있으며 완전히 능률적인 시장은 거의 없음을 알아차렸습니다. 여러모로 국가의 역할은 시장의 단점을 해결하는 겁니다. Diane Coyle의 책 '시장, 국가, 그리고 인간'은 경제 정책을 만드는 사람들이 개입할 때 만드는 트레이드오프(모순된 경제 관계)를 어떻게 생각하는지 훌륭히 설명해줍니다. 개입이 가능한 세금, 통화 정책 그리고 규제들은 이들이 최선을 다할지라도 단편적이며 동의나 시행하는데 몇 년에서 몇십 년이 걸립니다. (탄소 가격이 적절한 예시입니다.)
구글 서치 엔진은 경제시스템의 관리를 위해 근본적으로 다른 방법을 통해 우리를 설득했습니다. 끊임없이 개선하고 바뀌며 AI와 영향을 미치면서 구글의 알고리즘 시스템은 20세기 경제학자들이 상상하지 못한 경제 관리의 가능성을 나타냅니다. 오랫동안 탈중앙화되고 이기적인 행위자들이 거래하는 가격이 정해진 시장에서 1초에 4만 번, 하루에 35억 번씩 구글의 중앙 관리형 검색 플랫폼은 유일한 마법 같은 곳입니다.
천재적인 일격으로 구글은 고유한 수백 개의 정보 신호를 사용하여 수천만 정보 제공자와 수십억의 정보 소비자 사이에서 제일 잘 매치하는 알고리즘 시스템을 만들었습니다. 하지만 가격은 신호 중 하나가 아닙니다. 구글이 가격 경제에 참여하지 않는다고 말하는 게 아닙니다. 그보다 멀리 있지만, 구글의 첫 15년간 검색 시장의 시장가는 우선 매칭 위주였고 광고 클릭 수는 곁들이(sidecar)었습니다. 초기 구글의 현명한 행동은 집단 지성(자연 검색)과 (클릭 수 광고비 책정) 금액에 의해 조정된 시장을 병행하여 운영했습니다. 경제적 동기가 있는 생산자가 이익을 위해 자연검색 결과를 조작할 때, 사용자에게 피해를 끼치고, 알고리즘은 만족하지만 소비자 만족은 실패한 페이지를 만들 때 구글은 이윤에 맞추어 자비없이 알고리즘을 수정했습니다.
확실히 월드와이드웹과 소셜미디어의 많은 콘텐츠는 상업적 의도로 생산 및 소비되지만 완전히 이익 없이 만든 엄청난 양의 콘텐츠들도 존재합니다. 구글 경제학자들은 저에게 구글 검색 결과 페이지에서 오직 6%만 아무 광고도 포함하지 않는다고 말했습니다. 나머지 94%의 페이지들은 인간의 기쁨을 위해 만들고 공유하는 즐거운 상품입니다. 만일 풍요로운 경제의 선구자가 있다면 인터넷 공유 경제에서 최고를 볼 수 있을 겁니다.
하지만 구글은 최근 몇 년간 2개의 정보 시장(무료 검색 시장과 유료 광고 시장)을 관리하면서 점점 경계를 희미하게 만들었습니다. 상업적 가치있는 검색 결과가 경제가치 없는 순수한 결과보다 덜 효과적으로 만들었습니다. 즉 구글은 돈의 왜곡된 힘이 없을 때 정보 제공자와 소비자에게 더욱더 효과적인 일치 결과를 보여줍니다.
아마존도 마찬가지입니다. 구글과는 다르게 아마존은 검색 순위에 중요한 요소는 항상 가격이었습니다. 그러나 집단의견(다른 소비자가 뽑은 최고의 제품)을 측정하고 지능적으로 결합하여 이전 소비시장(consumer goods marketplace)보다 더 효율적인 시장을 만들었습니다.
최근 수년 동안 새로운 주요 수익처인 검색 광고의 도입으로 아마존 또한 고객들에게 가장 적합한 상품을 찾아내는 집단지성의 도구에서 돌아섰습니다. 검색은 이제 '주요 상품(featured)'에 지배당하며 상품 생산자는 소비자의 앞에 나오기 위해 돈을 내야 합니다. 광고는 이제 아마존 수익의 가장 큰 원동력 중 하나이고 Jeff Bezos가 지구상 최고의 소비자-중심 플랫폼이라고 자랑스럽게 뽐낸 것처럼 이 회사가 남아있을 수 있다고 상상하기 어렵습니다. 전 이 문제에 대해 '독점금지 규제 당국은 빅테크를 규제하는데 잘못된 도구를 쓰고 있다'고 작년에 썼습니다.
이윤 극대화의 개념은 우리 사회에 깊게 배어있어 2014년에 페이스북 연구자들이 '소셜네트워크를 통한 대규모 감정적 전염의 실험적 증거' 논문을 기고했을 때 반응은 빠르고 야만적이었습니다. 페이스북 뉴스피드에 소재를 섞어 독자를 행복하게 만들거나 슬프게 만드는 실험은 연구 윤리의 심각한 위반으로 여겨졌습니다. 특히 놀라운 점은 아무도 실리콘밸리가 분명히 축하하고, 기업가에게 '성장 해킹', 'A/B 실험', '습관-형성 제품 창조'로 불리는 사용자 감정 상태 조작법을 알려주는 걸 알아차리지 못했던 것입니다. 아무도 이러한 실험에 문제를 제기하지 않았습니다. 성장과 이윤을 쫓는 한 그들은 소비자를 실험하는 모범예시로 여겼습니다.
이런 실험들은 비용이 굉장히 낮기 때문에(사업 매몰 비용) 실험적인 실수와 내다 보지 못한 결과만 기대했을 것입니다. 그들은 경제학자와 규제 당국에 새로운 외부효과의 주류로 여겨졌을 겁니다.
돌아보자면 정서적 전염의 공식실험과 성찰은 좋은 생각이었을겁니다. 이 대신 부정적인 감정을 전염시키고 퍼트리기 위한 소셜미디어의 힘에 대한 감독 없는 글로벌한 실험은 이윤을 위해 계속되고 있습니다. 반면 플랫폼이 사용자에게 긍정적인 영향을 미치기 위한 노력은 모두 부적절한 개입으로 쉽게 간주하거나 사용자 활동과 성장을 감소시킬 수 있기 때문에 버려집니다.
예를 들어 소문에는 2020 미국 대통령 선거 때 '세상에 해롭다(bad for world)'고 간주할 게시물을 인식하는 머신러닝 알고리즘을 페이스북 엔지니어들이 교육했지만, 회사는 게시글을 조금만 보여주면 사용자 세션 수가 줄어들어 수익과 이윤이 감소한다는 걸 발견했습니다. 그래서 알고리즘을 재훈련 시켜 '세상에 해로운' 게시글을 줄였지만, 사용자 활동에 크게 영향을 미치지 못했습니다. '뉴스 생태계 품질'을 최적화할 다른 변화는 선거 전 몇 주간 실행됐지만, 그 후 취소되었습니다.
'주주 가치'는 특별한 계층의 기업 지배 구조에 뿌리내려있습니다. '공익 기업'은 회사 이윤보다 다른 고려사항을 관리하는 회사를 지키기 위해 정의되었습니다. 모든 '보통' 회사들은 고용자, 환경, 사회적 비용을 최소화하고 회피하며 제거해야 한다고 간주합니다.
실리콘밸리는 우리 경제와 기업 지배 구조의 잘못된 원인이나 최악의 예시가 아니라 그저 비추는 거울입니다.(담배, 석유, 제약 회사가 최고의 자리를 다툽니다)
여러모로 규제 당국은 아직도 실리콘밸리에서 배울 수 있습니다. 우리의 경제 또한 보이지 않는 알고리즘과 숨겨진 목표에 따라 형성되었죠. 만일 규제 당국이 구글, 아마존, 페이스북의 알고리즘이 서비스와 법률, 세금, 통화 정책을 만들어 누가 우리 사회에서 무엇을 왜 갖게 되고, 왜 기업 리더들이 그렇게 하는지 결정하는 방식 간의 유사점을 찾는다면 실리콘밸리뿐만 아니라 전체 경제의 공정성과 목표를 향상하는데 지금 사용할 수 있습니다.
제가 AI 규제를 위한 Rockefeller 재단 워크숍에서 쓴 '우리는 이미 병에서 지니를 꺼내버렸다' 에세이에서 우리의 기업, 정부, 시장은 SF 작가인 Charlie Stross가 말한 '느린 인공지능(34회 카오스 커뮤니케이션 회의에서 발표한 Dude, you broke the future!)'이 되었다고 적었습니다. 운영 규칙을 재건하지 않으면 규제할 수 없다고 말입니다.
운영방식에 대한 시도는 우리가 기계를 만들고 우리가 기계의 방침을 설정했다는 걸 깨닫기 전까지 소용없습니다. 대신 우리는 시장에 개입하지 않는 게 가장 좋은 자연스러운 현상인 척하고 메커니즘 설계자들에게 책임을 묻지 않았습니다. 우리는 기계를 허물고 재구축하고 다시 프로그래밍할 필요가 있습니다. 그래야 기업 이윤이 아닌
인간 번영을 목표로 할겁니다. 우리는 우리의 가치를 정할 수 없다는 걸 알아야 합니다. 우리는 반드시 기계를 이해하고 구동하는 방식으로 구현해야 합니다.
실리콘밸리는 아직 우리의 노력으로 바꿀 수 있습니다. 큰 플랫폼은 반드시 그들이 차지한 것보다 더 많은 가치를 만들 사회적 책임과 알고리즘 시스템이 인간 복지를 발전하는 데 초점을 맞추고, 그들이 창조한 가치를 측정하고 소통하는 방법을 찾고 '모델과 복잡한 상호작용 시스템을 관리'하는 더 나은 사회를 넓히는 데 도움을 주어야 한다는 것을 이해해야 합니다.
간단하게 시계를 돌리려는 시도와 기술이 앞으로 올바르게 나아갈 방법을 고려하지 않는 규제 대응의 위험성은 캘리포니아 법률 개정안 22(2020 주민 발의안 투표에 따라 기업 관련 법규가 수정)를 둘러싼 싸움이 제대로 보여줍니다. 개정안 통과는 임시직 선호 경제(gig economy: 일자리에 계약직이나 프리랜서 등을 주로 채용하는 현상) 회사들이 근로자를 계약직(independent contractor)이 아닌 고용자로 취급하도록 요구하는 주(state) 규정을 뒤집었습니다.
노동 보호와 혜택은 전통적으로 고용주 하나를 위해 개인이 일하는 세상을 가정했습니다. 프리랜서(gig worker)에게 의존하는 회사에 이런 책임을 강요하는 시도는 새로운 규칙에 대항하는 대규모 운동을 시작한 회사들에 의해 실질적 위협으로 간주하였습니다. 고객들의 동의로 규제는 여론에 따라 철회됐습니다.
임시직 선호 경제 회사들은 그들의 유연한 혜택을 위해 작은 조치를 했습니다. 하지만 유동적인 고용이 주는 혜택을 관리할 시스템을 구축하기 위해 규제 당국만 아니라 회사와 계약직 근로자, 고객이 협력했을지도 모를 옅은 그림자였습니다. 독일의 이해관계자 자본주의(stakeholder capitalism) 모델에서 노동자들은 자신들이 일하는 회사에 대항하기보다는 그저 했던 일을 합니다. 만약 아직 설계하지 않은 21세기의 이해관계자 자본주의가 있다면 제로섬만이 아니라 모두를 위한 더 나은 해결책을 찾기 위해 '복잡한 상호작용 시스템의 관리 및 모델'을 관리하는 걸까요?
제가 5년 전 '계속되는 부분 고용 세계의 일꾼들'에서 주장했듯 우리는 기업이 아닌 노동자 중심의 더 강한 복리후생 시스템이 필요합니다. 임시직 선호 경제 회사들은 바깥에 있지 않습니다. 지속적인 부분 고용 형태는 많은 경제의 표본이 되었습니다. 떠오르는 Friedman 원칙과 노동조합의 종말이 결합하여 기업과 노동자 간의 균형은 초기화되었습니다. 입법 및 규제 대응은 1.시스템적인 힘의 불균형, 2.기업과 노동자 간의 새로운 전체 노동경제를 가로지른 협력 모델을 만들 기술력, 3.운 좋은 소수가 아닌 모두를 붙잡을 수 있는 안전망을 해결할 필요가 있습니다.