[신뢰 이동] 그럼에도 결국엔 사람

 

세 번째 신뢰 혁명

 

 몇년 전까지만 해도 생소했던 ‘공유경제’는 이제 너무나 당연한 개념이 되어버렸다. 공유경제는 저마다의 시스템을 바탕으로 특정 자원의 소유자와 수요자를 P2P로 연결해준다. 에어비엔비는 임대를 위한 부동산을 소유하지 않지만 세계 최대의 숙박업체 중 하나이다. 우버 또한 자체 택시를 한 개도 보유하지 않고 있다. 이러한 공유경제는 분산적 신뢰가 작동하는 대표적인 예다. 분산적 신뢰란 개인들 사이에 수평으로 오가고 네트워크와 플랫폼과 시스템을 통해 가능한 신뢰이다. 우리는 현재 지역적 신뢰, 제도적 신뢰의 시대를 지나 분산적 신뢰의 태동기에 서있다.

 

 성립조건

 

 분산적 신뢰가 성립하려면 세 가지 조건이 충족되어야 한다. 먼저 새로운 개념에 대한 신뢰가 필요하다. 모르는 사람의 집이나 차를 빌린다는 개념은 사람들에게 받아들여지기 까지 오랜 세월이 걸렸다. 그 다음으로 플랫폼에 대한 신뢰이다. 에어비엔비나 우버 등의 플랫폼이 무언가 문제가 발생했을 때 그것을 적절하게 처리해줄 것이라는 믿음이 있어야 한다. 마지막은 개인에 대한 신뢰이다. 거래 상대가 믿을 만한 대상인지 판단할 수 있어야 한다. 세 가지 ‘신뢰 더미’ 가 형성되면 신뢰 도약이 일어나고 그 대상은 순식간에 받아들여진다.

 

신뢰 도약을 위한 신뢰 더미 쌓기 

 

신뢰 도약을 위한 장치

 

 플랫폼은 이른바 '시스템적 장치'를 사용하여 신뢰 더미를 쌓았다. 블라블라카는 온라인에서 선불로 결재하는 제약을 도입하여 취소율을 급격하게 감소시켰다. 마윈은 알리페이를 활용해 불확실성을 줄이거나 위험 수준을 떨어뜨려 구매자와 판매자 사이의 신뢰를 구축했다. 구매자의 돈을 에스크로 계정에 예치하고, 구매자가 물건에 이상이 없음을 확인해야 묶인 돈이 풀리는 방식을 사용했다. 또한 트러스트패스라는 서비스로 판매자들이 자체적으로 브랜딩을 하고 신뢰감을 얻을 수 있게 하였다. 이러한 장치는 심지어 불법적인 물건들을 사고파는 다크넷 사이트에도 존재한다. 마약, 총기 등의 위험한 물건을 온라인으로 구매하기 위해서는 판매자에 대한 신뢰가 절대적으로 필요하다. 사기를 당한뒤에 경찰에 신고할수도 없는 노릇이 아닌가. 그래서 다크넷에는 평판시스템이 존재한다. 구매자는 판매자의 거래 성사 횟수, 마지막 로그인 시간, 이전 구매자 평가 등 여러가지 척도로 판매자의 신뢰도를 판단한다. 다크넷의 판매자가 온라인상의 브랜드와 평판, 고객 만족도에 신경을 많이 쓰는 이유이다. 더 나아가서 다크넷 이용자들은 레딧과 같은 포럼에서 속임수를 쓰는 판매자 리스트를 공유하고, ‘다크넷 마켓 어벤저스‘ 라는 사이트는 판매되는 마약을 검사하여 위험 성분이 검출되면 판매자 정보를 웹사이트에 공개한다. 다크넷 이용자들은 현대판 마그레브의 상인들을 자처하고 있다.

 

기술적 바탕

 

 알고리즘과 인공지능은 시스템의 기술적 근간을 제공한다. 소액대출 앱 탈라는 사용자의 스마트폰에서 순식간에 데이터를 추출하여 대출상환능력을 평가한다. 대출 희망자가 주로 사용하는 앱, 평균 통화 시간, 사회 관계망 크기 등 여러가지 요소를 입력값으로 하는 알고리즘이 사용자를 점수화한다. 아마존은 허위 평가를 발견해서 삭제하는 알고리즘을 적용했다. 허위 평가에서 두드러지게 나타나는 특징들을 추출하여, 사용자 평가의 진실성을 가려낼 수 있다.

 최근에는 여기에 인공지능까지 더해졌다. 신성불가침 영역으로 간주되었던 바둑에서 이세돌 9단이 구글 딥마인드의 알파고에게 완패를 당했다. 조만간 자율주행차량도 상용화 될 것으로 보인다. 이제 기계가 어떤 일을 처리해주기만 하는 것이 아니라 ‘무엇을 언제 할지’까지 결정한다. 인공지능의 발달로 인간의 의사결정이 점점 축소되고 그 자리를 기계의 의사결정이 메우게 된 것이다. 전문가들은 앞으로 인공지능이 여러 직업을 대체할 것이라고 입을 모아 이야기한다. 빌 게이츠, 스티븐 호킹 박사는 인공지능이 특정 임계점을 넘어 스스로를 재설계하는 단계에 도달하면, ‘지능 폭발‘이 일어나 인간을 도태시킬 것이라고 경고한 바 있다.

 

의사결정 주체의 변화

 

한가지 의문

 

 분산적 신뢰 하의 시스템은 한번 사람들에게 받아들여지고 난 이후부터는 너무나 당연한 것으로 취급된다. 사고가 발생함에도 불구하고 매일 500만 명 이상이 우버 앱을 켜고 단 몇 분 만에 낯선 사람의 차에 올라탄다.

 

“어떻게 보면 우리는 신뢰하는 기능을 알고리즘에 아웃소싱했고, 이미 편의에 익숙해져서 알고리즘에 대한 신뢰를 깨기 어려워진 것처럼 보인다.” (p. 145)

 

 그런데 여기서 한가지 의문이 제기된다. 문제가 발생했을 때의 책임소재이다. 우버의 총격사건, 마이크로소프트 테이의 타락, 이더리움 해킹사건 등의 책임은 누구에게 있을까. 우버는 우버 기사와 승객을 연결해주기만 할 뿐이고 그 외의 책임은 일절 책임지지 않는다고 약관에 명시하고 있으나, 미국에서만 수백건이 넘는 소송에 엮여있다.

 

결국엔 사람

 

 플랫폼은 직접 자산을 보유하거나 제공업체를 고용하지 않고도 서비스를 중개할 수 있기 때문에 책임소재가 애매하다. 거기에 스스로 의사결정을 할 수 있는 인공지능이 더해져 문제를 더욱 복잡하게 만든다. 인공지능이 운전하는 자율주행차량 사고의 책임은 누구에게 물을 수 있을까. 운전자? 인공지능? 프로그래머? 차량판매업체? 앞으로 이런 문제는 더 많은 인공지능이 등장하면서 더욱 가속화 될 것이다. 이런 가운데서 우리는 시스템과 인간의 역할과 한계가 어디까지인지 규정해야 한다. AI의 의사결정에 익숙해져서 인간이 손을 놓아버렸다가는 빅 브라더나 스카이넷이 지배하는 미래가 도래할지도 모른다. 인간이 개입할 수 있는 버퍼를 남겨두고, 상황이 시스템 규정범위를 벗어났을 때 반드시 인간이 개입해서 문제를 해결해야 한다고 생각한다. 이더리움 재단과 DAO 펀드처럼 중앙집중형 관료제에 도전하는 개념조차 문제가 발생했을 때 하향식 의사결정을 해줄 누군가를 필요로 했다. 기술은 우리가 더 좋고 더 새로운 선택을 하도록 도와줄 수 있지만, 결국 누구를 신뢰할 것인가에 대한 해답을 찾는 주체는 우리 자신이라는 사실을 잊지말자.