권위란 무엇인가?

권력(power)과 권위(authority)는 다르다. 권력은 다른 사람을 자신의 뜻대로 움직이거나 지배할 수 있는 힘을 뜻한다. 권위는 사람들을 통솔하고 이끄는 힘을 뜻한다. 권력이 항상 권위를 갖는 것은 아니다. 역사를 돌아보면 독재자들은 권력을 쟁취한 다음에는 권위를 갖기 위해 힘써왔다. 권위는 사람들을 마음으로 승복하게 하고 스스로 따르게 하기 때문이다. 

역사의 발전에 따라 권위의 주체는 바뀌어왔다. 고대에는 신이 절대 권위를 가진 최고의 존재였다. 사람들은 중요한 일에 대해 신에게 묻고 신탁을 받았다. 이 시대의 신탁은 중요한 의사결정 방식이었다. 이후 신이 가진 절대 권위는 왕에게로 이동했다. 민주주의 사회의 권위는 법으로부터 나온다. 법은 다수결에 의하여 만들어진다. 다수가 권위를 갖는 시대가 되었다. 자본주의 경제의 권위는 전문가들이 갖는다. 중요한 의사결정은 뛰어난 인재들이 담당하게 되었다.

권위가 또다시 이동하기 시작했다.

 

데이터 권위의 시대

1960년대에는 사무 처리를 자동화하기 위한 시스템이 주류를 이루었고, 데이터는 업무 결과를 기록하는 정도였다. 업무 별로 고립되어 있었고, 애플리케이션이 업무 처리를 담당했다. 1980년대에 들어서면서 시스템은 기업 내의 업무 연계를 지원하고, 경영정보시스템을 통해 의사결정을 지원했다. 데이터는 의사결정의 보조 수단으로 간접적인 영향력을 가지게 되었다.

2000년대 이후, 조직의 정보화 진전과 개인의 스마트폰 사용 급증 등으로 데이터 생산이 크게 증가했다. 데이터 저장 및 처리 기술의 발전으로 데이터가 의사결정에 기여하기 시작했다. 정부, 기업, 개인 등의 데이터에 의한 연결도 확대되었다. 사물인터넷의 보급, 인공 지능의 발전 등으로 데이터 생산과 소비, 데이터 유통 등은 더욱 빠르게 증가되고 발전되어왔다.

2020년은 데이터경제가 본격화되는 시점이다. 1월에 데이터3법의 통과로 개인은 자신의 데이터를 통제하고 활용할 수 있게 되었다. 6월에는 데이터기반행정법이 제정되어서, 데이터를 활용해 증거를 기반으로 정책을 개발하고 시행하는 데이터 기반 행정체계가 가동될 예정이다. 민간 기업은 데이터 분석 결과를 기반으로 신용평가, 맞춤추천, 투자결정 등을 이미 수행하고 있다.

권위는 전문가에서 데이터로 이동하기 시작했다. 대규모 데이터는 뛰어난 전문가보다 낫다.

권위는 데이터 관련 법률 제정으로 데이터가 갖기 시작했다. 데이터에 근거한 의사결정은 합법을 의미한다.

 

데이터 권위의 혜택

바둑 경기 해설자는 사람이다. 과거에는, 해설자가 자신의 판단에 의해 어떤 수가 좋은 수인가를 설명했다. 같은 바둑이라 하더라도 해설자에 따라 형세 판단이 달랐다. 지금은 모든 바둑 해설에는 인공지능이 등장한다. 해설자는 인공지능이 추천하는 수를 보면서, 대국자가 얼마나 잘 맞추고 있는가를 중계한다. 이미 바둑에서 인공지능의 권위는 절대적이다. 인공지능이 이런 권위를 갖게 된 것은 수많은 바둑 대국데이터를 학습했기 때문이다. 

한국토지주택공사(LH)는 데이터를 기반으로 도시 문제를 해결하고자 온라인 데이터 분석 플랫폼인 '콤파스(COMPAS)'를 구축해 운영 중이다. 지자체에서 해결하고자 하는 도시문제 또는 혁신적 아이디어가 필요한 과제를 전문가, 시민 등이 빅데이터를 분석하여 해법을 찾아내는 것이다. 과거 신탁에 의존하던 의사결정을 데이터에 묻게 된 것이다.

“인공지능이 국회의원을 대체할 수 없다”라는 말은 박주민 더불어민주당 의원이 2017년에 한 말이다. 하지만, 2017년 뉴질랜드에서는 정치AI ‘샘’이 등장했다. 2018년 일본의 한 시장 선거에서는 인공지능에 전권을 넘긴다는 공약을 내건 후보가 등장하기도 했다(‘AI국회, 먼 미래가 아니다’, 서울경제, 2020년 6월1일). 

AI의 최고 전문가인 벤 고르첼 박사는 3년 전에 '로바마(ROBAMA)'개발에 착수했다. 로바마는 정치적 의사결정을 위한 인공지능으로 로봇과 버락 오바마 전 대통령의 이름을 합성한 것이다. 부정부패가 만연한 인간 정치인들을 대신해 공명정대한 정치 로봇이 2025년이면 모습을 드러낼 예정이다. 이제 우리는 정치 로봇에게 투표하고, 뒷짐지고 앉아 로봇이 만든 제도에 의한 안락한 삶을 영위할 날만을 기다리면 된다.

 

데이터 권위의 횡포 

누군가에게 권위가 주어지면 권력을 행사하게 된다. 또한, 질서 유지와 정의 실현을 위해 만든 법이 오히려 범죄를 부추기는 사례가 발생하고 있다. 마찬가지로 데이터도 기대와 다른 양상을 보여주고 있다.

애플 카드(2019. 8. 출시)는 여성보다 남성에게 높은 한도를 부여하여 많은 사람들이 불만을 토로했다. 애플 공동창업자인 스티브 워즈니악은 모든 재산과 계좌를 아내와 공동으로 소유함에도 아내의 한도보다 자신의 한도가 10배나 높다고 했다.

미국 뉴욕대 ‘AI 나우 연구소’가 발표한 논문 ‘오염된 데이터, 그릇된 예측(Dirty data, Bad predictions, 2019. 2.)’은 범죄예측시스템의 인종∙여성차별 등에 대한 오류를 지적했다. 미국 뉴올리언스의 경찰은 백인 동네에 비해 흑인 동네에 대한 검문을 더 자주 시행했다. 이는 흑인 동네에 대한 범죄율이 더 높게 집계되는 오류를 낳고, 그 결과가 다시 인공지능 학습에 사용되어 편향을 가중시키게 된다.

2014년 항간을 떠들썩하게 했던 페이스북 감정 조작 실험은 또 어떠한가? 페이스북과 미국 코넬대학교의 연구진이 감정 전이에 대한 실험을 진행했다. 실험결과 뉴스피드에 부정적인 내용을 줄인 그룹에서 긍정적인 단어의 사용이 늘었고, 반대로 긍정적인 내용을 줄인 그룹에서는 부적정인 단어의 사용이 늘었다. 이는 2012년 사전동의 없이 진행된 실험으로 2014년에 논문이 게재되면서 세상에 알려져 윤리적 비난을 받았다. 자신도 모르게 감정까지 통제당한 것이다.

이러한 횡포의 끝을 유발 하라리의 저서 ‘호모데우스’에서는 다음과 같이 묘사하고 있다.

‘21세기에 데이터교는 인간 중심의 세계관에서 데이터 중심의 세계관으로 이동하게 되고, 결국 인간을 밀어낼 것이다.’

 

데이터 권위 감시

데이터 권위는 점점 더 커지고 있다. 이는 과거에는 겪어보지 못한 새로운 현상이다. 하지만 데이터 권위는 아직 완전하지도 않고, 더 나아가 안전하지도 않다. 최근 전문가들의 지적이 이어지고 있다. 데이터를 근거로 들이대면 그 도출 과정이나 분석 방법에 대한 검증은 경시한 채 무조건적으로 받아들이는 것에 대해 경고하며, 지속적인 감시와 견제를 통해 이를 보완해야 한다고 입을 모으고 있다.

한국인공지능법학회장을 맡고 있는 고학수 서울대 교수는 '인공지능은 차별·편견을 인간에게서 배운다(2020.1.6. 중앙일보)'라는 제목의 칼럼에서 인공지능의 판단 결과를 보고, 편견이나 차별이 담겨 있다면 그런 결과가 나오지 않도록 모델을 계속 수정해 나가야 한다고 했다. 방송통신위원회는 새로운 기술로 인한 위험을 최소화하기 위해 '이용자 중심의 지능정보사회를 위한 원칙(2019.11.11.)’을 발표했는데, '투명성과 설명 가능성, 책임성, 차별 금지' 등의 내용을 담고 있다.

‘절대 권력은 절대 부패한다’는 말이 있다. 마찬가지로 ‘절대 권위’도 위험할 수 있다. 신이 권위를 가졌던 시대에는 신을 대리하는 자들의 횡포가 있었고, 마녀 사냥에 의한 희생도 있었다. 왕이 권위를 가졌던 시대에는 독재에 의한 폭정과 탄압이 있기도 했다. 다수와 전문가가 권위를 가지는 시대에는 소수의 희생과 권력의 집중이라는 부작용도 있었다. ‘권위의 집중 및 독점의 견제’가 필요하다는 것이 역사의 교훈이다.

데이터가 권위를 갖는 것은 사람의 시대가 아니라 데이터의 시대가 된다는 점에서 보다 큰 변화이다. 데이터가 사람에게 주는 혜택이 큰 것은 분명하지만, 데이터의 독주와 횡포를 감시하고 제어할 수 있는 장치가 필요하다.