AI는 좋은 것인가?

AI 면접이 국내에서도 새로운 채용 트렌드로 떠오르고 있다. LG 유플러스 , SK브로드밴드 등 100여개 기업과 한국자산관리공사(캠코) 등 공공기관이 AI 면접으로 인적성 검사를 대체하거나 최종 면접 전에 활용하고 있다. 현재 국내에서 널리 쓰이는 AI 면접 시스템은 마이다스아이티의 ‘인에어(inAIR)’로 지난해 3월 출시해 AI 면접 시장을 독점하고 있다. SKC&C도 ‘에이브릴’이란 이름의 AI 면접 시스템을 내놨지만 아직 SK하이닉스 등 계열사 중심으로 활용하고 있다.

하지만 세계 최대 전자상거래 업체인 아마존이 AI 채용시스템의 여성 차별 문제로 이를 폐기한 사례가 있어 국내에서도 이에 대한 우려가 나타나고 있다. 아마존이 2014년 개발한 취업 희망자 이력서 평가 알고리즘은 ‘여성 체스 클럽 캡틴’이라는 이력이나 여자대학 졸업 등 ‘여성’이 들어가면 경력을 평가 절하하는 것으로 판명돼 지난해 10월 폐기됐다. 이런 결과를 빚은 것은 해당 프로그램이 기술산업에서 남성이 지배적이었던 지난 10년간의 이력서 패턴을 학습했기 때문으로 분석됐다(출처: 여성신문, 2019.03.02).

AI 기술진보에 대한 사회적 명분이 뒷받침되지 않으면 각종 규제와 갈등 속에 사회적 수용성이 저해되고 자연히 AI 기술개발에 대한 투자와 활용이 지체된다. 신기술의 저변 확산을 위해서는 정치∙사회적 차원에서 신기술에 대한 사회적 수용성 확보가 우선이다.

 

디스토피아 관점에서의 우려

AI를 바라보는 관점은 유토피아 관점, 디스토피아 관점이 있다.

유토피아 관점은 AI를 인간의 도구로 보는 입장이다. 여기서 AI는 기업경영과 생활편의 수단에 불과하므로 AI라는 용어 자체에 매몰되는 것을 경계한다. AI가 비용 절감과 효율성 증대를 통해 노동 생산성을 11~37% 향상한다는 분석이나(Accenture), AI 왓슨이 암 진단 정확도를 획기적으로 높인다는 분석 결과 등이 이에 해당한다.

디스토피아 관점은 AI를 인간과 기계의 대결로 보는 부정적 입장이다. 그에 따라 일자리 감소나 범죄 악용, 통제 불능과 같은 부작용을 경계하게 된다. 디스토피아 관점을 정리해보면 다음과 같다.

 

▶ 양극화 우려: AI 도입에 소극적인 기업이 도태되는 승자 독식에 대한 우려

▶ 일자리 대체: AI와 인간의 협업 구조 속에서 인간의 역할이 새롭게 생겨나지 않는다면 과거와 같은 일자리 증가는 장담하기 어렵다. 특히, 단순 반복 업무는 RPA(Robotic Process Automation)로 대체되고 있다. 문제가 잘 정의되고 데이터가 충분한 업무 역시 AI에 의한 대체가 진행 중이다. 무인점포 아마존고(Amazon Go)에서는 AI가 인간 점원을 대체하고 있다.

▶ 데이터 편향으로 인한 우려: 앞의 기사에서처럼, 데이터 수집 경로와 처리 과정의 한계로 인해 편향된 데이터(왜곡된 성비, 인종비, 지역 차이 등)를 통해 학습된 알고리즘은 편향된 결과를 제시하게 된다. 음성 인식의 경우, 스마트 기기의 사용이 많은 20~30대 남성의 음성 데이터가 상대적으로 풍부하다 보니, 젊은 남성을 제외한 어린이나 노인 등의 음성은 잘 인식되지 않는 AI 편향이 발생한다.

▶ 범죄 활용 우려: 음성과 영상을 모방하여 합성하는 기술을 이용해 사기 범죄, 안보위협, 여론조작 등 악용 소지에 대한 우려이다. 또한 AI 알고리즘의 오작동을 일으키는 AI 해킹도 AI에 대한 신뢰를 떨어뜨려 사회적 수용성을 저해한다. 구글 리서치 그룹이 논문을 통해 발표한 ‘적대적 스티커(Adversarial Patch, '17.12)’는 원형의 추상적 이미지를 담은 스티커로서, 단순히 인쇄해서 사물 옆에만 붙여 두면 이미지를 인식하는 인공지능 알고리즘이 오작동을 일으킨다.

AI 유토피아를 만들기 위한 노력

AI는 사람이 만드는 것이지만, AI가 사람에게 좋은 발명이 되게 하기 위해서는 대응 방안이 필요하다. AI의 의사결정과 행동을 사람이 확인하고 이해하고, 필요한 조치를 할 수 없다면 AI는 통제불가능한 영역으로 접어들게 될 것이다.

 

▶ 인간-AI 협업시스템 구축 : AI의 활용 성과 극대화를 위한 인간-AI 협업 시스템과 구축을 위해 P.H. Daugherty and H.J. Wilson(2018)은 ①비즈니스 프로세스 재해석하기, ②실험 및 직원의 참여 수용하기, ③적극적으로 AI 전략 세우기, ④책임감 있게 데이터 수집하기, ⑤AI 플랫폼을 통합하고 이와 관련된 기술로 직원들을 육성하기 위한 작업 재설계 하기의 5가지 원칙을 제시했다.

이와 연결해서 ‘설명 가능한 인공지능(eXplainable AI, XAI)' 기술도 '인간-AI 협업 시스템' 구축을 위한 기술적 노력의 일환이다. 인간은 AI의 의사결정 과정을 논리적으로 이해할 수 있을 때 AI의 결과물을 인간의 의사결정에 활용할 수 있고, 반대로 과정을 이해할 수 없는 '블랙박스'의 결과물은 의사결정에 활용하기에 한계가 있기 때문이다.

▶ 딥페이크 탐지 기술 개발 : AI 기반 음성모방 및 영상합성 기술을 활용한 범죄, 안보 위협, 여론 조작 우려를 해소하려는 제도적∙기술적 노력도 대두되고 있다. 제도적 접근으로는, 조직 내 AI 활용 취약점과 AI의 적대적 공격에 대한 취약점을 발견하고 공격하는 역할을 부여 받은 레드팀(Red Team)을 운영하는 방안이 있다. 기술적 접근으로는 구글, 페이스북, 마이크로소프트 등이 연구기관 및 대학 등과 협력하여 딥페이크 편집에 쓰인 AI를 탐지하는 기술 등의 개발을 추진하고 있다.

▶ 데이터 편향방지 노력 : AI의 편향을 탐지하는 기술을 개발하거나, 학습에 매몰되지 않고 어느 정도 응용이 가능한 전이학습(transfer learning)을 통해 데이터 부족의 한계를 극복하는 AI 기술 등도 개발되고 있다. 전이학습 기술은 기존에 대량 데이터를 바탕으로 학습된 알고리즘을 가져와 활용하는 방법으로서, 여기서 더 나아가 한 번의 학습(원샷 러닝) 또는 학습 없이(제로 샷 러닝) 기존 범주에 포함되지 않은 새로운 입력값을 인식하는 기술이 연구되고 있다.

▶ AI 대중화 노력 : 또한 자율주행차량에 의한 보행자 사고나 AI 의료 사고 처리를 위한 법제도 정비 필요성이 제기되고 있으며, AI 기술 활용 교육 및 간편 기술의 개발 등 AI 대중화를 통해 AI 양극화를 완화하기 위한 노력도 지속되고 있다.

 

AI는 급속하게 확산되고 있다

AI 투자는 급성장할 것으로 전망하고 있다.

가트너는 89개국 주요 산업 군 CIO 3천명 이상을 대상으로 조사하여 ‘2019 CIO 설문 조사 결과’를 발표했다. 동 발표에 따르면, AI도입 기업 수는 지난 4년간 270% 증가했다. 도입 기업 비율은 2018년 25%에서 2019년 37%로 증가했다. 투자 규모도 1년 동안 3배 늘었다. 가트너는 “AI 기술이 크게 성숙하면서 기업들이 AI기술 구현에 더 큰 의지를 보여 이러한 대대적인 성장이 이루어진 것으로 보인다”라고 분석했다(bloter, 2019.01).

McKinsey Global Institute(MGI)는 최소한 하나 이상의 AI를 도입한 기업이 2030년경에는 70%가량에 이를 것으로 전망하고 있다. 또한 IDC는 2020년 AI 솔루션 시장규모는 470억 달러(연평균 성장률 55.1%)를 넘을 것으로 예상하고 있다.

증기기관의 발명은 ‘동력의 기계화’라는 점에서 산업 전반에 걸쳐 큰 파급효과를 미쳤다. 인공지능은 ‘지능의 기계화’를 통해 기존 산업의 방식과 가치 사슬을 뒤바꾸는 기반기술(generic technology)이 될 것으로 전망되고 있는 것이다.

 

기업은 AI를 어떻게 준비할 것인가?

AI 기술의 구성요소는 데이터, 알고리듬(소프트웨어), 인프라스트럭처(하드웨어) 등이다. 알고리듬은 오픈소스 형태로 공개되고 있고, 인프라스트럭처는 클라우드를 이용하는 추세이다. AI기술 활용 기업 입장에서 중요한 요소는 데이터이다. 데이터는 일반 기업이 인공지능을 학습시킬 정도로 충분한 규모를 확보하기가 어렵다. 또한 데이터는 기업마다 필요로 하는 데이터 유형이 다르기 때문에 외부에서 조달 받기도 쉽지 않다.

AI를 활용하는 기업에서 알고리듬과 인프라스트럭처는 외부에서 조달하면 어느 정도 해결된다. 데이터를 확보하는 것이 가장 중요하지만 추가로 검토해야 할 부분이 있다. 이는 AI 역량, AI 거버넌스, AI 적용 비즈니스 등이다.

▶ 데이터: 데이터를 충분히 확보하고 있는 기업은 많지 않다. 외부 데이터 확보가 중요한 이유이다. 공공데이터와 대체데이터 등 외부에서 조달 가능한 데이터 소스를 찾아서 확보하는 방안을 추진해야 한다. 근본적으로는 내부 데이터가 정비되어 있어야 외부데이터도 활용할 수 있다. 비구조적 데이터를 포함하여 내부 데이터 원천을 점검하고 인공지능에 데이터를 원활하게 공급할 수 있는 환경을 구축해야 한다.

▶ AI 역량: AI 전문가 수요는 폭발적으로 증가할 것으로 전망되고 있다. 하지만 AI 경험 인력은 아직 충분하지 않다. 기업은 내부 인력 육성과 함께 외부 전문기업과 협업체계를 확보하는 것이 바람직하다. AI 적용 특성상 경쟁사와 외부 전문기업을 공유하는 것은 차별화된 경쟁력을 얻을 수 없다. 내부 전문가 육성은 시간이 걸리기 때문에 외부 전문기업을 찾아서 보다 타이트한 협업 체계를 구성하여야 한다.

▶ AI 거버넌스: 실제 업무에 AI를 도입하는 과정에서 두 가지 문제가 발생한다. 첫째는 AI 각각 업무 별로 도입되기 시작하면 서로 충돌이 발생할 수 있다. 둘째는 AI 도입으로 조직의 KPI 또는 프로세스의 수행 규칙 등의 변경이 필요할 수 있다. 보다 큰 범위로는 기존 비즈니스 모델의 변화를 초래하기도 한다. AI 도입 정책을 수립하고 전사 관점에서 최적화를 달성할 수 있는 거버넌스 체계를 갖추어야 한다.

▶ AI 적용비즈니스: AI 전략에서 첫번째 고민은 우선 어떤 업무에 적용할 것인가 하는 점이다. 이를 위해서는 현재의 비즈니스 모델과 비즈니스 프로세스를 상위 수준에서 정의하는 일이 선행되어야 한다. AI 적용을 위한 기술 타당성과 효과 분석을 토대로 어떤 업무부터 어떻게 적용하고 확산해 나갈 것인가에 대한 계획이 수립되어야 한다. 이를 통해 전사관점에서 바람직한 AI 포트폴리오를 기획하고 유지할 수 있다.

- 끝 -

* ‘1부, AI의 과거, 현재, 미래’의 속편입니다