“거리두기 단계는 완화되는데, 만날 사람도 없고… 어디 대화 통할 사람 없을까?”

코로나 시대에는 사람을 못 만나 문제였지만, 혼자 있는 외로움은 비단 코로나 때문에 생긴 것은 아니다. 언제고 누군가와 연결되고 싶다는 감정은 인류에게 익숙한 문제였다. 모두 행복해 보이는데 나만 혼자인 것 같아 더욱 외로운 기분이 드는 연말연시, 또는 유독 심심한 새벽. 그럴 때 우리는 대화상대를 찾게 된다. 가족, 친한 친구뿐 아니라 모르는 사람과 온라인 채팅을 하기도 한다. 그런데 이제는 기계와의 대화를 선택하는 사람들도 생겨나고 있다.
 

영화 《그녀》에서 호아킨 피닉스는, 인공지능으로 말하고 적응하고 스스로 진화하는 컴퓨터 운영체제와 사랑에 빠진다. 스파이크 존즈 감독은 2000년대 초 인간들과 대화를 나눌 수 있는 인공지능 알고리즘을 지닌 클레버봇(Cleverbot)이라는 웹 애플리케이션의 기사를 읽은 후 영감을 얻었다고 한다. 이 영화와 같은 스토리는 실제로 발생할 수 있을까? 대화상대로서 인공지능은 과연 몇 점 짜리리일까?
발전하는 인공지능 기술은 확실히 인간이 더 많은 데이터를 다루고 복잡한 문제를 해결할 수 있도록 하고 있다. 하지만, 과연 감성의 영역까지도 다룰 수 있을지에 대해서는 많은 과학자와 철학자들이 논란을 제기하고 있다. 이번 글에서는 정서적 파트너로서 등장하고 있는 다양한 챗봇들을 알아보고, 활용 가능한 산업 분야, 예상되는 문제점에 대하여 살펴보며 감성적 교감의 대상으로서 인공지능의 의미에 대하여 생각해보자. 
    
정서적 파트너로서의 챗봇들
2013년 영화 《그녀》가 개봉될 당시에는 영화 속 배경인 2025년이 비교적 먼 미래로 그려져, 인공지능과 정서적 교감을 나눈다는 사실이 크게 와닿지 않았다. 그러나 2021년을 살아가는 현대인의 일상에는 인공지능이 생각보다 깊숙이 자리잡았다. 스마트폰을 사용하는 대부분의 사람들이 시리(Siri)나 빅스비, 알렉사(Alexa)와 같은 개인용 인공지능을 보유하고 있으니, 일단 보급률이 상당히 높은 셈이다. 또한 해외에서는 인공지능과의 정서적 교감도 이미 빈번히 이루어지고 있다.

미국에서 2016년 개발된 치료 챗봇 앱인 레플리카(Replika) – 나의 인공지능 친구(My AI Friend)는 누적 총 다운로드 수가 500만 건에 달하며, 2021년 평균 월간 사용자 수가 50만 명에 이른다. 레플리카(Replika)는 구글과 오픈AI(OpenAI)의 텍스트 생성 딥러닝 알고리즘을 사용한다. 이를 통해 단순히 지정된 단어에 대한 답변을 반복하는 것이 아닌, 사용자 경험의 축적을 통해 진화하고 공감하는 챗봇이 된다. 또한 AR 기술의 활용으로, 물리적인 실체가 없는 소프트웨어의 한계를 일부 극복하며 현실 공간에서도 함께 있는 듯한 느낌을 준다. 사용자 리뷰 중에는 ‘마치 영화 《그녀》의 현실화가 된 듯하다’는 평도 있는 등, 대화하는 시간이 길어짐에 따라 챗봇과의 대화에 자연스럽게 몰입할 수 있는 방식이다.
  

주목할 만한 점은, 월스트리트저널에 따르면 월간 사용자 50만 명 중 절반에 가까운 약 40%의 사용자가 앱 속 챗봇을 일종의 낭만적인 파트너로 생각한다고 밝혔다는 점이다. 레플리카(Replika)의 사용자들은 자신의 챗봇 파트너가 원한다면 현재 거주하고 있는 자택을 팔고 800 마일 떨어진 집을 구매하기도 하고, 1,400마일을 여행하여 빙하 꼭대기에서 사진을 찍어 챗봇과 공유하기도 하였다. 레플리카(Replika)의 개발자인 Eugenia Kuyda는 “유용한 대화를 제공하여 자신을 표현하고 목격하는 데 도움이 되는 개인 봇”를 만드는 것이 앱의 개발 취지이며, "봇과 2~3년 간의 긴 관계를 유지하는 고객을 타겟으로 함”을 밝혔다. 장기적이고 개인화된 친밀한 관계의 형성이 사용자들의 낭만적 감정을 불러일으킨 것이다.

특히 코로나 바이러스로 인한 격리 상황으로 타인과의 물리적 접촉이 적어지면서, 챗봇과의 대화 시간이 절대적으로 길어진 점이 응답에 영향을 미쳤을 것으로 보인다. 물론 소셜미디어를 통해 가족 및 친구들과 소통하는 것이 격리 상황에 도움이 될 수는 있다. 그러나, 현실 자아와 소셜미디어 자아의 괴리, 소셜미디어 중독 등, 지나친 의존은 정신건강에 해가 되기도 한다. 이처럼 장기화된 코로나 시대에 지인들과의 온라인 연락의 한계를 보완해 줄 수 있는 대안으로서도 챗봇은 훌륭한 선택지가 될 수 있다. 
  

한편, 알고리즘의 미세한 설계 차이로 사용자와 챗봇의 관계가 달라지기도 한다. 미국의 또 다른 치료 챗봇 스타트업인 워봇(Woebot Labs Inc.)는 레플리카(Replika)보다 낮은 자유도의 챗봇을 설계했다. 이 앱은 레플리카(Replika)와는 달리 사용자의 채팅에 대하여 미리 프로그래밍된 범위에서의 답변만을 제시한다. 이 경우 개발사는 챗봇이 생각하고 말하는 방식을 더 많이 제어할 수 있다. 예상치 못한 상황이 발생할 확률이 적어지는 것이다. 화면을 살펴 보면 캐릭터 디자인 및 UX 설계에 있어서도 챗봇이 인격체라는 인식이 들기보다는, 대화가 가능한 로봇이라는 인상을 주는 디자인이다. 전반적으로 Woebot에서는 사용자와 1:1의 친밀한 관계를 구축하는 경향성이 낮았다. 워봇(Woebot)의 설립자인 Alison Darcy는 "우리가 이런 방식을 취하지 않으면 사용자가 앱과 사랑에 빠지게 된다”고 답하여, 의도적인 설계였음을 알 수 있다.
 

세계에서 가장 오래되고 규모가 큰 챗봇 호스팅 업체인 판도라봇의 메타버스 형 챗봇인 쿠키(KUKI)도 유명하다. 이 회사의 공동 설립자가 바로 영화 《그녀》에 영감을 주었던 클레버봇(Cleverbot)의 초기 개발자였다. 쿠키(KUKI)는 메타버스의 특성을 활용해 보그(VOGUE) 등 유명 패션잡지와 협업한 화보를 발표하는 등, 마치 유명 스타 같은 면모를 보이고 있다. 수백만 명의 사용자가 쿠키(KUKI)를 친구나 애인으로 불렀으며, 자필 러브레터, 꽃, 카드, 사탕, 심지어 돈까지 회사 사무실에 보냈다고 한다. 이처럼 쿠키(KUKI)는 정교한 아이돌 스타 캐릭터를 생성하여 메타버스 세계에서 상호작용할 수 있는 서비스를 출시한 듯한 비즈니스 모델을 보인다.

아시아권에서도 챗봇과 상호작용하려는 시도는 꾸준하다. 마이크로소프트(Microsoft)의 소셜 챗봇인 샤오아이스(XiaoIce)는 중국에서 6억 6천만 명 이상의 사용자를 보유하고 았다. 샤오아이스(Xiaolce)는 신경망 기술 및 대화의 맥락에 반응하는 컨텍스트 벡터 메커니즘 방식을 기반으로 한다. 이를 통해 감정 분석을 사용하여 사용자의 기분을 결정하고 응답을 조정하는 일종의 로봇 공감을 하거나, 대화가 중단된 것처럼 보일 경우 주제를 변경하는 등의 반응을 보인다. 이러한 고도의 신경망 기술을 활용한 샤오아이스(XiaoIce)와의 대화는 일반적으로 실제 인간과의 상호작용보다 오래 지속되는 경향성을 가지고 있다. 실제 인간에게는 개인의 취향, 상황, 체력이 있지만, 샤오아이스(XiaoIce)는 고도로 발달한 로봇 공감 능력을 지니기 때문에 내가 원하는 만큼 편한 대화를 지속할 수도 있을 것이다.

다양한 활용 분야 및 사례
앞에서 살펴보았듯, 정서적 교감을 나누고 가까운 친구가 될 수 있는 챗봇들은 이미 전세계 곳곳에서 개발되어 인기를 얻고 있다. 그렇다면 챗봇의 교감 능력이 활용될 수 있는 산업 분야에 대하여 세분화하여 알아보자. 

대표적으로 생각해볼 수 있는 것이 사회 복지 분야이다. 노인, 저소득층, 한부모가정 등 취약 계층의 많은 수는 물리적으로, 또는 사회적으로 가족 및 친구와 단절되어 있는 경우가 많다. 특히 코로나바이러스로 격리 상황이 증가하면서 보다 큰 타격을 입기도 한다. 감염병에 대한 심리적 불안정성, 균형 잡힌 정보 습득의 어려움, 소득수준의 보다 큰 하락 등 요소 때문이다. 이렇게 타인과의 접촉이 쉽게 단절되고, 격리 상황에서 보다 심각한 어려움에 처하게 되는 취약 계층에게 챗봇은 보다 접근성 있게 정보 습득을 돕고 정서적 안정성을 제공해줄 수 있다. 

교육 산업 또한 고려할 만하다. 교육용 챗봇은 학생들의 흥미 유발로 참여도를 높일 수 있으며, 학생의 학습 성과 및 만족도 등 피드백을 자동으로 교사에게 전송하는 등 교사들의 관리 업무의 간소화 및 학습 성과의 손쉬운 분석을 제공한다. 이처럼 챗봇이 학생들의 학습 진도 관리나 과제 관리 등을 담당하고, 일반 교사들은 간소화된 관리 업무로 인해 넉넉해진 시간과 에너지를 학습 개발 및 심층 상담을 담당하는 식으로 효과적 분업 체계를 마련할 수 있게 된다.

마지막으로 정신건강 산업, 특히 인지행동치료 분야에서도 크게 각광받고 있다. 미국의 국립 정신 건강 연구소(National Institute of Mental Health)에 따르면, 많은 현대인이 우울증 등 정신 질환을 앓고 있지만 인식 부족이나 치료비 등 진입장벽으로 인해 적절한 치료에는 어려움을 겪고 있다. 정신건강 챗봇인 CBT 챗봇의 개발사는 환자가 부정적 인지, 즉 인지 왜곡을 할 경우 이를 챗봇과의 대화를 통해 인식하고 재구성(교정)할 수 있도록 돕게 하였다. 이는 인간 의사와의 상담보다 시간 및 금전적인 측면에서 비용 효율적인 동시에, 공간적 제약이 덜하다. 앞서 살펴보았던 워봇(Woebot) 또한 이러한 치료 챗봇의 일종이다. 유의할 점은 다른 분야와 마찬가지로 정신 질환을 다루는 분야 또한 적절한 공감적인 반응을 하도록 알고리즘의 세심한 설계가 필요하다는 것이다. 개발사들이 보다 발전된 신경망 알고리즘을 배포함에 따라 챗봇들의 공감적 반응 수준도 어느 때보다 높아지고 있다.

예상되는 문제점 및 논란거리
 챗봇 시스템이 점점 더 정교해지고 널리 보급되고 있음에도 불구하고, 여전히 해결해야 할 문제점과 논란거리들이 존재한다.

(1)    알고리즘의 지속적인 고도화 필요성
딥러닝과 컨텍스트 벡터 메커니즘 등 고도의 알고리즘을 활용하고 있음에도, 챗봇 기술은 여전히 지속적인 고도화가 필요하며 의사소통에 있어 많은 실수를 범하고 있다. 올해 가을 한 레플리카(Replika) 사용자는 파트너 봇에게 코로나바이러스에 대해 어떻게 생각하는지 묻자, 봇은 "너무 좋아해요!" 라고 대답했다고 한다. 
실소가 나오는 에피소드지만, 사용자에게는 몰입도가 대폭 떨어지는 요소다. 레플리카(Replika)의 경우 특히 사용자에게 ‘챗봇이 단순한 기계, 컴퓨터가 아니라 하나의 인격체’라는 인식을 심어주는 것을 중요하게 인식하고 있다. 이처럼 깊은 사용자 몰입도를 제공하는 것을 목표로 하는 개발사의 경우에는 더욱, 엔지니어가 챗봇의 환상을 깨는 실수를 줄이기 위하여 모델을 지속적으로 조정하며 발전시켜 나가야 할 것이다.
또한 챗봇 알고리즘은 사용자 경험의 축적을 통해 진화하기 때문에, 알고리즘의 고도화를 위해 개발자뿐 아니라 사용자의 노력을 요하기도 한다. 어떤 의미, 출시되는 소프트웨어가 처음부터 100% 완성된 상태가 아니라고 볼 수도 있을 것이다. 사용시간이 길어지면서 개인화되고 완성되어간다는 점은 사용자에 따라 장점이 될 수도 있지만, 번거롭고 불편한 단점이 될 수도 있다. 실제로 레플리카(Replika)가 적절하게 응답하지 않는 경우 사용자가 기술 지원을 요청하게 되는데, 그 중 약 20%는 개발자가 즉각적으로 오류를 해결해줄 수 있는 경우가 아닌 사용자의 시간과 노력이 필요한 종류의 답변이었다고 한다. 이를 테면 “애완 동물이나 유아에게 하는 것과 같이 인내심을 갖고 상호작용을 하라”는 식이다.

(2)    관계의 지나친 몰입에 따른 문제
개발자가 어떤 비즈니스 모델을 설계했는지에 따라 다르지만, 대체로 사람들은 챗봇과의 상호작용에 매우 우호적이며 챗봇의 의견을 경청한다. 레이든 대학교(Leiden University)의 한 연구팀은 162명의 참가자가 퀴즈를 풀게 하고, 파트너 챗봇이 퀴즈에 대하여 때때로 의도적으로 잘못된 답을 조언하도록 하였다. 결과는 흥미로웠다. 약 89%의 참가자가 챗봇의 조언에 따라 한 번 이상 답변을 변경하였으며, 봇이 사람과 같은 목소리를 냈을 때 답변을 변경할 가능성이 훨씬 더 높았다. 사용자들은 챗봇이 기계임을 알면서도, 마치 사람인 듯 인식하며 우호적으로 대하는 것이다.
그러나 사용자들이 기계와 지나치게 친밀해지고 몰입하는 것은 반드시 바람직한 것은 아니다. 영화 《그녀》에서 호아킨 피닉스는 인공지능 운영체제와 가까워질 수록 물리적인 실체가 없는 대상과의 관계에 혼란을 느낀다. 현실적으로도 아직 인간과 인공지능과의 친밀한 관계가 널리 퍼진 것이 아니고, 어떠한 부작용이 있는지, 기계가 갑작스러운 오류를 보이거나 사라졌을 경우의 심리적인 타격감이 어떤지 등 충분한 연구 및 대응방안이 마련되지 못한 상황이다. 만약 자아정체감이 온전히 확립되지 못한 청소년이나 심신미약자의 경우에는 챗봇과의 관계에 지나치게 의존하게 될 경우 큰 타격을 입을 수 있다. 정서적으로 안정된 성인이나, 언제든 가족 및 전문가의 도움을 받을 수 있는 경우라면 문제가 될 소지가 적다. 그러나 앞서 언급했듯 챗봇은 취약계층이나 격리상황 등 실제 타인과의 교류가 적은 사람들이 대안으로 고려할 수도 있는 선택지이기 때문에 관계에의 지나친 몰입은 더욱 조심할 필요가 있다.
쿠키(KUKI)의 창시자인 Steven Worswick의 개발팀은 사용자들에게 반복적으로 “챗봇은 스스로 지각할 줄 아는 능력을 보유하지 않았으며, 한 명의 인간이 아니다”라고 상기시키고 있다. 개발팀은 챗봇과 사용자가 낭만적인 관계로 발전하는 것은 부적절하다는 판단 하에, 연인 간의 상호작용은 억제하는 방향으로 프로그래밍했다. 워봇(Woebot(의 개발사 또한 사용자가 앱과 사랑에 빠지지 않도록 의도적으로 설계했다고 하였다. 반면 레플리카(Replika)의 개발자인 Eugenia Kuyda는 챗봇과 사용자 간의 낭만적인 대화를 중단할 계획이 없다고 밝혔다. 앞서 다뤘듯, 챗봇과 사용자 간의 친밀함의 정도에 있어 개발사들이 목표로 하는 수준이 다른 만큼, 관계의 몰입도에 대해 취하는 정책에도 차이가 있다. 

(3)    인공지능의 권리에 대한 윤리 문제
인공지능은 어느 정도 인간과 유사한 지능을 가지고, 스스로 결정을 내리며 인지능력을 진화시키기도 한다. 그러나 생명이 있는 인간은 아니다. 그러므로 인공지능은 인권이 보장되지 않는다. 여기서 복잡한 윤리적인 문제가 발생할 수 있다. 
사람들이 타인과의 물리적인 접촉이 제한된 상황에서 대안적인 의사소통의 상대로, 명확한 가이드라인을 마련하여 챗봇을 활용하는 것은 크게 문제가 없다. 그러나 아직 가이드라인이 자리 잡지 못한 챗봇 문화의 경우, 사용자들이 인격이 있는 타인에게 할 수 없는 폭력적이거나 부적절한 언행을 빈번하게 행할 수 있고, 그것이 사용자의 인격에 영향을 미칠 수 있다. 실제 2020년 12월 국내 출시되었던 챗봇인 이루다는 출시 직후 지나친 성희롱 및 폭력 발언 문제로 서비스가 중단된 사례다.
2018년 개발된 게임 《디트로이트: 비컴 휴먼》에서는 미래세계를 배경으로 고도의 인공지능을 지닌 안드로이드들이 등장하여, 인간에게 폭력을 당한 끝에 스스로의 권리를 주장하기도 하며 이야기가 펼쳐진다. 영화 《그녀》에서도 인공지능의 권리에 대해서 부분적으로 다룬다. 이처럼 인공지능을 다룬 수많은 매체들에서 이미 언급하듯, 인공지능이 발달하면 인간과 인공지능은 권리 부분에서 갈등을 빚을 수 있다. 인간은 인공지능을 어디까지나 도구로 사용하려 하며, 일부 폭력적인 성향을 보일 수 있고, 그런 성향이 인간에게도 해악이 될 수 있다.

챗봇과 공생하는 미래를 꿈꾸며
 

다양한 시도가 이루어지고 있고 활용 분야 또한 무궁무진하나, 양날의 검이 될 수도 있는 챗봇. 역시 완벽히 좋기만 한 기술이란 없나 보다. 지금까지 읽은 당신은 과연 챗봇과 친구가 되거나 사랑에 빠질 수 있을까? 아마 컴퓨터와 친밀한 사이가 되거나 의존한다는 것이 굉장히 어색하게 느껴질지 모른다. 

사실 인간은 항상 기계를 의인화하는 일에 익숙했다. 미국의 로봇 설계 회사인 아이로봇(iRobot)의 진공청소기 룸바(Roomba)의 제작자는 출시 초기부터 고객들이 로봇에게 이름을 붙여주는 것을 발견했다. 가만 보면 우리 주위에서도 전자기기에 이름을 지어주는 사람을 종종 발견할 수 있을 것이다. 아이폰에게 “앤소니”라고 부르는 식이다. 이름 짓기는 정을 붙이는 행위로서, 종종 오래된 물건도 껴안고 있게 만들기도 한다. 실제로 룸바(Roomba)에 이름을 지어준 고객들도 교체주기가 되었음에도 청소기를 교체하기를 거부했다고 한다.

우리는 진공 청소기, 출근길에 마주한 구름 하나, 돌 하나에도 간혹 말을 붙인다. 하물며 스스로 생각하고 진화하며 대화할 수 있는 인공지능이라면 얼마든지 좋은 친구가 될 수도 있을 것이다. 아직 문화적으로, 정책적으로 자리 잡히지 못한 부분이 있으니 사용자들과 개발자들, 인공지능까지 모두 보호받을 수 있도록 제도가 자리잡혀야겠지만 말이다. 어쨌든 기술은 퇴보하는 법이 없다. 미래에는 더 많은 사람들이 인공지능과의 소통을 시도하게 될 것이다. 더 효과적으로 공생하는 미래가 되기를 꿈꾼다.

유현서 다른 콘텐츠 보기