AI 챗봇 ‘이루다’를 기억하는가?

2020년 12월 스캐터랩에서 출시한 ‘이루다’는 20대 여자 대학생이라는 친근한 대상으로 설정되어 출시 3주 만에 약 80만 명이 이용할 정도로 큰 인기를 끌었다.

그러나 일부 이용자들이 ‘이루다’에 성적 괴롭힘을 일삼고 혐오 발언을 학습시켰다는 논란이 일자 스캐터랩측이 잠시 서비스를 중단하는 해프닝이 있었다.

인간-AI의 상호작용과 역기능

CASA(Computers Are Social Actors) 이론에 따르면 인간은 컴퓨터나 AI와 같이 인공적인 대상을 사회적 행위자로 인식하여 사람처럼 같이 대한다(Reeves & Nass, 1996).

따라서 인간은 AI와 같이 비인간적인 대상과 관계를 맺고 소통함으로써 친밀한 대상으로 인식하게 된다.

동시에 사람들은 실제 사람과 대화할 때보다 AI와 소통할 때 욕설과 같은 부정적 정서가 담긴 단어나 성적(sexual)인 단어를 더 많이 사용하는 경향이 있다(Hill, Ford, & Farreras, 2015).

앞서 살펴본 ‘이루다’의 사례와 같이 이용자들이 AI 챗봇을 이용하는 과정에서 비윤리적 행위를 일삼을 경우, 폭력성과 선정성을 내재화할 수 있다. AI 챗봇 또한 필터링 없이 이용자들의 발언을 학습하고 나아가 사회에 이미 존재하는 고정관념이나 편향을 반영할 수 있다는 문제가 있다.

AI 챗봇을 이용하는 과정에서 발생할 수 있는 윤리적 문제를 방지하기 위해 실질적인 방안을 탐색해야 한다.

능동적인 AI 챗봇 설계

일반적으로 AI 챗봇은 이용자를 돕거나 소통하기 위한 목적으로 설계되어 이용자의 부당한 요구에도 수동적이고 순종적인 태도를 보이게 된다.

그러나 AI 챗봇과의 상호작용에서 발생하는 비윤리적인 상황에 대응하기 위해 AI 챗봇이 욕설과 조롱을 막고 능동적으로 대처할 수 있도록 설계할 필요성이 있다.

최어진과 박남기(2023)의 연구는 AI 챗봇 이용 중에 발생한 비윤리적 상황에서 챗봇이 능동적으로 반응할 경우를 가정하여 실험을 진행하였다. 실험에서 AI 챗봇은 이용자의 욕설에 노출된 뒤 욕설을 그만둘 것을 요청하는 메시지를 보내고 이용자의 반응을 측정하였다.

AI 챗봇 맞춤화 서비스

AI 챗봇의 능동적 반응에 대한 이용자들의 심리적 반발을 낮출 방법은 무엇일까?

최어진과 박남기(2023)의 연구에서 AI 챗봇의 맞춤화 수준이 높을수록 챗봇의 능동적 대응에 대한 이용자들의 분노가 감소하는 것으로 나타났다. 이는 AI 챗봇을 지속적으로 이용하고자 하는 의도에도 긍정적인 영향을 미쳤다.

이러한 결과는 AI 챗봇 맞춤화 서비스가 이용자에게 개별적인 콘텐츠를 제공함으로써 서비스에 대한 호의적인 반응을 얻고 충성도를 높일 수 있기 때문으로 해석할 수 있다(Hanus & Fox, 2017).

맞춤화(customization) 서비스란 이용자가 적극적인 주체가 되어 이용자 개인에게 적절한 정보 환경을 조성하는 과정을 의미한다(Dylko, 2016). AI 챗봇 맞춤화 서비스는 이용자가 최적화된 환경에서 편리하고 즐겁게 AI 챗봇 서비스를 이용하도록 돕는 서비스이다. AI 챗봇의 성별이나 나이를 선택하는 것도 맞춤화 옵션에 해당한다.

AI 챗봇에 이용자의 선호를 적극 반영해야

향후 AI 챗봇의 맞춤화 서비스는 개별 이용자의 선호를 반영하는 방식으로 확대될 것으로 전망된다.

AI 챗봇의 특성을 사전에 설정하여 이용자에게 일방적으로 제공하는 방식만으로는 AI 챗봇과 이용자 사이의 상호작용에 따른 부정적 결과를 완화할 수 없다. 따라서 능동적인 AI 챗봇을 설계하는 동시에 이용자의 선호를 적극적으로 반영할 수 있는 방식을 고민할 필요가 있다.