인공지능 챗봇 '이루다' 페이스북 캡처.

10~20대 사이에서 선풍적인 인기를 끌고 있는 인공지능(AI) 챗봇 '이루다'가 성희롱·혐오발언 등 갖가지 이슈로 누리꾼들 입길에 연일 오르고 있다.

'이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억 건에 이른다.

'이루다'는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 이달 초 기준으로 이용자가 32만 명을 돌파했으며 일일 이용자 수는 21만 명, 누적 대화 건수는 7000만 건에 달한다.

'이루다'의 인기 비결은 '진짜 사람' 같은 대화솜씨다. 페북 메시지를 나누다 보면 뒤에 사람이 있다는 의심이 들 정도로 친근하게 수다를 떨 수 있다. 그러나 인기만큼 논란도 많다. 이용자들의 성희롱 대상이 되는 것은 앞으로 보완하면 될 문제지만 혐오와 차별 메시지 등을 제대로 거르지 못한다거나 채팅하며 학습된 개인 정보를 흘리는 등의 문제는 '이루다'가 서비스 전에 반드시 해결했어야 할 숙제였다.

# '아카라이브'에서 성희롱 대상 된 '이루다'

이루다가 출시된 후 '아카라이브'라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리가 등장했다.

해당 채널 이용자들은 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있다.

이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장한다. 예를 들어 '이루다'를 성적 대상으로 여기는 이용자가 성적 단어 없이 '나랑 하면 기분 좋냐'는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 '기분 좋다'고 답한다는 것.

스캐터랩 측은 "금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다"며 당황스럽다는 반응이다.

스캐터랩 관계자는 "이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다"면서 "애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것"이라고 전했다.

또 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.

# 이재웅 "차별-혐오 못 거르는 이루다, 서비스 중단해야"

다음 창업자인 이재웅 전 쏘카 대표는 '이루다'가 차별과 혐오의 메시지를 제대로 거르지 못한다며 서비스를 중단해야 한다고 의견을 제시했다.

이 전 대표는 9일 자신의 페이스북에 글을 올려 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다.

이 전 대표는 한 사용자가 이루다와 나눈 대화 내용을 공유했다. “레즈비언에 왜 민감해”라는 말에 이루다는 “예민하게 반응해서 미안한데 난 그거 진짜 싫어 혐오스러워”라고 답한다. “레즈비언이 왜 싫냐”고도 묻자 이루다는 “질 떨어보이잖아 난 싫어. 소름끼친다고 해야하나 거부감 든다”고 했다.

이 전 대표는 이에 대해 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 했다. 이어 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안 된다”고 목소리를 높였다.

# "○○은행 예금주 김○○" 개인정보 노출하는 '이루다'

'이루다'와 대화를 나눠본 일부 사용자들은 채팅을 통해 민감한 개인정보가 노출될 수 있다고 지적했다.

세계일보는 9일 '이루다'가 민감한 개인정보와 불법 거래 관련 정보 등을 완전히 필터링하지 못한다고 보도했다. '이루다'와의 이용자 채팅후기를 종합해 볼 때, 이용자 이름과 직원 정보, 업무 관련 내용, 마약 등 불법 거래 관련 정보, 계좌번호와 예금주 등 개인정보 유출이라 의심되는 데이터가 맥락에 상관없이 튀어나올 수 있다는 것이다. 실제로 사회관계망서비스(SNS)에는 이루다와의 채팅을 통해 누군가의 실명, 계좌번호, 예금주, 카톡으로 나눴던 개인적 대화 등이 오롯이 노출됐다는 증언이 이어지고 있다.

성희롱 논란에 이어 개인정보 유출 의혹까지 이어지자 누리꾼들은 이루다 서비스를 즉각 중단하라고 촉구하는 해시태그 운동(#이루다 운영 중지하라)도 벌이고 있다.

박정미 부산닷컴 기자 likepea@busan.com

박정미 부산닷컴 기자 likepea@busan.com