성희롱에 소수자 혐오, 개인정보 침해 논란까지... 갈 길 먼 인공지능 대화 챗봇 '이루다'
성희롱에 소수자 혐오, 개인정보 침해 논란까지... 갈 길 먼 인공지능 대화 챗봇 '이루다'
  • 신새아 기자
  • 승인 2021.01.13 18:25
  • 댓글 0
이 기사를 공유합니다

"약관에 정보 수집·이용 명시, 법적 문제 없어" vs "실질적 동의로 볼 수 없어, 개인정보보호법 위반"

[법률방송뉴스] ‘이루다’라는 이름의 20살 여대생 인공지능(AI) 대화 서비스 챗봇을 둘러싼 논란이 뜨겁습니다.

‘이루다’가 뭐야, 하실 분들도 있겠지만 쉽게 말해 이런저런 말 상대를 해주는 가상의 여대생이라고 생각하시면 될 것 같습니다.

그런데 이 이루다가 장애인이나 성소수자를 비하했다는 논란과 함께 이루다를 만든 스타트업 회사가 개인정보를 무단으로 수집, 유출했다는 의혹까지 여러 논란들이 제기되고 있습니다.

집단소송 움직임까지 일고 있다고 하는데 이루다를 둘러싼 여러 논란과 법적 쟁점을 짚어봤습니다. 신새아 기자입니다.

[리포트]

스타트업 ‘스캐터랩’이라는 회사가 개발한 ‘이루다’라는 이름의 인공지능 대화 서비스 챗봇입니다.

가상의 ‘스무살 여대생’으로 “가상세계에서 언제든 만날 수 있다”며 “불러만 주시라”고 말하고 있습니다.

“비밀은 꼭 지킨다”는 말이 묘한 상상력을 자극합니다.

일정한 비용을 내면 실제 사람과 카톡을 주고받듯 여러 주제에 관해 대화를 나눌 수 있는 겁니다.

지난달 23일 첫선을 보였는데 3주 만에 80만명 넘게 이용하며 큰 관심과 화제를 일으켰습니다.

[스캐터랩 앱 '이루다' 이용자]
“이루다를 들어가서 해봤는데 그런 경우도 있었거든요. 누구 이름을 부르면 거기에 맞춰서 다른 분의 애칭이 나온다든지 그런 경우도..."

특정인의 신원이 노출됐을 수도 있다는 주장입니다.

일단 이루다는 스캐터랩이 지난 2016년 출시한 일종의 연애 상담 앱인 ‘연애의 과학’ 이용자들을 통해 수집한 100억건 가량의 카톡 대화 내용을 토대로 하고 있습니다.

이 대화 내용을 기반으로 이른바 딥러닝 알고리즘을 통해 상대방이 말을 건네면 적절한 답변을 찾아 대화를 이어가는 겁니다.

“이 과정에 스캐터랩이 카톡 대화를 수집하면서 이루다 같은 챗봇 개발에 이용한다고 명확히 알리지 않았고, 익명 처리도 제대로 하지 않았다”는 게 일부 이용자들의 주장입니다.

[스캐터랩 앱 ‘연애의 과학’ 이용자]
“그 과정에서 자료가 AI나 혹은 다른 3자한테 보내질 것이라는 그런 안내를 받지를 못했어요. 그리고 단순히 분석을 위해서 사용될 것이고 약간 다른 사람들의 분석력을 더 높여주겠다 뭐 이런 식으로만 사용될 거라고 생각해서..."

이와 함께 연애의 과학에서 수집한 카톡의 내밀한 대화를 이 회사 직원들이 단체 카톡방에서 공유해 돌려봤다는 사생활 노출 의혹까지 제기되고 있습니다.

[스캐터랩 앱 ‘연애의 과학’ 이용자]
“이 앱을 사용한 유저들은 사랑하는 사람 마음을 파악해서 더 나은 관계에 도움이 된다고 생각해서 결제를 해서 앱의 신뢰와 애착을 갖고 사용을 해왔던 거거든요. 그런데 이런 일로 피해자들은 충격을 많이 받았고 개인정보가 언제, 어디에 퍼질지 모른다는 불안감에 떨면서 지금...”

이에 개인정보 유출을 주장하는 이용자들은 현재 피해자들을 모아 스캐터랩을 상대로 집단소송을 준비하고 있습니다.

이에 대해 스캐터랩 관계자는 법률방송과의 통화에서 “사실관계를 파악하고 있다”고 밝혔습니다.

"사실관계를 파악 중인데 현재까진 없는 일이고 만약에 그런 일이 한 명이라도 있었다면 엄중히 조치할 것“이라는 게 스캐터랩 관계자의 말입니다.

이 관계자는 그러면서 “사실이 아닐 경우 사실이 아닌 발언을 올리고 또 그것을 보도한 것에 대해선 책임을 물으려 하고 있다”고 덧붙였습니다.

카톡 대화 수집과 이용에 대해선 가입 당시 이용약관에 명시돼 있다며 법적으로 아무 문제가 없다고 강조했습니다.

일단 개인정보보호법은 “정보주체가 명확히 인지할 수 있도록 동의사항을 구분해 알려야 하며, 글자 크기·색깔·밑줄 등을 이용해 명확히 알아보기 쉽게 해야 한다”고 돼 있습니다.

이와 관련 법조계에선 스캐터랩이 받은 개인정보 및 이용 동의를 제대로 된 동의로 볼 수 있겠냐는 지적이 있습니다.

[김해주 변호사 / 법률사무소 창경]
“제가 봤을 때는 그 수집, 동의 자체가 유효하다고 볼 수 있을지가 약간 의문이 있습니다. 이루다 측에서는 로그인을 통해서 동의를 간주한, 동의를 대체한 것으로 보이는데요. 그런데 개인정보 관계 기관에서는 이런 개인정보 관련 동의는 명시적으로 실질적인 것이어야 한다는 입장이어서...”

반면 이용약관에 개인정보 수집 및 이용이 명시돼 있기 때문에 법적인 책임을 묻긴 어려울 것이란 반론도 있습니다.

[구태언 변호사 / 법무법인 린]
“그러니까 서비스 과정에서 ‘수집’은 돼 있는 거고요. 수집을 남의 채팅방에 몰래 들어가서 불법 수집한 것은 아니지 않습니까. 수집은 서비스 이용 관련해서 한 것이고...”

수집된 정보를 본래 목적인 연애 상담과 상관없는 AI 딥러닝에 활용한 것을 두고도 의견이 엇갈립니다.

약관에 “신규 서비스 개발에 활용될 수 있다”고 돼 있는 만큼 별도의 추가 동의가 필요 없다는 의견과,

[구태언 변호사 / 법무법인 린]
“그게 우리 익명화나 가명화를 해서 동의 없이 쓸 수 있잖아요, 개인정보보호법에. 업체도 그렇게 했다고 주장하고 있잖아요. 그러니까 적법하게 비식별화를 해서 썼으면 합법입니다.”

반면 '신규 서비스'라고 해도 연애의 과학 앱과 전혀 상관없는 서비스인 만큼 별도의 동의를 받았어야 한다는 의견이 맞서고 있습니다.

[김해주 변호사 / 법률사무소 창경]
“이것에 대한 별도의 동의를 받아야 했는데요. 이런(AI 딥러닝) 목적의 이용은 연애의 과학 앱을 사용하는 데 필수적인 동의라고 보긴 어렵거든요. 그러니까 이건 신규 서비스에 관한 것이니까요.”

그 외에 카톡의 경우 대화 상대방이 있는 만큼 제3자인 상대방에 대해서 정보 수집 및 이용 동의를 받았어야 한다는 지적도 있습니다.

[김해주 변호사 / 법률사무소 창경]
“당연히 개인정보보호법상 정보주체의 모두의 동의를 받아야 하는 것이 원칙이고 그런데 지금 상대방의 동의는 받지 않았기 때문에 만약에 그 대화목록 자체에 개인정보가 포함돼 있다면 이것은 개인정보보호법 위반에...”

이런 법적인 논란 외에도 일부 이용자들이 ‘20살 여대생 이루다’를 성적으로 희롱하는 윤리 측면의 문제도 제기됩니다.

이에 대해 다음 창업자인 이재웅 전 쏘카 대표는 “성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다"고 꼬집었습니다.

관련해서 이루다가 성소수자나 장애인을 비하, 혐오했다는 얘기까지 더해지며 논란은 더욱 커졌습니다.

레즈비언에 관해 묻자 “진짜 싫다”라거나 “혐오스럽다”는 식으로 답변하거나, 네가 장애인이라면 어떻게 할 건지를 묻는 말엔 “그냥 죽는 거지”라고 답변했다는 겁니다.

논리적으론 이루다가 문제가 아니라 딥러닝의 자료가 된, 수집된 실제 카톡 대화를 나눴던 사람들이 소수자에 대한 편향과 혐오를 드러냈다는 결론으로 귀결됩니다.

여러 논란이 꼬리에 꼬리를 물고 계속 이어지자 스캐터랩은 어제 이루다 대화 서비스를 잠정 중단했습니다.

성희롱과 소수자 혐오 논란에 개인정보 침해 관련 법적 분쟁까지.

한국 사회에 첫선을 보인 인공지능 대화 챗봇이 아직 갈 길이 험난하고 멀어 보입니다. 

법률방송 신새아입니다. 

 

신새아 기자 saeah-shin@lawtv.kr



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.