서비스 중단한 'AI 이루다'…계속되는 논란

혐오 및 차별 발언과 개인정보 유출 의혹에 이어 공유까지

[프라임경제] AI(인공지능) 챗봇(문자 또는 음성으로 대화하는 기능이 있는 프로그램 또는 인공지능) 서비스 '이루다'가 동성애와 인종 혐오 및 차별 발언을 비롯해 개인정보 유출 의혹 등으로 서비스 잠정 중단을 결정한 가운데, 수집된 정보가 내부에서 공유됐다는 폭로까지 제기되면서 논란이 재점화되는 모습이다.

이루다는 스타트업 스캐터랩이 지난해 12월 페이스북 메신저 기반으로 개발해 출시한 AI 챗봇이다. 최근 누리꾼들 사이에서 입소문을 타면서 이용자가 약 75만명에 달하는 등 크게 주목받았지만, 악용사례 및 동성애·장애인·여성 등에 대한 차별적 답변으로 논란의 중심에 섰다.

스캐터랩이 개발한 AI 챗봇 서비스 '이루다'. ⓒ 스캐터랩

서비스 잠정 중단까지 이뤄진 데는 '개인정보 유출' 논란이 불거져서다. 앞서 스캐터랩은 연애의 과학이라는 애플리케이션(앱)을 지난 2016년 출시했다. 이 앱 이용자는 일정 금액을 지불한 뒤 연인과 나눈 카카오톡 대화를 삽입하면 답장 시간 등의 대화 패턴 분석을 통해 나온 애정도 수치를 볼 수 있다.

문제는 스캐터랩이 연애의 과학 앱으로 수집한 카카오톡 대화들을 기반으로 이루다를 개발했다고 밝힌 바 있는데, 이 과정에서 이용자들의 데이터를 고지와 동의 없이 외부로 반출해 사업화했고 여기에 개인정보 보호 작업이 제대로 이뤄지지 않아 개인정보가 불특정 다수에게 노출됐다는 의혹이 제기됐다 점이다.

이런 사실이 뒤늦게 알려지자 앱 이용자들은 이루다가 사용자와 대화하면서 특정인의 이름·주소·계좌를 비롯해 연인과 함께 갔던 숙박업소 이름 등의 개인정보가 유출된 화면을 모아 이를 증거로 법적 대응하겠다고 예고한 상황이다.

논란이 확산되자 스캐터랩은 지난 11일 오후 보도자료를 통해 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝히면서 이루다 서비스 잠정 중단을 결정했다. 

이어 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"며 "그런 발언은 회사의 생각이 반영된 것이 아니고 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 덧붙였다.

스캐터랩은 개인정보 유출에 대해서는 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다"고 해명했다. 

끝으로 "앞으로 편향 대화 검출 모델은 모든 분이 사용하실 수 있게 공개할 계획이다"며 "한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있으면 좋겠다"고 말했다. 

이런 가운데 12일 스캐터랩에서 운영하는 '연애의 과학' 서비스 팀에서 근무했던 직원이라고 밝힌 익명의 제보자가 언론을 통해 이루다 개발팀에서 수집된 사용자의 특정 대화 내용 중 연인 간의 성적인 대화, 농담을 캡처해 사내에서 공유하는 일도 있었다고 폭로했다.

보도 내용에 따르면, 개발자가 연인 간 대화에서 재미있다고 생각한 부분을 표 형태로 캡처해 스캐터랩 전 직원이 볼 수 있는 단체 사내 메신저방에 올려 공유했다. 다만, 개발자들 역시 이름 등 기본적인 정보가 가려진 '1차 필터링' 상태에서 정보에 접근할 수 있었다.

현재 한국인터넷진흥원(KISA)은 '시스템 개발·운영자를 위한 개인정보보호 가이드라인'을 배포하고 있다. 해당 가이드라인에서는 개인정보보호법 제29조(안전조치의무)와 정보통신망법 제 28조(개인정보의 보호조치)에 따라 "개인정보처리자는 처리중인 개인정보가 공개되거나 유출되지 않도록 개인정보처리시스템 및 개인정보취급자의 컴퓨터에 적절한 보안조치를 취해야 한다"고 규정한다.

그러나 제보자 증언에 근거해 개발사 측이 기초적인 개인정보 관리 방침을 제대로 지키지 않았던 것으로 보인다고 이를 최초 보도한 언론은 꼬집었다.

보도가 이뤄진 직후 스캐터랩은 입장문을 내고 "진상조사위원회를 꾸려 조사를 시작했다"고 밝혔다. 또한 개인정보 유출 의혹에 대해서는 일정 부분 사과하며, 개인을 특정 하는 것은 기술적으로 불가능하다고 해명했다.

스캐터랩은 "알고리즘으로 실명 필터링을 거쳤는데 문맥에 따라 이름이 남아있는 부분이 있었다"며 "이루다는 회원 정보와 연계돼있지 않은 별도 데이터베이스(DB)에 수록돼있는 문장으로 이용자에게 응답하기 때문에 DB 문장을 조합해 개인을 특정 하는 것은 불가능하다"고 말했다.

특히 연애의 과학으로 카톡 대화 약 100억건을 수집했고 이중 이루다에 쓸만한 문장 1억건을 추려서 별도 DB를 만들었으며, 1억개 문장은 익명화를 거쳐 독립적인 형태로 저장됐다고 설명했다.

끝으로 "개별 문장 단위 대화 내용의 실명·영문·숫자 등의 정보는 알고리즘과 필터링으로 삭제했는데, 문맥에 따라 인물 이름이 남아있는 등의 부분이 발생했다"며 "더욱 세심히 주의를 기울이지 못했다"고 거듭 사과했다.