류기동 ECS텔레콤 이사, 챗GPT 열풍…컨택센터 구축 방안 제시

"금융권 콜센터에서 챗GPT 도입, 생성형 AI기술 검증해야"

[프라임경제] 최근 챗GPT 열풍이 불면서 생성형 인공지능이 주요 키워드로 주목받고 있다. 이 가운데 류기동 ECS텔레콤 이사(박사)는 컨택센터에서 필요한 챗GPT에 대해 구축방안과 전략을 제시했다.

지난 6일 '제9회 인공지능 차세대 컨택센터 컨퍼런스'에서 류기동 ECS텔레콤 이사가 발표하고 있다. = 김이래 기자

지난 6일 서울 양재동 aT센터에서 '제9회 인공지능 차세대 컨택센터 컨퍼런스'가 개최됐다. 여기에서 네번째 발표를 맡은 류기동 ECS텔레콤 이사는 '생성형 AI 기반 컨택센터 구축 방안 및 전략'을 발표했다.

먼저 최근 화두가 되고 있는 챗GPT를 기업에서 왜 사용하고 있지 않는지에 대해 설명했다.

챗GPT는 지난 2021년 9월, 인터넷에 오픈된 자료에 대한 지식만으로 한정돼 특정 기업의 서비스나 상품 등 내용이 제대로 학습돼 있지 않아 지식의 한계가 존재한다. 

이런 탓에 파인튜닝이 어렵고, 1750억 개 파라미터를 가진 AI엔진을 만들기 위해서는 수천대의 GPU 서버가 필요한데, 최소 200억 이상 비용 발생하게 된다. 이밖에도 금융권에서 사용하기에는 보안제약이 많아 어렵다는 얘기다.

하지만 이러한 단점보다 장점이 더 많다는 게 류 이사의 설명이다. 생성형 AI를 컨택센터에 적용하기 위한 전략으로 △LLM 선택 △지식 베이스 구축 △안전성 보장 △성능 보장이 필요하다고 했다.

또 기업이 생성형 AI를 쓰기위해서는 파라미터수가 작은 스몰LLM의 도입을 검토할 수 밖에 없는데, 현재 공개된 스몰LLM은 콜센터의 상담통화 내용을 요약하거나 분석하지 못하는 한계가 있다.

이에 ECS텔레콤은 전화상담을 요약하는 등 상담 후처리에 필요한 내용을 생성할 수 있는 LLM 자체적으로 개발, 내부 지식기반으로 답변을 생성하는 RAG 기반의 어드바이저를 탑재한 상담 어플리케이션인 ECA-GenAI 솔루션을 소개했다.

류기동 이사는 "기존방식은 챗봇 따로, 콜봇 따로 각각 도입해야 하는 어려움이 있었지만, 생성형AI는 하나로 음성봇, TA, 상담도우미 등을 컨택센터에 적용할 수 있는 것이 장점"이라고 밝혔다.

특히 금융권 콜센터에서 챗GPT 도입할 때 고려해야할 사항을 공유했다.

류 이사는 "가장 먼저 생성형 AI기술 검증해야한다. 여러 업체들이 생성형 AI 엔진을 개발 중이지만, 챗GPT와 같은 수준의 지도학습, 강화학습 불가하다"면서 "특정 도메인에 맞는 파인 튜닝을 전제로 개발 중이기 때문에, 충분한 기술 검증 단계 필요하다"고 제언했다.

이어 "생성형AI는 기존 지식을 조합·요약하고, 매끄러운 문장을 생성하지만 항상 환각 현상이 발생할 수 있어 이를 방지하기 위한 기술 검증 필수"라고 덧붙였다.

아울러 용도에 적합한 엔진도 필요하다고 봤다. 그는 "생성형 엔진은 많은 컴퓨팅 리소스를 사용하므로 지식 학습 비용과 답변 난이도 고려한 적용 필요하다"며 "유형 분류, 키워드·패턴 탐지 등은 기존의 룰 기반 엔진이나 BERT 등으로 가능기 때문에 모든 업무에 생성형 엔진을 도입하는 것 보다는 업무 특성에 맞는 엔진 적용 필요하다"고 말했다.