[기자수첩] 'AI 보험금' 지급심사, 기준‧투명성 확보해야

2020-01-29 14:48:10

[프라임경제] AI는 최근 다양한 분야에서 그 역량을 인정받으며, 우리 삶 전반에 영향력을 확대하고 있다. 특히 최근에는 보험금 지급 심사 영역까지 담당하며, 무한 능력을 인정받고 있는 상황. 하지만 AI가 데이터베이스로 평가 할 수 없는 부분과 알고리즘의 변형이 어디까지 가능할지는 여전히 의심스럽기만 하다.

지난 2016년 구글 '딥마인드' 알파고가 이세돌 9단과 바둑 대결을 벌이며, 세간의 이목을 끈 바 있다. 아울러 지난해 '딥마인드'는 알파스타(AlphaStar)가 스타크래프트2 상위 0.2% 게이머에 해당된다고 발표했다.

이에 더해 지난 15일 '한화생명'은 보험금 지급 심사를 위해 '클레임 AI 자동 심사 시스템'을 도입했다고 밝혔다. 이 시스템을 적용하면 현재 25% 수준의 보험금 지급 자동 심사율을 50%까지 올릴 수 있을 것이라고 전하기도 했다.

한화생명은 향후 이 시스템이 안착되면 5년간 약 100억원 이상 비용 절감 효과와 고객 보험금 청구‧수령 기간이 짧아질 것이라 설명하고 있다. 업계 또한 고객의 과다 청구 보험금이 지급되는 등 불필요한 보험료 인상을 예방해 고객이 직접적인 혜택을 받을 수 있을 것이라 기대감을 전하기도 했다.

호사가들은 탁월한 능력을 보여준 AI가 이제는 다양한 분야에 그 역량을 입증하고 있다고 극찬을 마지않고 있지만, 한편에선 AI가 어떤 '기준'으로 지급 심사를 할 것인지에 대한 구체적인 예시나 객관적인 지표를 요구하는 목소리 또한 높아지고 있다.

보험업에서 보험금 지급 심사까지 우리 삶 전반에 영향력을 확대하고 있는 AI. 하지만 AI가 어떤 '기준'으로 지급 심사를 하는지 의뭉스럽다. 단적으로 기업에 긍정적인 데이터베이스를 통한 지급 심사가 이뤄진다고 해도 알 수 없다는 것.

이러한 관점에서 변화되는 정책적인 기준이나 잣대에 투명성을 요구하는 것이 올바르게 느껴질 수 있다.

한화생명 '클레임 AI 자동 심사 시스템'은 AI가 '가공된 데이터'를 학습하며 스스로 알고리즘을 설정하는 '머신러닝' 기술로 만들어졌다. 이후 인간이 설정된 '알고리즘 코딩'을 통해 어떤 알고리즘을 사용할지 선택한다. 이후 선정한 알고리즘이 적용된 AI를 산업 등 다양한 분야에서 사용한다.

데이터 가공, 알고리즘 코딩 단계에서 인간의 주관이나 편견이 개입해 'AI 편향성'이 나타날 수 있다. AI 편향성은 인공지능이 무엇을 판단할 때 한 쪽으로 치우친 결과가 나오는 것을 말한다.

한국정보진흥원이 지난 2018년 12월 발표한 리포트에 따르면 머신러닝 알고리즘이 편향된 데이터 셋(Data sets)을 학습하게 될 경우 한 쪽으로 편향된 결과가 발생할 수 있다며, 실수나 악의로 AI를 설계하면 문제가 생길 수 있음을 시사하기도 했다.  

이러한 문제를 해결하기 위해 지난해 11월, 방송통신위원회는 '이용자 중심의 지능정보사회를 위한 원칙'을 발표하며 AI 알고리즘의 공정성과 책임성을 강조했다. 원칙은 △사람 중심의 서비스 제공 △투명성과 설명가능성 △책임성 △안정성 △차별금지 △참여 △프라이버시와 데이터거버넌스 일곱 가지다.

한화생명 관계자는 클레임 AI 자동 심사 시스템에 대해 "AI의 보험금 기준 알고리즘은 사람이 직접 지급 심사한 결과와 가장 유사한 것으로 선정했다"며 "현재 10만원 미만의 일반적인 소액청구권 수준으로 향후 주기적인 인공지능 학습으로 보험사기를 예방하는 단계까지 발전할 수 있을 것"이라 말했다.

그는 "기업에서도 자체 AI 윤리원칙을 설정하며, 투명성 확보에 몰두하고 있다"고 강조했다. 

김기응 카이스트 교수는 "인공지능에 인간의 편견이 개입하는 것은 가능하다"며 "AI 편향성 제거 위해 학계에서 공학적‧기술적으로 연구 중"이라 말했다.

고객은 AI 판단이 객관적이고 합리적일 것이라 기대하고 있지만, 인공지능의 투명성과 편향성 제거를 만족할 기준 마련은 미비한 실정이다. 소비자의 기대를 저버리지 않기 위해 관계당국과 기업의 협심이 요구되는 부분이며, 산업의 성장을 저해하는 규제가 아닌, 소비자 권리와 기업 발전이라는 '두 마리 토끼를 잡는' 가이드라인 마련이 필요해 보인다.


카카오 페이스북 카카오스토리 트위터


Copyright 프라임경제 ⓒ 무단전재 및 재배포금지
이전 1 / 0 다음
Copyright ⓒ 프라임경제 all rights reserved.