AI 챗봇 '이루다' 논란에…정부·카카오 'AI 윤리' 대책 마련

방통위, 이용자‧사업자 대상 AI윤리교육…카카오, ESG 위원회 신설 후 결실

[프라임경제] 최근 인공지능(AI) 챗봇 '이루다'의 혐오‧차별적인 표현, 이루다에 대한 이용자의 성희롱성 발언 등이 논란이 되고 있다. 

스캐터랩이 개발한 AI 챗봇 서비스 '이루다'. ⓒ 스캐터랩

사업자‧이용자‧정부 등 지능정보사회 구성원 모두가 AI윤리의 중요성을 인지하고, 각자가 실천할 수 있는 방안을 모색해야 한다는 지적이 제기됐다.

이에 방송통신위원회(이하 방통위)는 사람중심의 AI서비스 정책기반 마련키로 했다. 또한, 카카오(035720)는 증오 발언 근절 원칙을 마련해 국내 기업 중 가장 먼저 대책 수립에 나섰다.

◆방통위 "사람중심 AI 위한 정책 촘촘히 추진"

방통위는 사람중심의 AI서비스가 제공될 수 있도록 이용자‧사업자 대상 교육‧컨설팅을 지원하고, AI윤리규범 등을 구체화해 제도개선을 추진할 계획이라고 14일 밝혔다.

한상혁 방송통신위원회 위원장. ⓒ 방송통신위원회

먼저, 방통위는 올해부터 이용자에게 AI서비스의 비판적 이해 및 주체적 활용에 대한 교육을 진행한다. 

교육 내용으로는 이용자가 AI서비스에 활용된 알고리즘의 편향성을 파악하고, 그에 따른 문제를 최소화하여 서비스를 이용할 수 있는 방안 등을 담을 계획이다. 

오는 2022년부터는 신규예산을 확보해 AI윤리교육 지원대상을 이용자에서 사업자로까지 확대하고, 스타트업 등을 대상으로 서비스 설계시 AI 역기능 등 위험관리 컨설팅을 지원하는 사업을 추진한다. 

AI서비스 이용자 보호원칙의 구체적 실행지침도 마련한다. 방통위는 2019년 11월 '차별금지, 인간존엄성 보호' 등의 내용을 포함한 '이용자 중심의 지능정보사회를 위한 원칙'을 발표한 바 있다. 해당 원칙이 선언적 규정이라면, 올해부터는 이를 실천하기 위한 구체적 사례‧방법 등을 사업자 등과 공유한다는 것.

특히, 사업자의 규제부담 및 AI서비스의 혁신 저해를 최소화하기 위해 민간에서 현재 실천하고 있는 모범사례를 발굴해 이를 바탕으로 실행지침을 마련할 예정이다.     

중장기적으로는 AI 행위를 포괄하는 등 기존 법체계 정비해 나갈 방침이다. 

이를 위해 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내에 지능정보사회 정책센터를 설립하고, 지난해 9월부터 센터 내에 법제 연구반을 구성해 운영하고 있다. 

한상혁 방통위원장은 "AI서비스는 더 많은 부가가치를 창출하고, 생활의 편의를 더해줄 것이지만, 올바른 윤리와 규범이 없는 AI서비스는 이용자 차별과 사회 갈등을 초래할 수 있다"며 "AI기술의 혜택은 골고루 누리되, 부작용은 최소화할 수 있도록 사람중심의 AI를 위한 정책을 촘촘히 추진해 나갈 것"이라고 말했다.

◆카카오, 1년 걸쳐 '증오 발언 근절 원칙' 마련

카카오는 국내 기업 중 처음으로 이달 13일 공식 브런치를 통해 '증오 발언 근절 원칙'을 수립하고 서비스에 적용한다고 발표했다. 

김범수 카카오 이사회 의장. ⓒ 카카오

이는 카카오의 ESG(환경·사회·지배구조) 활동의 일환이다. 최근 카카오는 김범수 이사회 의장이 위원장을 맡는 ESG위원회를 신설하고, ESG 중심 경영 강화에 나섰다.

카카오는 지난해부터 1년여에 걸쳐 '증오 발언 근절을 위한 카카오의 원칙'을 마련했다. 

  

카카오는 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"고 강조했다. 

이어 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다"며 "카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립하게 됐다"고 설명했다.

증오 발언 근절을 위한 카카오의 원칙은 네 가지 항목으로 구성됐다. 

증오 발언 근절을 위한 카카오의 원칙. ⓒ 카카오 브런치 캡처

이번 원칙은 카카오톡 대화 등에는 적용되지 않는다. 

카카오는 "위 원칙은 '공개 게시물' 영역에 한한다"며 "카톡의 사적 대화 공간, 메일, 톡 서랍 등 개인화 서비스와 커뮤니티의 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 말했다.

그러면서 "증오 발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화하겠다"며 "사내 교육과 모니터링도 강화하겠다"고 덧붙였다.