인공지능(AI) 챗봇 등 일반 소비자를 대상으로 한 AI 상품 및 서비스 공급이 늘고 있는 가운데 AI 윤리 기준을 서둘러 도입해야 한다는 목소리가 높아지고 있다. 특히 글로벌 대기업을 중심으로 AI 윤리 기준 만들기 사례가 늘어남에 따라 정보통신기술 업계 내에서 관심이 높아지고 있다.

글로벌 기업들은 AI 윤리 기준을 일찌감치 공표하며 이를 적극 실천하고 있다. 구글은 사회적 유익성, 불공평한 바이어스 방지, 안전성 확보를 염두에 둔 개발 및 실험, 설명 책임, 프라이버시 원칙 적용, 과학적 탁월성의 탐구, 기본 이념에 따른 기술 제공 등 일곱 가지 AI 윤리 원칙을 내세우며 이를 강조하고 있다. IBM은 AI 접근법 및 원칙을 자사 홈페이지에 공개하며 세간의 주목을 받았다. 또 마이크로소프트(MS) 역시 AI 기본 원칙을 세우고 AI 윤리위원회를 최근 발족했다.

이러한 일련의 자발적인 노력은 과거 AI 윤리 부재에 따른 논란이 반면교사로 작용했다. MS는 2016년 AI 챗봇 '테이(Tay)’를 런칭했으나 유저들이 인종차별, 성희롱 발언을 학습시키는 바람에 혐오 발언을 쏟아내 운영 중단이라는 강수를 뒀다. 아마존은 AI 면접 시스템을 구축했으나 여성 및 인종차별 등의 문제가 불거지면서 개발 중단이라는 비참한 성적표를 받아들인 바 있다.

국내에서도 AI 윤리 기준에 부합하기 위한 시스템 개발 및 도입이 적극 이뤄지고 있다. 인공지능(AI) 챗봇 기업 '심심이’는 정부 AI 윤리 기준에 부합하는 자체 시스템을 런칭해 주목을 받고 있다. 악성 글, 악플 탐지가 가능한 필터링 솔루션 ‘DBSC(Deep Bad Sentence Classifier)’가 바로 그 것이다.

심심이의 DBSC는 자체 연구개발 노하우로 탄생한 문장 분류 솔루션으로 악플을 99% 이상 실시간 탐지 가능한 것이 특징이다. DBSC는 신조어, 은유적 표현 등을 과도하게 필터링하지 않고 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 포착하는 특화된 차단 성능을 발휘한다. 실제로 심심이는 DBSC의 딥러닝 모델 정확도가 99% 이상으로 집계된다고 발표하며 눈길을 끌었다. 또 머신러닝의 성능 지표인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도 및 재현율을 자랑한다는 것이 심심이 측 설명이다.

심심이의 DBSC 성능은 AI 윤리 기준에 적합한 시스템 개발 사례로 국내외 업계 내에서 높은 평가를 받고 있다. 무엇보다 시스템을 지속적으로 발전시키기 위해 딥러닝 학습데이터의 양과 질에 많은 연구개발 노력이 이뤄진다는 점에서 차세대 AI 챗봇 윤리 시스템의 롤 모델로 떠오르고 있다.

심심이 최정회 대표는 “최근 업데이트한 버전의 경우 한국어 채팅에 많이 쓰이는 문장을 210만 개 확보하여 학습데이터로 활용했는데 각 문장마다 10명의 무작위 패널 투표를 받는 방식으로 고순도의 라벨링을 진행했다. 심심이의 DBSC는 키워드 필터링, 인간의 전수검사 두 가지 방식의 장점을 모두 적용한 솔루션으로 딥러닝 모델이 인간의 전수조사 결과물을 유연하고 즉각 다국어에 대응하는 것이 포인트”라고 전했다.

장영락 기자  jyk237@naver.com

<저작권자 © 자유방송, 무단 전재 및 재배포 금지>