[시정일보 이승열 기자] 인공지능의 혐오 발언과 대화 중 개인정보 유출, 이용자들의 성희롱 대화 시도 등으로 논란이 됐던 챗봇 ‘이루다’의 개발사가 과징금을 물게 됐다.
개인정보보호위원회는 28일 제7회 전체회의를 열고, 챗봇 ‘이루다’ 개발사인 ㈜스캐터랩에 총 1억330만원의 과징금과 과태료를 부과했다. 이는 AI 기술 보유 기업의 개인정보 처리를 제재한 첫 사례이다.
기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스를 위해 이용하는 것을 제한하고, 올바른 개인정보 처리 방향을 제시하는 의미가 있다고 개인정보위는 밝혔다.
개인정보위 조사 결과, 스캐터랩은 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를, 2020년 2월부터 2021년 1월까지 ‘이루다’ 개발과 운영에 이용한 것으로 드러났다.
스캐터랩은 ‘이루다’ AI 모델 개발을 위한 알고리즘 학습 과정에서, 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등 개인정보를 삭제·암호화하는 조치를 전혀 하지 않은 채, 이용자 60만명의 카카오톡 대화문장 94억건을 그대로 이용했다.
‘이루다’ 운영 과정에서는, 20대 여성의 카카오톡 대화문장 1억건을 응답 DB로 구축하고, ‘이루다’가 이 중 한 문장을 선택해 발화하도록 운영했다.
개인정보위는 “스캐터랩이 ‘텍스트앳’과 ‘연애의 과학’ 개인정보처리방침에 ‘신규 서비스 개발’ 문구를 포함하고 이용자가 로그인함으로써 동의한 것으로 간주한 것만으로는, 이용자가 ‘이루다’와 같은 신규 서비스 개발 목적의 이용에 동의했다고 보기 어렵다”고 밝혔다.
아울러, 개인정보위는 스캐터랩이 2019년 10월부터 올해 1월까지 오픈소스 공유 플랫폼 깃허브(GitHub)에 카카오톡 대화문장 1431건과 AI 모델을 게시한 것도 법 위반으로 판단했다.
개인정보위는 스캐터랩의 개인정보보호법 위반행위가 8가지에 이른다고 보고, 과징금 5550만원과 과태료 4780만원을 부과하고 시정조치를 명령했다.
윤종인 위원장은 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”라고 말했다.
