개인정보위, AI 챗봇 ‘이루다’ 개발사에 과징금 1억 부과

개인정보보호위원회는 28일 인공지능(AI) 챗봇 ‘이루다’ 개발사에 개인정보보호법 위반으로 1억330만원의 과징금과 과태료를 부과했다. 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집목적 외에 정보를 활용했다고 본 것이다. 정부가 AI 기술을 활용하는 기업의 무분별한 개인정보 처리를 제재한 것은 이번이 처음이다.

개인정보위는 이날 전체회의를 열고 이루다 개발사 ‘스캐터랩’의 개인정보보호 법규 위반행위에 대한 시정조치 안건을 논의했다. 그 결과 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과키로 했다.

개인정보위는 스캐터랩이 자사 앱서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 60만명의 카카오톡 대화 문장 94억건을 페이스북 이용자 대상 챗봇 서비스 이루다의 개발·운영에 이용하는 과정에서 정보 주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 것으로 판단했다.

스캐터랩은 카카오톡 대화문장을 이루다의 AI 모델 개발을 위한 알고리즘 학습에 이용하면서 대화에 포함된 이름, 휴대전화 번호, 주소 등 개인정보를 삭제하거나 암호화하는 조치를 전혀 하지 않았다.

송상훈 개인정보위 조사조정국장은 “스캐터랩이 텍스트앳과 연애의 과학 개인정보처리방침에 ‘신규서비스 개발’이란 문구를 포함했지만 이용자가 이에 동의하는 것만으로 ‘이루다’ 같은 AI챗봇 서비스 개발에도 동의했다고 보기 어렵다”고 설명했다.

개인정보위는 이용자가 개인정보 자기결정권이 제한되는 등 예측할 수 없는 손해를 입을 수 있기 때문에 ‘스캐터랩’이 이용자 개인정보를 수집한 목적을 벗어나서 이용했다고 결론내렸다.

개인정보위는 이외에도 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위, 회원 탈퇴자나 1년 이상 서비스 미사용자의 개인정보 미파기 등에 대해서도 모두 법 위반으로 인정했다.

윤종인 개인정보위원장은 “이번 사건은 기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스에 무분별하게 이용하는 것이 허용되지 않으며, 개인정보 처리에 대해 정보 주체가 명확하게 인지하도록 알리고 동의를 받아야 한다는 점을 분명히 했다는 의미가 있다”고 말했다.

윤 위원장은 “이번 처분 결과가 AI 기술 기업이 개인정보를 이용할 때 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다”고 덧붙였다.