[인더스트리뉴스 김기찬 기자] 서울시가 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 검출, 삭제 신고까지 전 과정을 자동화하는데 성공하는 쾌거를 일궈냈다. 단계별로 평균 3시간 이상 소요되던 작업을 인공지능(AI)을 통해 불과 6분으로 단축하는 가시적인 성과를 거둔 것이다. 

서울시는 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 검출, 삭제 신고까지 전 과정을 자동화한 'AI 자동 삭제신고 시스템'을 국내 최초로 개발해 시행한다고 21일 발표했다.

앞서 서울시는 서울연구원과 함께 AI를 활용해 불법 영상물을 모니터링하는 '디지털 성범죄 AI 삭제지원 기술'을 개발한 바 있다. 서울 디지털성범죄 안심지원센터에서 이를 활용해 24시간 불법 영상물을 감시하고 있다.

이번에 새로 개발한 AI 자동 삭제신고 시스템은 AI가 24시간 피해 영상물을 검출한 뒤 찾아낸 영상물을 자동으로 채증해 보고서를 만든다. 이어 해당 사이트에 삭제를 요청하는 이메일을 자동으로 생성하며, 이렇게 완성된 신고 이메일은 삭제지원관의 최종 확인을 거쳐 발송하게 된다.

이 시스템을 활용하면 온라인상에 떠도는 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 약 3시간에서 6분으로 획기적으로 단축된다.

기존에는 삭제지원관이 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했으나, 전 과정을 'AI 자동화'해 처리 속도 역시 약 30배 빨라졌다. 

해외에 서버를 둔 사이트에 올라오는 영상물에 대해서도 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하게 된다.

김선순 서울시 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축할 것으로 기대한다"며 "디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다.

김기찬 기자 다른기사 보기