서울시는 디지털 성범죄 영상의 신속한 삭제를 위해 AI 기술을 활용한 자동 삭제신고 시스템을 도입했다고 21일 밝혔다. 이 시스템은 온라인상에서 불법 영상물을 검출하고 삭제 신고까지 자동으로 처리해 기존 3시간이 걸리던 과정을 단 6분으로 단축한다.

서울시는 2023년 전국 최초로 AI 모니터링을 도입한 이후, 디지털 성범죄 예방과 피해자 지원을 위해 서울연구원과 협력해 '디지털 성범죄 AI 삭제지원 기술'을 개발했다. 

이 기술은 서울 디지털성범죄 안심지원센터에서 24시간 불법 영상물 감시 및 삭제지원을 위해 활용되고 있다. 센터는 디지털 성범죄 피해자에게 법률, 심리, 삭제 지원 등 전 과정을 원스톱으로 제공한다.

AI 자동 삭제신고 시스템은 멀티모달 대형언어모델(MLLM)과 셀레니움 기반 웹 자동화 도구를 결합해 디지털 성범죄물의 탐지부터 채증, 문서화, 이메일 생성에 이르는 전 과정을 자동화했다. AI는 24시간 피해 영상물을 검출하고, 자동으로 채증 보고서를 작성해 해당 사이트에 삭제 요청 이메일을 생성한다. 삭제지원관이 이를 최종 확인해 발송한다.

특히, 해외 서버에 유포된 피해 영상물에 대해서도 AI가 영어, 중국어, 일본어 등 7개 국어로 신고 이메일을 생성해 대응한다. 이는 최근 중국, 러시아, 베트남 등으로 피해 영상물이 확산되는 점을 고려한 조치다.

서울시는 AI 도입 이후 검출 속도가 97.5% 단축되고, 삭제지원 건수가 468% 증가했다고 밝혔다. AI는 24시간 자동 모니터링이 가능해 새벽시간대에도 모니터링을 지속할 수 있으며, 삭제지원관의 트라우마와 스트레스를 줄이는 데 기여한다.

서울 디지털성범죄 안심지원센터는 지난 3년간 3650명의 피해자를 지원했으며, 아동·청소년 피해자 비율이 13배 증가했다. 특히, 온라인 그루밍 피해는 20배 증가해 심각성을 더하고 있다. 센터는 아동·청소년을 위한 익명 상담과 심리치료를 제공하며, 수사, 법률, 의료, 삭제 지원을 원스톱으로 지원한다.

김선순 서울시 여성가족실장은 "디지털 성범죄 기술이 고도화되고 피해가 심각해지는 상황에서 AI를 통한 모니터링과 자동 삭제 신고 기술 도입으로 검출부터 삭제 신고까지 시간을 획기적으로 단축할 것으로 기대한다"며 "아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다.

서울시의 AI 자동 삭제신고 시스템 도입은 디지털 성범죄 대응의 새로운 전환점을 마련했다. 이를 통해 피해자 지원의 효율성을 높이고, 사회 전반의 안전을 강화하는 데 기여할 것으로 기대된다.

[저작권자ⓒ 미디어시시비비. 무단전재-재배포 금지]