AI로 디지털 성범죄 신속 대응 체계 구축

AI 기술로 디지털 성범죄 대응 혁신

최근 성평등가족부는 인공지능(AI) 기술을 활용해 SNS와 랜덤채팅앱 등에서 발생하는 아동·청소년 성착취물 및 유인정보를 24시간 자동으로 수집, 분석하고, 자동 신고 및 삭제 요청까지 가능한 시스템을 도입했다고 2026년 6월 1일 밝혔다.

3대 핵심 기술로 피해자 보호 강화

이번에 도입된 시스템은 삭제 요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 등 3대 핵심 기술을 포함한다. 이를 통해 기존의 수동적이고 사후적인 피해자 보호 한계를 극복하고, 디지털 성범죄 대응 체계를 자동화·지능화하여 대응 속도와 정확도를 크게 향상시켰다.

삭제 요청 자동화로 처리 시간 1분 이내 단축

특히 피해 영상물 삭제 요청 자동화 기능은 약 2만 개 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화해 건당 처리 시간을 1분 이내로 단축했다. 이는 피해자 중심의 신속하고 선제적인 대응 체계 구축에 큰 진전을 의미한다.

랜덤채팅앱 데이터 자동 수집 국내 최초 적용

아동·청소년 온라인 성착취 선제 대응 시스템은 국내 최초로 랜덤채팅앱에 대한 데이터 자동 수집 기술을 탑재했다. 기존 중앙디지털성범죄피해자지원센터의 삭제 지원 시스템과 연계해 성인 사이트에 대한 유포 현황 탐지와 자동 삭제 요청이 가능해졌다.

다단계 AI 분석으로 성착취물 판별

시스템에 적용된 AI 모델은 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단, 아동·청소년 여부 추정, 유사 이미지 대조 등 다단계 분석을 통해 아동·청소년 성착취물 여부를 정확히 판단한다.

글로벌 연계로 우회 접속 URL도 자동 삭제

중앙 디성센터의 삭제 지원 시스템은 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자인 클라우드플레어와 API로 연계되어 우회 접속 URL도 대량 자동 삭제 요청이 가능해졌다. 또한 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성 및 발송되도록 개선되어 종사자의 정신적 소진 예방에도 기여한다.

AI 딥페이크 탐지로 합성물 정확 식별

AI 기반 딥페이크 탐지 솔루션 도입으로 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어 피해자의 불안을 해소하고 추가 삭제 지원도 가능해졌다. 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 솔루션을 적용해 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단한다.

시범운영 결과, 수집 건수 대폭 증가

시스템 구축 후 25일간 시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상 증가하는 성과를 보였다.

향후 계획과 장관의 의지

성평등가족부는 본격 운영을 통해 아동·청소년 성착취물에 대해 신속한 선제적 삭제 지원을 강화하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 '온라인 아웃리치'를 병행해 맞춤형 통합 지원을 확대할 계획이다. 원민경 성평등가족부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔다.