AI 딥페이크 감정, 대선 범죄 15건 적발
AI 딥페이크 감정, 대선 범죄 15건 적발
행정안전부와 국립과학수사연구원은 인공지능(AI) 기술을 활용한 딥페이크 분석모델을 통해 15건의 딥페이크 감정을 성공적으로 수행했다고 30일 밝혔습니다. 이번 감정은 제21대 대통령 선거 기간 중 대통령 후보 관련 딥페이크 사건 13건과 디지털 성범죄 2건을 포함합니다.
특히, 중앙선거관리위원회에 분석모델을 공유하여 유튜브 등 온라인 공간에서 불법 딥페이크 선거물 약 1만 건을 탐지하고 삭제하는 데 기여했습니다. 이로써 선거의 공정성과 국민 신뢰 확보에 중요한 역할을 했습니다.
이번 AI 딥페이크 분석모델은 행안부와 국과수가 공동 개발한 기술로, 딥페이크 의심 이미지, 영상, 음성의 진위를 판별합니다. 4월까지 개발과 검증을 마치고 약 두 달간 수사에 활용해 왔습니다. 이는 국내 최초로 딥페이크 감정을 공식화하고 과학적 증거 기반 수사체계를 마련한 점에서 큰 의미가 있습니다.
모델 개발에는 공개 데이터셋과 자체 제작 콘텐츠를 포함해 약 231만 건의 딥페이크 데이터가 활용됐으며, 최신 딥러닝 알고리즘을 적용해 탐지 성능을 획기적으로 향상시켰습니다. 이 모델은 얼굴의 눈, 코, 입 등 특정 부위별 변조 탐지 능력과 손상된 증거물에 대한 분석능력을 갖추어 실제 수사 환경에서 효과적으로 작동합니다.
행안부와 국과수는 이번 모델을 보이스피싱 음성 분석모델과 연계해 딥페이크 여부뿐 아니라 특정 정치인 음성 모방 여부까지 입증할 수 있는 체계를 구축할 계획입니다.
또한, 국과수는 모델을 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 높이고, 여성가족부, 방송통신위원회 등 유관기관에도 단계적으로 확산해 범정부 차원의 디지털 범죄 대응 역량을 강화할 예정입니다.
이봉우 국과수 원장은 "AI 기술 기반 과학수사 역량을 강화해 감정의 신속성과 정확성을 높이겠다"며 "첨단기술 환경 변화에 선제적으로 대응해 국민이 신뢰하는 과학수사체계를 구축하겠다"고 밝혔습니다.
이용석 행안부 디지털정부혁신실장은 "AI 딥페이크 분석모델은 인공지능 기술을 사회문제 해결에 적극 활용한 사례"라며 "앞으로도 AI와 데이터 분석을 국민 안전과 민생 안정에 적극 도입하겠다"고 강조했습니다.
