한독 협력, 허위조작 콘텐츠 판별 시스템 개발 시작
한독 과학치안 협력으로 허위조작 콘텐츠 판별 시스템 개발 착수
경찰청은 26일 경찰청 어울림마당에서 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 개최했다. 이번 사업은 인공지능 기술을 악용한 조작 영상, 딥보이스, 가짜뉴스 등 허위조작 콘텐츠를 탐지하기 위한 첨단 기술 개발을 목표로 한다.
착수보고회에는 최주원 미래치안정책국장과 과학치안진흥센터(KIPoT) 최귀원 소장, 그리고 연구 컨소시엄의 정수환 숭실대 교수(연구책임자), 우사이먼 성균관대 교수, 독일 우페르탈대학의 토비아스 마이젠 교수가 참석해 각 분야별 연구 추진계획을 발표했다.
한·독 국제공동연구의 첫 사례
이번 연구는 한·독 과학치안 국제공동연구의 첫 사례로, 2023년 경찰청 미래치안정책국과 독일 노르트라인베스트팔렌주 내무부 범죄수사국 간 공동의향합의서(JDoI) 체결과 2024년 한-독 과학치안 협력센터 개소, 경찰관 파견 등 경찰청이 국제협력을 강화해온 노력의 결실이다.
2025년부터 2027년까지 3년간 진행되는 이번 연구는 생성형 인공지능(AI)의 대중화로 급증하는 조작된 가짜 콘텐츠를 탐지하기 위한 데이터셋 구축과 통합시스템 개발에 중점을 둔다.
국내외 연구기관 협력과 연구 계획
올해 초 공모 및 평가를 거쳐 숭실대가 주관연구기관으로 선정되었으며, 성균관대, 연세대, 한컴위드가 참여하는 연합체가 국내 연구를 담당한다. 독일 측에서는 노르트라인베스트팔렌 주 범죄수사청(LKA)의 추천을 받아 우페르탈대학이 공동연구기관으로 선정됐다.
연구 첫해에는 인공지능 조작 영상(딥페이크), 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진한다. 2026년부터는 머신러닝 모델 개발부터 배포·운영까지 자동화하는 시스템(MLOps) 기반 통합 탐지시스템의 성능 고도화와 실증 테스트가 진행될 예정이다.
미래치안정책국장의 기대와 의의
최주원 미래치안정책국장은 "국가 간 연구개발 협력을 넘어 미래치안 위협에 양국의 과학치안 역량을 결집한 공동대응을 시작했다"며 "향후 다른 국가로 확대하는 첫걸음이라는 점에서 큰 의미가 있다"고 밝혔다.
또한 "다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시하길 바란다"고 덧붙였다.
