AI 악용 가짜뉴스, 지방선거 앞 강력 차단
가짜뉴스는 중대 범죄, 정부가 강력 대응
이재명 대통령은 5월 12일 SNS를 통해 "국민의 삶이 걸린 국정에 관한 가짜뉴스 유포는 단순한 장난이 아니라 형사처벌 대상인 중대한 범죄"라고 강조했다. 그는 "가짜뉴스로 인한 사회 혼란은 표현의 자유로 보호받지 못하며, 사실에 기반한 정확한 정보 유통과 합리적 비판, 토론이 대의민주주의의 핵심"이라고 밝혔다.
이번 발표는 4월 1일 국무회의에서 긴급재정명령 발언을 왜곡한 가짜뉴스 유포에 대해 관계부처에 철저한 조치를 주문한 데 따른 결과로, 중동 전쟁 관련 허위정보를 유포한 38개 계정 중 11명이 검거된 경찰 수사 상황도 함께 전했다.
선거 앞두고 범정부 허위정보 차단 체계 가동
정부는 6월 3일 치러지는 제9회 전국동시지방선거를 앞두고 허위정보 확산을 막기 위해 범정부 공조체계를 본격 가동하고 있다. 김민석 국무총리는 4월 14일 대국민 담화문에서 "AI를 악용한 가짜뉴스에 대해 법이 허용하는 최대한의 엄중 처벌을 하겠다"고 밝혔다.
행정안전부는 5월 8일 윤호중 장관 주재로 범정부 허위·가짜뉴스 대응 협의체를 구성해 선거일까지 매주 회의를 진행한다. 5월 4일부터는 불법 선거광고물 집중 정비에 돌입해 3만 건 이상의 불법 현수막을 철거했으며, 공무원의 가짜뉴스 게시 및 선거 개입 행위도 엄중 단속 중이다.
온라인 플랫폼과 수사기관의 신속 대응
방송미디어통신위원회는 민·관 합동 자율규제 협의체를 운영하며 온라인상의 가짜뉴스를 신속히 삭제하고 접근을 차단하고 있다. 검찰과 경찰은 가짜뉴스, 흑색선전, 금품수수, 공무원 선거 개입 등을 중점 단속하며, 조직적·반복적 가짜뉴스 유포에는 무관용 원칙을 적용한다.
경찰청 국가수사본부는 후보자 등록일인 5월 14일부터 선거사범 대응체계를 최고 수준으로 격상하고, AI 조작 콘텐츠 분석 대응체제를 가동해 진위 판별과 범죄 혐의 입증에 총력을 기울이고 있다.
교육과 홍보로 허위정보 예방 강화
교육부는 디지털 미디어 문해교육을 강화하고 중앙선관위와 협력해 고3 학생 40만 명을 대상으로 새내기 유권자 교육을 실시한다. 문화체육관광부는 KTV와 정부 SNS를 통해 정확한 정책 정보를 제공하며 가짜뉴스 근절 메시지를 확산하고 있다.
딥페이크 등 AI 조작 콘텐츠 대응 강화
중앙선관위는 딥페이크, 허위사실공표, 비방 등에 대응하는 특별팀을 설치해 정부와 실시간 정보를 공유하며, 중대한 위법 게시물에 대해 수사기관 고발 등 공조를 진행한다.
행안부는 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지 모델을 도입해 후보자 얼굴과 음성을 정교하게 합성한 딥페이크 범죄를 차단한다. 이 모델은 영상 전체 흐름과 특정 부위 조작 흔적을 분석해 약 92%의 정확도를 기록한다.
과학기술정보통신부는 딥페이크 대응 연구개발 실무협의체를 구성해 부처별 연구를 연계하고 성과를 관리하며, 반기별 회의를 통해 현장 수요를 반영한 연구과제를 추진한다.
디지털성범죄 피해자 보호체계 고도화
성평등가족부는 AI 기술을 활용해 피해 영상물 삭제 요청 자동화, 아동·청소년 온라인 성착취 선제 대응, 딥페이크 탐지 등 3대 핵심기술 시스템을 도입했다. 삭제 요청부터 처리 이력 관리까지 자동화해 처리 시간을 1분 이내로 단축했다.
딥페이크 탐지 솔루션을 활용해 합성물을 정확히 식별하고 추가 삭제 지원도 가능해졌다. 온라인 모니터링 과정에서 의심 영상 발견 시 탐지 솔루션을 적용해 추가 유포를 사전에 차단한다.
디지털성범죄 피해 통합지원단 출범
디지털성범죄 피해 통합지원단은 성평등가족부 안전인권정책관이 단장을 맡아 8명으로 구성됐다. 불법촬영물 유통 경로와 반복 게시 사이트 운영방식, 수익구조를 분석해 수사 의뢰, 과징금 부과, 신속 차단, 국제 공조 등 원스톱 대응체계를 구축한다.
피해자가 명확한 불법촬영물은 통신사업자를 통해 신속히 접속 차단하며, 위급·중대 사건은 직접 지원에 나선다. 윤호중 행안부 장관은 "가짜뉴스는 국민의 참정권 행사를 방해하고 선거 신뢰를 훼손하는 심각한 범죄"라며 "이번 지방선거가 공정하고 깨끗하게 치러지도록 범정부 협력을 이어가겠다"고 밝혔다.
