AI로 24시간 온라인 자살정보 감시 강화

정부, AI 활용해 온라인 자살 유발 정보 24시간 모니터링 체계 도입

정부는 국민의 생명을 보호하고 모방 자살을 예방하기 위해 온라인상 자살 유발 정보를 인공지능(AI)으로 24시간 감시하는 체계를 구축한다. 이번 대책은 문화체육관광부가 관계부처와 함께 마련한 '미디어·온라인 분야 자살예방 범정부 추진 대책'의 일환으로, 지난 5월 국무회의에서 논의된 9대 분야별 자살예방 대책에 포함되어 있다.

생산-유통-보호 3축 중심으로 건강한 미디어 환경 조성

정부는 자살 관련 보도의 선정성과 구체성이 모방 자살을 부추기는 문제를 인식하고, 이를 개선하기 위해 '생산-유통-보호' 세 가지 축을 중심으로 대책을 마련했다. 특히 유명인 자살과 청소년 자살 등 모방 위험이 큰 사안에 대해 언론사에 보도 자제를 요청하고, 보도 준칙 위반이 잦은 매체는 정부 지원사업 참여를 제한한다.

책임 있는 미디어·콘텐츠 생산 체계 강화

경찰 형사과장 대상 언론대응지침 배포 및 교육을 통해 언론보도 현장 관리를 강화한다. 언론계 자율심의기구와 협력해 보도 준칙 위반 건수를 분기별로 공개하고, 위반이 누적된 매체에 대해 지원사업 참여 제한 조치를 시행한다. 또한 언론인과 영상 제작자 대상 자살보도 윤리 및 예방 교육을 확대하며, 영상 콘텐츠 내 자살 장면 제작 지침을 현장에 확산시킨다.

온라인 플랫폼에서 모방 자살 확산 방지

기존 전담 인력과 국민 모니터링단 중심의 감시 체계를 AI 기반 24시간 모니터링 센터로 전환한다. 정보통신사업자와 협력해 자살 유발 정보 유통 시 이용자에게 위법성과 조치 사항을 알리도록 이용약관을 개정한다. 방송미디어통신심의위원회는 서면심의 대상을 확대하고, 심의 전이라도 사업자에게 시정을 요구할 수 있는 긴급조치권 도입을 추진한다. 악의적 자살 유발 정보는 경찰 사이버수사대가 집중 수사하며, 자살 위험자 의심 시 지자체 자살예방센터로 인계해 보호 조치를 시행한다.

고위험군 보호 및 생명 존중 문화 확산

위기 상황에 처한 국민들이 도움을 받을 수 있도록 연령별 맞춤형 드라마 형식 콘텐츠를 제작하고, 다양한 매체를 통해 대처 방법과 도움 기관 정보를 제공한다. 청소년 대상 미디어 이해력 교육에 자살예방 교육을 연계해 온라인 자살 유발 정보에 대한 분별력을 높인다. 종교계와 협력해 생명 존중 캠페인과 심리 상담, 청소년 교육 등 다양한 문화사업도 추진한다.

문체부 장관, 안전한 온라인 환경 조성 의지 밝혀

최휘영 문화체육관광부 장관은 "특히 청소년들이 안전한 온라인 환경에서 성장할 수 있도록 건강하고 책임 있는 미디어·온라인 환경 조성에 관계 부처와 함께 최선을 다하겠다"고 말했다.