AI로 24시간 온라인 자살정보 감시 강화

정부, AI 활용해 온라인 자살 유발 정보 24시간 모니터링 체계 구축

정부는 국민의 생명을 보호하고 모방 자살을 예방하기 위해 온라인상 자살 유발 정보를 인공지능(AI)으로 24시간 감시하는 체계를 도입한다. 이번 대책은 문화체육관광부가 관계부처와 함께 마련한 '미디어·온라인 분야 자살예방 범정부 추진 대책'의 일환으로, 건강한 미디어와 온라인 환경 조성을 목표로 한다.

생산-유통-보호 3축 중심의 자살예방 대책

정부는 자살 유발 정보를 '생산-유통-보호' 세 축으로 나누어 관리한다. 먼저, 언론 보도 현장에서는 경찰 형사과장 대상 언론대응지침 배포와 교육을 통해 보도 관리를 강화한다. 특히 유명인 자살, 일가족 사망, 청소년 자살 등 모방 위험이 큰 사안에 대해서는 언론사에 보도 자제를 요청한다.

언론계 자율심의기구와 협력해 보도 준칙 위반 건수를 분기별로 공개하고, 위반이 누적된 매체는 한국언론진흥재단 지원사업 참여를 제한한다. 또한 언론인과 영상 콘텐츠 제작자를 대상으로 자살보도 윤리 교육과 자살 예방 교육을 확대하며, 영상 콘텐츠 내 자살 장면 제작 지침을 현장에 확산한다.

온라인 플랫폼에서 AI 모니터링 강화

온라인상 자살 유발 정보 확산을 막기 위해 기존 전담 인력과 국민 모니터링단 중심의 감시 체계를 AI 기반 24시간 모니터링 센터로 전환한다. 정보통신사업자는 자살 유발 정보 유통 시 위법성과 조치 사항을 이용자에게 알리도록 이용약관을 개정한다.

방송미디어통신심의위원회는 서면심의 대상을 확대하고, 심의 전이라도 사업자에게 직접 시정을 요구할 수 있는 긴급조치권 도입을 추진한다. 악의적이고 수익 목적의 자살 유발 정보는 경찰 사이버수사대가 집중 수사하며, 자살 위험자로 의심되는 경우 지자체 자살예방센터로 인계해 보호 조치를 시행한다.

고위험군 보호와 생명 존중 문화 확산

정부는 위기 상황에 처한 국민들이 도움을 받을 수 있도록 연령별 상황에 맞춘 드라마 형식의 콘텐츠를 제작하고, 다양한 매체를 통해 대처 방법과 도움 기관 정보를 제공한다. 특히 청소년을 대상으로 미디어 이해력 교육과 자살 예방 교육을 연계해 실시한다.

아울러 종교계와 협력해 생명 존중 캠페인, 심리 상담, 청소년 교육 등 다양한 생명 존중 문화사업을 추진한다. 최휘영 문화체육관광부 장관은 "청소년들이 안전한 온라인 환경에서 성장할 수 있도록 건강하고 책임 있는 미디어·온라인 환경 조성에 최선을 다하겠다"고 밝혔다.