공공부문 AI 윤리기준, 최종 책임은 사람에게

공공부문 AI 윤리기준, 최종 책임은 사람에게

공공부문에서 인공지능(AI)을 활용하는 과정에서 최종 책임과 통제는 반드시 사람에게 있다는 원칙이 명확히 제시됐다. 행정안전부는 국민의 권리와 생활에 직접 영향을 미치는 복지대상자 선정, 인허가 등 업무에 AI가 활용될 때 사람이 AI 판단을 검토하고 개입할 수 있는 체계를 마련하는 내용을 담은 '공공부문 인공지능 윤리기준'을 확정했다.

이번 윤리기준은 AI 활용 과정에서 발생할 수 있는 편향된 결정과 프라이버시 침해를 예방하고, 국민이 안심할 수 있는 행정 환경을 조성하기 위해 마련됐다. 공공부문에서 AI 도입이 확대됨에 따라 신뢰할 수 있는 AI 활용을 위한 핵심 실천과제로 추진되며, 국정과제인 '세계 최고 AI 민주정부 실현'의 일환이다.

윤리기준은 국민, 행정, 기술 세 가지 관점에서 공공성, 형평성, 투명성, 책임성, 안전성, 프라이버시 보호 등 6대 핵심가치를 중심으로 구성됐다. 공직자가 실제 업무에 적용할 수 있도록 68개의 세부 점검사항도 마련되어 있다.

AI 활용 수준에 따라 1단계 '적용(기초활용)', 2단계 '응용(의사결정 지원)', 3단계 '융합(자율결정 기반)'으로 구분된 자율점검 체계를 통해 각 기관은 맞춤형으로 윤리기준을 적용할 수 있다.

특히 책임성 기준에서는 AI가 행정 의사결정을 지원하거나 직접 판단에 활용되더라도 최종 책임과 통제는 사람에게 있다는 원칙을 구체화했다. 복지대상자 선정, 인허가, 위험예측 등 국민 권리와 생활에 직접 영향을 미치는 업무에 AI를 활용할 경우 서비스 기획부터 제공까지 전 과정의 책임 주체를 명확히 하도록 했다.

또한 AI 판단과 결정을 사람이 검토하고 개입할 수 있는 인적 감독 체계와 함께 사후관리 및 피해구제 체계도 마련하도록 했다.

행안부는 이번 윤리기준이 선언에 그치지 않고 공직자가 업무 과정에서 AI 윤리를 스스로 점검하고 개선하는 실무 지침으로 활용될 수 있도록 공공부문 종사자를 대상으로 교육 프로그램을 운영할 계획이다. 또한 새롭게 등장하는 AI 윤리 문제를 조기에 파악해 점검사항에 반영하는 환류 체계를 운영하며, 기술 환경과 사회적 요구 변화에 맞춰 윤리기준을 지속해서 개선할 방침이다.

윤호중 행정안전부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 밝혔다.