행안부, 공공 AI 최종 책임 '인간'으로 못 박았다… 68개 점검표 도입

행정안전부가 공공부문의 인공지능(AI) 도입 확대에 발맞춰 신뢰할 수 있는 AI 활용을 담보하기 위한 '공공부문 인공지능 윤리기준'을 최종 확정했다. 특히 AI가 행정 의사결정에 관여하더라도 최종적인 책임과 통제는 '인간'에게 있음을 명확히 규정하고, 68개 세부 점검 항목을 전격 도입했다.

이번 윤리기준은 국정과제인 '세계 최고 AI 민주정부 실현'을 위한 핵심 실천과제로 마련됐다. 최근 공공 업무 전반에 AI를 활용한 혁신이 빠르게 확산되는 가운데, 편향된 결정이나 프라이버시 침해 등 부작용 우려가 커짐에 따라 국민이 안심할 수 있는 행정 환경을 조성하겠다는 취지다.

새롭게 확정된 윤리기준은 '행정 혁신 촉진'과 '국민 신뢰 구축'을 목표로 국민, 행정, 기술의 3가지 관점을 아우르는 6대 핵심가치를 담고 있다. 구체적으로는 공공의 이익을 위한 공공성, 차별 없는 형평성, 과정의 투명성, 주체를 명확히 하는 책임성, 피해를 방지하는 안전성, 그리고 프라이버시 보호가 포함됐다.

행안부는 이 6대 가치를 바탕으로 실효성을 대폭 높인 총 68개의 세부 점검 항목을 도출했다. 아울러 기관별 AI 활용 수준에 맞춘 '3단계 맞춤형 자율점검 체계'를 도입해 현장 적용성을 강화했다. 점검 체계는 1단계 적용(기초활용), 2단계 응용(의사결정 지원), 3단계 융합(자율결정 기반)으로 세분화되어 운영된다.

무엇보다 이번 기준은 복지대상자 선정, 인허가, 위험예측 등 국민의 권리와 생활에 직접적인 영향을 미치는 행정 업무에 AI가 활용될 때의 책임성을 대폭 강화한 것이 특징이다. 기획부터 제공까지 전 과정의 책임 주체를 명확히 하고, AI의 판단에 대한 인적 감독 체계 및 사후관리, 피해구제 체계를 의무적으로 마련하도록 지시했다.

행안부는 이번 윤리기준이 단순한 선언에 그치지 않고 공직사회에 단단히 안착할 수 있도록 맞춤형 교육 프로그램을 운영할 예정이다. 또한, 빠르게 변화하는 기술 환경을 반영해 관련 기준을 지속적으로 환류하고 정비해 나갈 방침이다.

윤호중 행정안전부 장관은 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 강조했다.