행정안전부가 공공부문에서 활용되는 인공지능(AI)의 신뢰성과 책임성을 높이기 위해 새로운 윤리기준을 확정했다. 공공서비스 전반으로 AI 활용이 확대되는 가운데 국민의 권익을 보호하고 안전한 행정환경을 조성하기 위한 제도적 기반을 마련했다는 의미를 갖는다.
이번에 발표된 '공공부문 인공지능 윤리기준'은 정부가 추진하는 '세계 최고 AI 민주정부 실현' 정책의 핵심 과제 가운데 하나다. 행정 현장에서 AI 활용이 빠르게 증가하는 상황에서 발생할 수 있는 편향된 의사결정, 개인정보 침해, 책임 소재 불분명 등의 위험 요소를 예방하고 국민이 신뢰할 수 있는 AI 행정을 구현하는 데 목적을 두고 있다.
최근 AI 기술은 민간뿐 아니라 공공행정 분야에서도 다양한 업무에 적용되고 있다. 이에 따라 주요 국가와 국제기구는 인공지능 윤리 원칙과 가이드라인을 잇달아 발표하고 있으며, 국내에서도 사회 전반에 적용할 AI 윤리원칙이 마련되는 등 책임 있는 AI 활용 체계 구축이 중요한 과제로 떠오르고 있다.
행정안전부는 이러한 흐름에 맞춰 국내외 윤리기준을 분석하고 전문가 자문을 거쳐 공공행정의 특성을 반영한 윤리기준을 수립했다. 최종안은 국민과 행정, 기술이라는 세 가지 관점을 기반으로 공공성, 형평성, 투명성, 책임성, 안전성, 프라이버시 보호 등 여섯 가지 핵심가치를 중심축으로 구성됐다.
특히 선언적인 원칙에 머무르지 않도록 공공업무 환경에서 실제 활용 가능한 68개 세부 자율점검 항목을 마련했다. 각 기관은 해당 점검표를 활용해 AI 서비스의 기획과 개발, 운영 과정에서 윤리적 위험 요소를 스스로 확인하고 개선할 수 있도록 했다.
AI 활용 수준에 따라 차등 적용할 수 있는 3단계 자율점검 체계도 함께 도입됐다. 기초적인 AI 활용 단계인 '적용'부터 의사결정을 지원하는 '응용', 자율 판단 기능을 갖춘 '융합' 단계까지 서비스 수준에 맞춰 필요한 윤리 기준을 선택적으로 적용하도록 설계했다.
이번 윤리기준에서 가장 강조된 부분은 책임성이다. AI가 복지 대상자 선정이나 인허가 심사, 위험 예측 등 국민의 권리와 직결되는 행정업무에 활용될 경우에도 최종적인 판단과 책임은 사람이 맡는다는 원칙을 명확히 했다.
이를 위해 AI 서비스의 기획과 운영, 결과 제공에 이르는 모든 과정에서 책임 주체를 분명히 하고, AI가 제시한 결과를 담당자가 검토하고 필요하면 개입할 수 있는 인적 감독 체계를 마련하도록 했다. 또한 오류 발생 시 사후관리와 피해구제 절차도 함께 구축하도록 기준을 제시했다.
행정안전부는 윤리기준이 실제 현장에서 효과적으로 운영될 수 있도록 공공기관 종사자를 대상으로 AI 윤리 교육 프로그램도 운영할 예정이다. 이를 통해 공직자들이 새로운 기술 환경에서 발생할 수 있는 윤리적 문제를 스스로 점검하고 대응하는 역량을 높인다는 계획이다.
아울러 AI 기술이 빠르게 발전하는 만큼 새로운 윤리 이슈를 지속적으로 반영하는 환류 체계를 운영해 윤리기준을 꾸준히 보완하고 현실에 맞게 개선해 나갈 방침이다.
윤호중 행정안전부 장관은 A"I가 행정 혁신의 핵심 기반으로 자리 잡기 위해서는 국민의 기본권 보호와 신뢰 확보가 우선되어야 한다"며 “이번 윤리기준과 자율점검 체계를 통해 공공분야 전반에 책임 있는 AI 활용 문화가 정착될 수 있도록 지속적으로 지원하겠다”고 밝혔다.
이번 윤리기준은 공공 AI 활용 과정에서 발생할 수 있는 위험 요소를 사전에 관리하기 위한 실무형 가이드라인이다. 여섯 가지 핵심가치와 68개 자율점검 항목, 활용 수준별 3단계 점검 체계를 통해 공공행정의 AI 신뢰성을 높이고 책임 있는 활용 기반을 마련했다.
공공부문의 AI 활용은 행정 효율성을 높이는 동시에 국민의 권익 보호와 공정성을 함께 확보해야 한다. 이번 윤리기준은 기술 혁신과 공공 신뢰를 균형 있게 추진하기 위한 기본 원칙으로 향후 AI 행정의 운영 기준 역할을 할 것으로 기대된다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}