
공공기관 AI 도입의 새로운 기준 제시
행정안전부가 공공부문의 인공지능 도입을 보다 체계적이고 효율적으로 지원하기 위한 실무 중심 지침서를 전국 공공기관에 배포한다. 이번에 공개된 「공공부문 AI 도입·활용 가이드」는 각 기관이 인공지능 서비스를 도입하는 과정에서 발생할 수 있는 시행착오를 줄이고, 범정부 차원의 통합 인공지능 활용 체계를 조기에 정착시키기 위해 마련됐다.
개정 법률 시행 앞두고 선제 대응
이번 가이드는 오는 8월 28일 시행 예정인 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」 개정 내용에 맞춰 제작됐다. 특히 개정 법률에 포함된 ‘범정부 AI 공통 기반 우선 이용’ 원칙을 실제 업무 현장에서 적용할 수 있도록 구체적인 실행 방안을 제시하는 데 초점을 맞췄다.
범정부 AI 공통 기반은 정부 기관들이 각각 구축하던 인공지능 인프라를 공동으로 활용하는 체계다. AI 모델과 GPU 자원 등을 함께 사용하는 방식으로 운영되며, 중복 투자에 따른 예산 부담을 줄이고 기관별 기술 격차를 완화하는 역할을 담당한다. 이를 통해 국가 차원의 디지털 행정 역량을 보다 효율적으로 확보할 수 있을 것으로 기대된다.
기획부터 운영까지 5단계 절차 표준화
이번 지침서의 가장 큰 특징은 현장 실무자가 즉시 활용할 수 있는 실행형 안내서라는 점이다. 단순한 개념 설명에 머물지 않고 실제 서비스 구축 과정을 단계별로 정리해 업무 적용성을 높였다.
가이드는 공공기관이 범정부 AI 공통 기반을 활용해 서비스를 개발하는 전 과정을 기획, 예산, 계약, 구축, 운영 등 5개 단계로 구분해 설명한다. 각 단계마다 검토 사항과 추진 절차를 체계적으로 정리해 기관별 상황에 맞게 적용할 수 있도록 구성했다.

정확도 높이는 RAG 우선 전략 반영
최근 생성형 AI 활용이 확대되면서 사실과 다른 정보를 만들어내는 이른바 ‘환각 현상’이 주요 과제로 떠오르고 있다. 이번 가이드에는 이러한 문제를 줄이기 위한 방안으로 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 중심 전략이 포함됐다.
RAG 방식은 AI가 답변을 생성하기 전에 기관 내부의 최신 문서와 지식 데이터를 우선 검색한 뒤 해당 정보를 기반으로 응답하도록 설계하는 기술이다. 이를 통해 최신 정책과 행정 정보를 반영한 답변 제공이 가능하며, 잘못된 정보 생성 위험도 낮출 수 있다.
행정안전부는 가이드에 RAG 기반 서비스 설계부터 구축, 운영에 이르는 과정을 상세히 담아 공공기관이 보다 안정적으로 생성형 AI 서비스를 도입할 수 있도록 지원할 계획이다.
설명회 통해 현장 적용 지원
행정안전부는 가이드 배포에 그치지 않고 현장의 이해도를 높이기 위한 설명회도 개최한다. 설명회는 6월 10일 세종과 6월 12일 서울에서 진행되며, 중앙행정기관과 지방자치단체 담당자, 민간 AI 기업 관계자들이 참석할 예정이다.
행사에서는 가이드 주요 내용 소개와 함께 범정부 AI 공통 기반을 활용해 실제 구축된 서비스 사례가 공개된다. 또한 질의응답 시간을 마련해 현장 실무자들의 의견을 수렴하고 향후 제도 개선에도 반영할 방침이다.
AI 민주정부 구현 가속화 기대
행정안전부는 이번 가이드가 공공부문 AI 활용 확대의 전환점이 될 것으로 기대하고 있다. 정부가 추진하는 디지털 행정 혁신이 기술 도입에 그치지 않고 국민이 체감할 수 있는 서비스 품질 향상으로 이어질 수 있다는 판단에서다.
황규철 인공지능정부실장은 “인공지능은 행정 혁신의 핵심 수단으로 자리 잡고 있다”며 “이번 가이드가 현장 공무원들의 실질적인 업무 지침이 되어 효율적인 예산 활용과 고품질 공공서비스 제공에 기여하길 기대한다”고 밝혔다.
행정안전부가 공개한 「공공부문 AI 도입·활용 가이드」는 공공기관의 AI 서비스 구축 절차를 표준화하고 범정부 AI 공통 기반 활용을 촉진하기 위해 마련됐다. 특히 RAG 기반 전략을 중심으로 정확성과 신뢰성을 강화했으며, 예산 절감과 행정 효율 향상이라는 두 가지 목표를 동시에 추구한다. 향후 공공서비스 혁신과 디지털 정부 구현 속도를 높이는 기반이 될 것으로 전망된다.










