인공지능(AI) 기술을 악용한 딥페이크 범죄가 갈수록 지능화되는 가운데 경찰이 첨단 기술을 결합한 3중 대응체계를 구축하며 수사 역량을 강화하고 있다. 허위영상물 제작과 유포를 단속하는 수준을 넘어 범행 도구와 제작 과정까지 추적하는 정밀 수사 체계를 마련해 AI 기반 범죄 전반으로 대응 범위를 확대한다는 방침이다.
경찰청 국가수사본부는 올해 1월부터 7월까지 허위영상물(딥페이크) 범죄 피의자 419명을 검거했으며, 이 가운데 17명을 구속했다고 밝혔다. 경찰은 진화하는 범죄 양상에 대응하기 위해 딥페이크 탐지 소프트웨어, 과학수사 영상분석, AI 디지털 포렌식을 연계한 3단계 분석체계를 운영하며 수사 정확도를 높이고 있다.
경찰이 구축한 대응체계의 첫 단계는 AI 기반 딥페이크 탐지 시스템이다. 이 시스템은 영상 속 얼굴 생성과 교체 여부는 물론 눈 깜빡임, 혈류 변화와 같은 생물학적 특성, 파일 메타데이터 구조 등을 종합적으로 분석해 영상의 합성 여부를 판별한다. 국내에서 발생하는 허위영상물의 특성을 반영하도록 AI 모델을 지속적으로 고도화한 점도 특징이다.
탐지 결과만으로 조작 여부를 단정하기 어려운 경우에는 과학수사 영상분석관이 추가 검증을 수행한다. 전문 영상 분석 프로그램을 활용해 위·변조 여부를 세밀하게 확인하는 절차를 운영함으로써 수사의 객관성과 신뢰성을 높이고 있다.
세 번째 축은 AI 디지털 포렌식 기술이다. 경찰은 상용 생성형 AI 프로그램의 특성을 분석한 포렌식 기법을 개발해 실제 수사에 적용하고 있다. 이를 통해 피의자가 어떤 프로그램으로 영상을 제작했는지, 어느 부분을 수정했는지, 제작부터 유포까지 이어지는 범행 과정을 기술적으로 재구성할 수 있다. 이 분석 결과는 여죄 확인과 범행의 고의성을 입증하는 핵심 증거로 활용된다.
실제 수사에서도 이러한 기술은 성과를 내고 있다. 해외 성인사이트에 피해자의 얼굴을 합성한 허위영상물이 게시됐다는 신고가 여러 지역에서 접수되자 경찰은 관련 증거를 확보하고 게시물 삭제를 요청하는 동시에 탐지 소프트웨어를 활용해 영상의 공통 특징을 분석했다. 이후 동일 인물의 범행 가능성에 무게를 두고 집중 수사를 벌여 피의자를 검거하고 구속 송치했다.
또 다른 사건에서는 SNS를 통해 성착취 허위영상물을 제작·판매한 피의자를 검거한 뒤 AI 디지털 포렌식 기법을 적용해 생성형 AI 프로그램과 편집 이전의 원본 사진까지 확보했다. 경찰은 확보한 증거를 토대로 영상 제작을 의뢰한 관련자에 대해서도 수사를 이어가고 있다.
경찰에 따르면 딥페이크 탐지 소프트웨어는 개발 이후 현재까지 모두 1,636건의 사건 분석에 활용됐다. 올해에는 디지털 성범죄뿐 아니라 선거범죄 등 다른 수사 분야에서도 72건이 활용되는 등 적용 범위가 확대되고 있다. 경찰은 앞으로 허위정보 유포와 전기통신금융사기 등 AI를 악용한 다양한 범죄에도 해당 기술을 적극 활용할 계획이다.
경찰청 국가수사본부는 기술 발전 속도에 맞춰 수사기법도 지속적으로 고도화하고 있으며, 관련 시스템 개선과 집중 단속을 병행해 허위영상물 범죄에 대해 무관용 원칙으로 강력 대응하겠다는 입장을 밝혔다.
요약
경찰은 딥페이크 탐지 소프트웨어, 과학수사 영상분석, AI 디지털 포렌식을 연계한 3중 대응체계를 구축해 허위영상물 범죄 수사를 고도화하고 있다. 올해 1~7월 419명의 피의자를 검거했으며, 향후 AI를 악용한 다양한 범죄 영역으로 기술 적용을 확대할 계획이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}