영상 속 얼굴이 자연스럽고 목소리가 익숙하다는 이유만으로 내용을 믿기 어려운 시대다. 경찰이 인공지능으로 만든 조작물을 판별하고, 생성부터 유포까지의 과정을 추적하는 수사 역량을 강화하기로 했다. 경찰청 국가수사본부가 10월 16일 공개한 기본계획의 핵심은 여러 단서를 함께 분석하는 기술과 전문인력을 갖추는 것이다. 가짜를 찾아내는 일에 더해 어떻게 만들어지고 퍼졌는지 확인하는 수사로 대응의 폭을 넓힌다는 취지다.
경찰은 2024년부터 활용해 온 딥페이크 탐지 시스템의 성능을 국내 환경에 맞게 개선하고 있다고 밝혔다. 영상과 사진뿐 아니라 음성과 문자도 함께 분석하는 기술을 연구한다. 입 모양과 목소리, 음성과 자막의 관계 등을 종합적으로 확인하는 방식이다. 이처럼 서로 다른 종류의 정보를 함께 다루는 기술을 ‘멀티모달’이라고 부른다. 한 가지 흔적에만 의존하지 않고 여러 근거를 비교한다는 의미로 이해할 수 있다.
관련 진위 판별 연구개발은 2025년부터 2027년까지 진행하는 사업이다. 경찰은 분석 전문인력을 시도경찰청에 배치·운영하고, 생성형 인공지능의 실행 이력과 명령 기록 등을 분석하는 기법도 강화한다는 계획을 제시했다. 다만 연구개발과 구축 계획을 발표했다는 사실이 모든 영상의 진위를 지금 완벽하게 가릴 수 있다는 뜻은 아니다. 이번 발표에는 일반인이 사용할 수 있는 만능 판별 도구가 완성됐다는 내용이 없다.
여러 단서를 함께 보는 접근이 필요한 이유는 조작물이 하나의 모습으로만 나타나지 않기 때문이다. 실제 영상에 음성을 바꾸어 붙이거나 진짜 발언을 다른 맥락에 놓는 경우를 생각해 볼 수 있다. 이는 이번에 적발된 특정 사건을 설명하는 사례가 아니라 검증의 대상을 이해하기 위한 예다. 화면의 일부가 진짜라는 사실만으로 전달하는 내용 전체가 사실이라고 판단할 수는 없다.
얼굴이 부자연스럽게 움직이거나 음성이 어색하면 의심의 단서가 될 수 있다. 그러나 그런 특징이 보이지 않는다고 진짜임이 입증되는 것은 아니다. 반대로 화질이 좋지 않거나 소리가 끊긴다는 이유만으로 조작이라고 단정해서도 안 된다. 전송과 편집 과정에서도 품질은 달라질 수 있다. 탐지 기술의 역할은 의심을 확인 가능한 자료로 좁혀 가는 데 있으며, 시청자의 인상만으로 결론을 대신하기는 어렵다.
특히 익숙한 사람의 목소리는 판단을 서두르게 만들 수 있다. 가족이 급히 돈을 보내 달라고 부탁하는 상황이라면 목소리의 닮은 정도보다 요청이 사실인지 별도로 확인하는 것이 중요하다. 평소 알고 있던 연락처로 다시 연락해 상황을 묻는 방식이 하나의 방법이다. 상대가 보내 온 새로운 연락 수단만으로 확인을 끝내면 같은 사람에게 다시 묻는 결과가 될 수 있어 확인 경로를 나눌 필요가 있다.
투자 관련 영상에서도 확인의 순서는 비슷하다. 유명인이 말하는 모습이 등장해도 원래 어디에 공개된 자료인지 살펴야 한다. 공식 채널의 실제 게시물과 연결되는지, 짧게 편집된 내용이 본래의 발언과 같은 뜻인지 확인할 수 있다. 인물의 얼굴과 목소리가 등장했다는 사실은 수익을 보장하는 근거가 아니다. 영상의 인상과 거래를 결정할 자료를 분리해서 보는 태도가 필요하다.
수사에서는 조작 여부와 함께 유포 경로를 살피는 일이 중요해진다. 가짜가 만들어진 뒤 어떤 계정을 거쳐 전달됐는지, 어떤 자료가 남아 있는지에 따라 확인할 수 있는 범위가 달라질 수 있기 때문이다. 경찰이 자동화 분석 도구와 전문인력을 함께 강조한 배경도 이 지점에서 이해할 수 있다. 다만 구체적인 추적 가능성은 사건마다 다르며, 이번 계획이 삭제된 모든 자료의 복원을 보장하는 것은 아니다.
의심스러운 자료를 접한 이용자는 공개적인 재전송에 신중할 필요가 있다. 사실을 확인하겠다는 취지로 단체 대화방에 다시 올려도 결과적으로 노출 범위를 넓힐 수 있다. 내용을 다른 사람에게 널리 전달하는 일과 필요한 근거를 보존하는 일은 목적이 다르다. 확인이 필요하다면 게시 위치와 접한 시점 같은 정보를 정리해 정식 신고·상담 경로에서 안내받는 편이 낫다. 피해자의 얼굴이나 개인정보를 덧붙여 퍼뜨리는 행동은 피해야 한다.
기업과 학교에도 이번 변화는 정보 확인 절차를 돌아볼 계기다. 예를 들어 외부에서 온 긴급 지시가 평소의 승인 과정을 건너뛰도록 요구한다면, 영상이나 음성이 있다는 이유로 바로 따를 필요는 없다. 업무상 중요한 요청은 정해 둔 담당자와 경로를 통해 확인할 수 있어야 한다. 기술이 정교해질수록 사람의 주의력만 강조하기보다 확인을 돕는 절차를 마련하는 일이 중요해진다.
탐지 기술을 평가하는 기준도 구체적이어야 한다. 어떤 종류의 자료를 대상으로 성능을 확인했는지, 조작물을 놓치는 경우와 정상 자료를 잘못 의심하는 경우가 어떻게 나타나는지 살펴야 한다. 연구의 성능 수치 하나를 실제 모든 환경에 적용할 수는 없다. 이번 발표만으로 특정 탐지 정확도를 기사에 추가할 수 없는 이유다. 현장의 자료와 평가 조건을 함께 설명해야 기술의 도움이 닿는 범위가 선명해진다.
한국 사회가 이번 계획에서 기대할 부분은 탐지 기술과 분석 절차, 인력 교육이 함께 발전하는 것이다. 새로운 생성 기술이 등장하면 대응 기술도 계속 점검해야 한다. 이용자에게 모든 진위 판단의 부담을 넘기기보다 전문기관이 검증 근거를 다루고, 시민은 중요한 요청을 별도로 확인하는 방식으로 역할을 나눌 수 있다. 인공지능을 믿고 활용할 환경은 편리한 생성 기능과 신뢰를 확인하는 장치가 함께 갖춰질 때 넓어진다.
[참고자료]
경찰청 인공지능 불법 조작물 탐지·분석체계 고도화 계획
https://www.korea.kr/news/policyNewsView.do?newsId=148973649&pWise=main&pWiseMain=L2
발표일: 2026-10-16 / 기본계획 공개, 판별 기술 연구개발 2025~2027년
){kind=small}
){kind=small}
){kind=small}
){kind=small}