아이의 평범한 사진 한 장이 본인도 모르는 사이 성착취물 제작에 악용될 수 있는 시대가 됐다.
생성형 인공지능(AI)이 빠르게 발전하면서 실제 촬영 없이도 아동·청소년의 얼굴이나 신체 이미지를 이용해 성적 이미지를 만들어내는 것이 가능해졌기 때문이다. 제작자는 한 국가에 있고 서버와 플랫폼은 다른 나라에 있는 경우도 있어 수사와 삭제, 피해자 보호를 한 국가의 대응만으로 해결하기도 어려워지고 있다.
성평등가족부는 지난 9월 28일 서울에서 열린 국제회의에서 국내외 정부기관·수사기관·국제기구·민간 전문가들과 함께 AI 기술로 확산되는 아동·청소년 성착취 문제와 국제 공동대응 방안을 논의했다.
AI가 바꾼 성착취물…‘촬영하지 않아도’ 만들어진다
과거 아동·청소년 성착취물은 피해자를 직접 촬영하거나 기존 영상물을 유통하는 형태가 주로 문제됐다.
생성형 AI의 등장으로 상황은 달라졌다.
온라인이나 SNS 등에 공개된 사진을 이용해 실제로 존재하지 않는 성적 이미지를 만들거나 기존 사진과 영상을 변형하는 것이 가능해졌다. 실제 피해자의 얼굴과 AI로 생성한 이미지를 결합하는 방식도 등장하면서 성착취물의 제작 방식 자체가 변하고 있다.
특히 아동·청소년은 자신이 올린 사진이 어디에서 어떻게 이용되고 있는지 알기 어렵다. 이미 온라인에 유포된 이미지가 복제·재가공되면 피해자가 스스로 확산 범위를 파악하기도 쉽지 않다.
AI가 성착취 범죄의 새로운 수단으로 악용될 수 있다는 우려가 커지는 이유다.
‘가짜 이미지’라도 피해까지 가짜는 아니다
AI로 만들어진 이미지라고 해서 피해가 사라지는 것은 아니다.
실제 아동·청소년의 얼굴이나 신체를 이용해 성적 이미지를 만들었다면 당사자에게는 심각한 인격권 침해와 정신적 피해가 발생할 수 있다. 학교나 또래집단, 온라인 커뮤니티 등에 이미지가 퍼질 경우 피해는 현실의 일상생활로 이어질 수 있다.
우리 법도 이러한 기술 변화를 반영하고 있다.
「성폭력범죄의 처벌 등에 관한 특례법」은 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물을 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위를 처벌하도록 규정하고 있다.
아동·청소년을 대상으로 한 성착취물은 더욱 엄격하게 다뤄진다. 「아동·청소년의 성보호에 관한 법률」은 아동·청소년성착취물의 제작·수입·수출·배포·제공·광고·소개는 물론 구입하거나 소지·시청하는 행위까지 처벌 대상으로 규정하고 있다.
AI로 만들어졌다는 이유만으로 법의 사각지대에 놓인다고 단정해서는 안 되는 이유다.
국경 넘는 범죄…한 나라의 삭제만으로는 부족
AI 성착취 대응이 어려운 또 하나의 이유는 온라인에는 국경이 없기 때문이다.
이미지는 한 국가에서 만들어지고 다른 나라의 플랫폼이나 서버를 통해 유통될 수 있다. 짧은 시간 안에 여러 사이트와 SNS로 복제되면 한 곳에서 삭제하더라도 다른 곳에서 다시 등장할 가능성이 있다.
이번 국제회의에서도 이러한 문제를 해결하기 위한 국가 간 정보공유와 수사협력, 피해 영상물 삭제·차단, 기술기업의 역할 등이 주요 과제로 논의됐다.
성평등가족부는 AI 기술 발전에 따라 새롭게 나타나는 아동·청소년 성착취에 대응하기 위해 국제사회와 협력을 강화하고 피해자 보호체계를 발전시켜 나간다는 방침이다.
AI 성착취 문제는 기술만으로 해결할 수 있는 문제가 아니다. 수사기관과 정부뿐 아니라 플랫폼 사업자, 학교, 가정 등 사회 전체의 대응이 함께 요구된다.
아이들에게 “사진 올리지 마라”만 말할 것인가
AI 시대의 디지털성범죄 예방교육도 달라질 필요가 있다.
지금까지는 개인정보가 포함된 사진을 함부로 보내지 않기, 모르는 사람의 요구에 응하지 않기, 피해 발생 시 신고하기 등이 중요한 예방수칙이었다.
이제는 여기에 한 가지가 더 필요하다. 온라인에 공개된 평범한 사진도 다른 사람에 의해 복제·합성·가공될 수 있다는 사실을 알려주는 것이다.
다만 책임을 아동·청소년에게 돌려서는 안 된다.
피해자에게 “왜 사진을 올렸느냐”고 묻는 방식으로는 AI 성착취 문제를 해결할 수 없다. 사진을 악용해 성착취물을 만들고 유포한 행위의 책임은 이를 제작하고 유통한 사람에게 있다.
피해가 발생했다면 무엇보다 신속한 삭제와 수사, 피해자 보호가 중요하다.
국내에서는 디지털성범죄피해자지원센터를 통해 불법촬영물과 합성·편집물 등에 대한 삭제 지원, 유포 여부 확인, 수사·법률·의료지원 연계 등을 받을 수 있다.
AI가 발전할수록 보호체계도 빨라져야
생성형 AI는 이미 일상과 교육, 산업 현장에 깊숙이 들어오고 있다. 기술의 활용을 막는 것만으로 새로운 범죄를 예방할 수는 없다.
중요한 것은 기술이 발전하는 속도만큼 피해 예방과 수사, 삭제지원, 플랫폼의 책임, 국제공조 체계도 함께 발전하는 것이다.
특히 아동·청소년의 사진과 영상은 단순한 데이터가 아니다. 한 사람의 얼굴이고 신체이며 삶의 일부다.
AI 시대 아동·청소년 보호의 출발점은 분명하다. 기술로 만들어진 이미지라고 해서 그 이미지로 발생한 피해까지 가상이 되는 것은 아니다.
자료: 성평등가족부, AI 시대 아동·청소년 성착취 대응 관련 국제회의 자료 및 디지털성범죄 피해지원 안내
){kind=small}
){kind=small}
){kind=small}
){kind=small}