업무 효율성과 생활 편의를 높여주는 생성형 인공지능(AI)의 활용이 급증하는 가운데, 이용자 10명 중 약 4명이 초상권 침해나 기업 기밀 유출, 투자 손실 등 각종 역기능 위험에 노출된 것으로 조사됐다. 특히 유료 구독자일수록 이러한 위험 행위 경험률이 무료 이용자보다 월등히 높은 것으로 나타나 대책 마련이 시급하다는 지적이다.
한국범죄학회는 한국갤럽조사연구소와 공동으로 국민 1,141명을 대상으로 실시한 ‘생성형 AI 유료 이용자 실태조사’ 결과를 발표했다. 이번 조사는 한국범죄학회가 개발한 문항을 한국갤럽 데일리 오피니언 설문조사에 포함해 진행됐다.
조사 결과에 따르면, 생성형 AI 전체 이용자의 39.2%가 ▲타인의 사진·영상 합성 및 변조 ▲회사 업무 문서 업로드 후 요약 ▲주식 등 투자 관련 분석 ▲출처 미확인 공식 업무자료 제작 ▲사행산업 분석 ▲불법 정보 수집 등 6개 주요 역기능 유형 중 하나 이상을 경험한 것으로 집계됐다.
경험 유형별로는 ‘타인의 사진·영상 합성 및 변조’가 17.8%로 가장 높은 비중을 차지했다. 이어 ‘회사 업무 문서 업로드 및 요약’(16.9%), ‘주식 등 투자 관련 분석’(16.5%) 순이었다. 출처가 확인되지 않은 생성형 AI 결과물을 공식 업무에 그대로 사용했다고 응답한 비율도 4.6%에 달해 업무 보안과 저작권 인식 부족에 대한 우려를 낳았다.
세대별 역기능 이용 양상도 뚜렷하게 갈렸다. 10대와 20대 청년층에서는 ‘사진·영상 합성 및 변조’ 경험이 각각 24.6%(13~18세), 26.5%(20대)에 달해 딥페이크 등 초상권 침해와 명예훼손 위험성이 두드러졌다. 반면 경제활동의 중심인 30대와 40대에서는 ‘업무 문서 요약’(30대 31.0%, 40대 22.7%)과 ‘투자 관련 분석’(40대 27.8%, 30대 21.1%) 경험이 상대적으로 높게 나타나 사내 기밀 유출과 금융 피해 위험이 집중됐다.
특히 유료 서비스 구독 여부에 따른 역기능 격차가 심각한 수준인 것으로 드러났다. 유료 이용자의 ‘회사 업무 문서 업로드 요약’ 경험률은 46.7%로 무료 이용자(12.3%)의 약 3.8배에 달했다. ‘투자 관련 분석’ 역시 유료 이용자(40.8%)가 무료 이용자(12.8%)보다 3배 이상 많았다. ‘사진·영상 합성 및 변조’(유료 27.7%, 무료 16.3%)와 ‘출처 미확인 업무 자료 제작’(유료 9.3%, 무료 3.9%) 항목에서도 유료 이용자의 위험 노출 빈도가 압도적으로 높았다.
현재 생성형 AI 유료 이용률은 남성이 17.2%로 여성(9.1%)보다 8.1%포인트 높았으며, 연령별로는 30대(21.9%), 20대(18.0%), 40대(14.2%) 순이었다. 직업별로는 사무관리직이 23.5%로 학생(10.6%), 자영업(7.6%) 등을 크게 웃돌았다.
조제성 한국범죄학회 연구위원은 “유료 결제로 인한 이용 빈도 증가가 역기능 노출을 늘린 것인지, 아니면 특정 목적을 지닌 이용자가 유료 결제로 유입된 것인지는 추가 연구가 필요하다”라고 진단했다.
박준휘 한국범죄학회 회장은 “생성형 AI의 보급과 활용이 확대될수록 법률 위반 및 보안 사고 위험에 직면할 가능성 역시 커진다”라며 “이용자 개인의 윤리적 가이드라인 준수는 물론, 부작용을 예방하기 위한 사회적·제도적 안전망 구축 논의가 본격화되어야 할 시점”이라고 강조했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}