[화담일보 = 장서안기자] 인공지능(AI) 생성 글을 가려내는 탐지 도구의 판정이 작가의 평판과 출판 계약에 영향을 미치면서, 탐지 점수의 신뢰도와 증거로서의 한계를 둘러싼 논쟁이 이어지고 있다. 스위스 매체 스위스인포는 소설의 AI 집필 의혹 사례와 전문가들의 견해를 통해 탐지 기술의 성능, 창작자의 권리, AI 사용 공개 문제를 짚었다.
논란의 당사자는 아이티계 캐나다 작가 텔리송 오렐리앵이다. 그의 소설 ‘C’était ça ou mourir’는 비평과 판매에서 호응을 얻고 공쿠르상 등 프랑스 주요 문학상 후보로 거론됐다. 이후 엑스(X)의 익명 계정이 책 대부분을 AI로 썼다는 의혹을 제기했다. 근거로 제시된 탐지 도구 팽그램은 작품의 95% 이상을 AI 생성 내용으로 분류했다.
작품은 공쿠르상 선정 대상에서 제외됐다. 당시에는 작가가 사과한 과거 작품의 표절 문제도 언론을 통해 드러난 상황이었다. 캐나다 출판사는 외부 분석에서 AI 사용을 뒷받침하는 추가 정황이 나왔다며 관계를 끊었다. 오렐리앵은 창작 과정의 역사 조사에 AI를 활용한 사실은 인정하면서도 소설을 AI로 집필했다는 주장은 계속 부인했다.
팽그램 같은 도구는 ‘지도 분류’ 방식으로 학습한다. 생성형 AI가 널리 쓰이기 전에 작성돼 인간의 글로 간주되는 텍스트와, 여러 상용 언어모델이 같은 주제로 만든 텍스트를 비교하며 차이를 익히는 방식이다. 팽그램은 정확도 99.98%, 인간의 글을 AI 생성물로 잘못 분류하는 비율인 오탐률 0.01%를 주장한다. 성능을 뒷받침하는 독립 연구도 있으며, 스위스 이탈리아어권대학(USI)의 파올로 이탈리아니 연구자는 텍스트가 길수록 판정의 신뢰도가 높아지는 경향이 있다고 설명했다.
그러나 모델의 발전은 판별을 어렵게 만드는 요인이기도 하다. 2019년 초기 탐지 실험 도구 GLTR 개발에 참여한 IBM의 헨드리크 스트로벨트 선임연구원은 당시에는 모델이 선택할 가능성이 높은 단어를 찾는 접근이 유효했다고 설명했다. 지금은 대형 모델이 지시에 따라 문체까지 모방할 수 있어 인간과 AI의 글을 구분하는 명확한 규칙을 세우기 어렵다는 것이다.
USI의 자연어처리 교수 론네커 판더플라스는 상용 탐지 도구가 어떤 특징을 근거로 판정하는지 파악하기 어렵다고 지적했다. 내부 작동 방식이 독립 연구자에게 공개되지 않는 경우가 많기 때문이다. 지나치게 직선적인 논증 구조 등이 단서가 될 수는 있지만, 그것만으로 글의 기원을 확정할 수는 없다는 설명이다. 영어 이외 언어나 학습 자료에서 비중이 작았을 가능성이 있는 전문 장르에서도 신뢰도가 낮아지는 경향이 있다고 덧붙였다.
인간과 AI가 함께 만든 글은 또 다른 난점이다. 일부 시험에서는 이런 경우 탐지 정확도가 약 20%포인트 떨어졌다. 팽그램 자체 기술 보고서도 사람이 쓴 문장과 AI 생성 문장이 번갈아 등장하면 정확도가 낮아진다고 밝혔다. 판더플라스는 도구들이 주로 전적으로 인간이 쓴 글과 전적으로 기계가 만든 글을 학습했기 때문에 중간 형태를 처리하는 데 어려움을 겪는다고 설명했다.
제네바대 지식재산권법 교수 자크 드베라는 법적 판단이 탐지 결과에만 의존해서는 안 된다고 강조했다. 원고와 단계별 수정본, AI와 주고받은 기록 등을 함께 고려해야 한다는 견해다. AI가 관여했다고 저작권 주장이 자동으로 무효가 되는 것도 아니며, 핵심은 인간의 창작적 기여가 충분한지에 있다. 사람이 직접 써야 하는 분량을 정하는 고정된 수치 기준은 없다고 설명했다.
영화감독이자 시나리오 작가인 마누엘 플루린 헨드리는 소프트웨어 점수만으로 작가의 평판을 훼손하는 데 반대했다. 자신도 시나리오 분석과 학술 연구 등에 AI를 활용한다는 그는 예술가가 도구를 선택할 자유와 함께 사용 방식을 투명하게 밝힐 책임을 강조했다. 전부 AI가 만든 결과물을 자신의 창작물인 것처럼 내세우는 행위는 관객·독자와의 신뢰 문제라는 지적이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}