가짜 AI 콘텐츠 확산이 만들어내는 새로운 위기
오늘날의 인터넷은 예전과 같은 정보의 바다라기보다는, 그 신뢰성이 점점 더 의문시되는 혼란의 공간으로 변모하고 있습니다. 최근 Tom's Guide가 보도한 'AI 슬롭(AI Slop)' 문제는 우리가 믿고 있는 온라인 콘텐츠의 신뢰성을 심각하게 위협하고 있습니다.
AI가 생성한 저품질 콘텐츠가 주도하는 인터넷의 변화는 단순히 콘텐츠 질 저하를 넘어 글로벌 디지털 생태계의 근간을 흔들고 있는 실정입니다. 이는 단순히 개인의 정보 체계 혼란을 초래할 뿐만 아니라, 광고 수익 중심의 웹사이트 속에서 진정한 저널리즘의 역할을 축소시키는 경향을 보여줍니다. AI 슬롭 콘텐츠의 확산은 단순한 기술적 문제가 아닙니다.
이 현상의 본질은 인터넷 경제 구조가 광고 및 클릭 유도 중심으로 변화한 산업적 경향과 맞물려 있습니다. 연구에 따르면 수백 개의 가짜 AI 웹사이트가 현재 인터넷을 오염시키고 있으며, 이들은 저널리즘 대신 오로지 광고 수익 극대화만을 목표로 운영되고 있습니다. 이러한 웹사이트들은 대부분 클릭 유도형 슬라이드쇼 기사와 자극적인 헤드라인으로 독자의 주의를 끌어 광고 노출 효과를 극대화하는 것을 목표로 하고 있습니다.
광고
특히 주목할 만한 점은 연구자들이 특정 운영자들이 실수로 노출시킨 AI 프롬프트와 코드를 통해 이들의 작동 방식을 우연히 밝혀냈다는 사실입니다. 이 프롬프트들은 AI에게 매우 구체적이고 조작적인 지시를 내리고 있었습니다.
'충격적인 정보로 시작하라', '강한 감정(두려움, 긴급성)을 주입하라', '슬라이드쇼 형식의 기사를 생성하라', '스마트폰 사진처럼 보이는 이미지를 생성하라'와 같은 명령어들이 그것입니다. 이러한 지시는 단순히 콘텐츠를 생성하는 것을 넘어, 독자의 심리를 조작하고 클릭을 유도하며 광고 노출을 최대화하도록 전체 시스템이 설계되었음을 명확하게 보여줍니다.
더욱 놀라운 사실은 이러한 대규모 콘텐츠 농장을 운영하는 비용이 극도로 저렴하다는 점입니다. 연구자들의 분석에 따르면, 각 기사 페이지를 생성하는 데 소요되는 비용은 2.25달러 미만으로 추정됩니다.
이는 AI 자동화 기술 덕분에 가능한 일입니다.
광고
과거에는 수백 개의 웹사이트에 수천 개의 기사를 작성하고 게시하려면 대규모 작가 팀과 편집진, 그리고 상당한 인건비가 필요했습니다. 그러나 이제는 몇 가지 잘 설계된 프롬프트와 자동화된 게시 시스템만 있으면 하루에도 수십, 수백 개의 기사를 양산할 수 있게 되었습니다.
이러한 비용 구조의 혁신은 역설적으로 인터넷 정보 환경의 질적 하락을 가속화하는 요인이 되고 있습니다. 전문가들은 AI 도구의 지속적인 발전으로 이러한 네트워크를 운영하는 비용이 앞으로 더욱 낮아질 것으로 예상하고 있습니다.
이는 AI 슬롭 생성의 진입 장벽이 계속 낮아지고 있음을 의미하며, 인터넷이 본격적인 'AI 슬롭 시대'에 진입하고 있다는 경고로 이어집니다. 이러한 환경에서는 우리가 온라인에서 읽고 공유하는 정보에 대한 신뢰를 유지하는 것이 점점 더 어려워질 수밖에 없습니다.
진짜 뉴스와 가짜 AI 생성 콘텐츠를 구분하는 것이 일반 독자에게는 거의 불가능한 수준에 이르고 있기 때문입니다.
광고
AI 슬롭 현상은 단순히 개별적인 문제가 아니라, 인터넷 전체의 구조적 변화를 반영합니다. 이 문제는 '죽은 인터넷 이론(Dead Internet Theory)'과도 깊은 맥락을 같이합니다.
죽은 인터넷 이론은 인터넷이 점차 사람이 아닌 봇과 AI가 생성한 콘텐츠로 채워지면서, 진정한 인간 간의 소통과 정보 교환의 공간으로서의 기능을 잃어가고 있다는 주장입니다. 이 이론은 한때 음모론으로 치부되기도 했지만, AI 슬롭의 확산과 함께 현실적인 우려로 받아들여지고 있습니다.
구글의 최근 보고서 역시 이러한 우려를 뒷받침합니다. 구글은 검색 엔진이 '사람이 아닌 검색 엔진을 위해 만들어진' 웹사이트로 넘쳐나고 있다고 지적했습니다.
이는 많은 웹사이트가 실제 독자에게 가치 있는 정보를 제공하기보다는, 검색 엔진 알고리즘을 속여 상위 노출을 얻고 광고 수익을 극대화하는 데만 초점을 맞추고 있다는 의미입니다. AI 슬롭 웹사이트들은 이러한 경향의 극단적 사례로, 검색 엔진 최적화(SEO)와 AI 생성 기술을 결합하여 대량의 저품질 콘텐츠를 생산하고 있습니다.
광고
저가 운영 비용과 광고 수익 중심의 비즈니스 모델
이러한 현상이 글로벌 차원에서 확산되면서, 각국의 디지털 정보 생태계에도 영향을 미칠 것으로 우려됩니다. 한국은 디지털 콘텐츠 소비율이 높은 국가 중 하나이며, 스마트폰과 초고속 인터넷 환경이 일반화된 사회입니다.
이러한 디지털 인프라의 발달은 정보 접근성을 높이는 장점이 있지만, 동시에 AI 슬롭과 같은 저품질 콘텐츠의 확산에도 취약할 수 있습니다. 만약 국내 검색 엔진과 주요 포털 서비스에 이러한 슬롭 웹사이트가 유입된다면, 한국의 인터넷 생태계 또한 국제적 트렌드와 마찬가지로 정보의 신뢰성을 유지하기 어려워질 가능성이 있습니다.
특히 한국 언론 환경은 이미 온라인에서 자극적 헤드라인과 클릭베이트 콘텐츠를 통한 경쟁이 치열한 상황입니다. 포털 사이트의 뉴스 섹션에서 클릭 수와 댓글 수가 기사의 영향력을 좌우하는 구조 속에서, 일부 언론사들은 이미 선정적이고 자극적인 제목을 사용하는 경향을 보이고 있습니다.
이러한 환경에서 AI 슬롭이라는 새로운 형태의 저품질 콘텐츠가 대량으로 유입된다면, 기존의 문제가 더욱 악화될 수 있습니다.
광고
실제 저널리즘과 AI 생성 슬롭의 경계가 모호해지면서, 독자들의 혼란은 가중되고 미디어 전체에 대한 신뢰도는 더욱 하락할 수 있습니다. AI 기반으로 생성된 콘텐츠의 문제는 단순히 양적 확산에만 있지 않습니다. 질적인 측면에서도 심각한 문제를 안고 있습니다.
AI 슬롭 웹사이트들이 사용하는 AI 생성 이미지는 종종 현실과 동떨어진 왜곡된 시각 정보를 제공합니다. 프롬프트에 명시된 '스마트폰 사진처럼 보이는 이미지'라는 지시는 독자들에게 마치 실제 현장에서 촬영한 사진인 것처럼 착각하게 만들기 위한 의도적인 전략입니다. 이러한 이미지들은 실제 사건이나 인물과 무관하게 생성되었음에도 불구하고, 기사의 신빙성을 높이는 시각적 증거처럼 작용합니다.
또한 슬라이드쇼 형식의 기사 구조는 독자들이 여러 페이지를 클릭하도록 유도하여 광고 노출 횟수를 인위적으로 늘리는 전략입니다. 본래 한 페이지로 충분히 전달할 수 있는 정보를 10페이지 이상의 슬라이드쇼로 나누어 게시함으로써, 각 페이지마다 새로운 광고를 노출시키고 수익을 극대화합니다. 이는 독자의 시간을 낭비하고 정보 습득의 효율성을 떨어뜨리는 명백한 사용자 경험 저해 행위입니다.
그럼에도 불구하고 이러한 기법이 계속 사용되는 이유는 단순합니다. 수익이 발생하기 때문입니다. '충격적인 정보로 시작하라'와 '강한 감정(두려움, 긴급성)을 주입하라'는 프롬프트 지시는 독자의 감정을 조작하여 클릭을 유도하는 전형적인 낚시성 콘텐츠의 특징입니다.
이러한 감정 조작 기법은 사람들의 불안, 호기심, 분노와 같은 원초적 감정을 자극하여 이성적 판단을 흐리게 만듭니다. 독자들은 헤드라인에 이끌려 클릭하지만, 실제 기사 내용은 헤드라인이 암시한 것과 크게 다르거나 실질적인 정보가 거의 없는 경우가 대부분입니다.
이러한 경험이 반복되면서 독자들은 온라인 정보 전반에 대한 불신을 키우게 됩니다. 전문가들은 AI 슬롭 문제가 앞으로 더욱 심화될 것으로 전망하고 있습니다. AI 기술의 발전 속도를 고려할 때, 콘텐츠 생성의 품질은 향상되고 비용은 더욱 낮아질 것입니다.
이는 역설적으로 AI 슬롭의 탐지와 차단을 더욱 어렵게 만듭니다. 초기 단계의 AI 생성 콘텐츠는 어색한 문장 구조나 부자연스러운 표현으로 쉽게 식별할 수 있었지만, 최신 대형 언어 모델(LLM)들은 인간이 작성한 글과 거의 구분이 불가능한 수준의 텍스트를 생성합니다.
이미지 생성 기술 역시 급속도로 발전하여, AI가 만든 이미지를 육안으로 구분하기 어려운 단계에 이르렀습니다. 이러한 기술적 진보는 정보의 진실성을 검증하는 데 새로운 도전을 제기합니다. 기존의 팩트체크 방법론은 주로 인간이 작성한 콘텐츠를 대상으로 발전해왔기 때문에, AI 생성 콘텐츠의 대량 확산에 효과적으로 대응하기 어렵습니다.
검색 엔진과 소셜 미디어 플랫폼들도 알고리즘을 통해 저품질 콘텐츠를 걸러내려 노력하고 있지만, AI 슬롭 생성자들 역시 이러한 필터링 시스템을 우회하는 방법을 지속적으로 개발하고 있습니다. 이는 일종의 기술적 군비 경쟁으로, 단기간 내에 명확한 해결책을 찾기 어려운 상황입니다.
인터넷 생태계 회복을 위한 기술적·사회적 대안
정보 생태계의 건강성을 회복하기 위해서는 다각적인 접근이 필요합니다. 기술적 차원에서는 AI 생성 콘텐츠를 탐지하고 라벨링하는 기술의 개발이 필수적입니다.
일부 연구자들은 AI가 생성한 텍스트와 이미지에 디지털 워터마크를 삽입하는 방법을 제안하고 있습니다. 이를 통해 독자들이 해당 콘텐츠가 AI에 의해 생성되었음을 명확히 인지할 수 있도록 하는 것입니다.
그러나 이러한 시스템이 효과를 발휘하려면 AI 개발사, 플랫폼, 콘텐츠 생성자 모두의 협력이 필요하며, 이는 현실적으로 쉽지 않은 과제입니다. 법적·제도적 차원에서도 대응이 필요합니다. AI 생성 콘텐츠에 대한 명확한 표시 의무를 법제화하거나, 허위 정보 유포에 대한 책임 소재를 명확히 하는 규제가 요구됩니다.
특히 광고 수익만을 목적으로 대량의 저품질 콘텐츠를 생산하는 행위에 대해서는 더욱 엄격한 기준을 적용할 필요가 있습니다. 그러나 표현의 자유와 규제 사이의 균형을 찾는 것은 매우 민감하고 복잡한 문제로, 사회적 합의를 도출하는 과정이 선행되어야 합니다. 플랫폼과 검색 엔진의 책임도 강화되어야 합니다.
구글을 비롯한 주요 검색 엔진들은 검색 결과의 품질을 높이기 위해 알고리즘을 지속적으로 개선하고 있지만, AI 슬롭의 확산 속도를 따라잡기에는 역부족인 상황입니다. 검색 엔진은 단순히 기술적 필터링을 넘어, 신뢰할 수 있는 정보원을 우선적으로 노출하고 저품질 콘텐츠 농장을 적극적으로 차단하는 정책적 결단이 필요합니다. 소셜 미디어 플랫폼 역시 AI 슬롭의 확산 경로가 되지 않도록 공유 알고리즘을 조정하고, 의심스러운 콘텐츠에 대한 사용자 신고 체계를 강화해야 합니다.
무엇보다 중요한 것은 독자 스스로의 미디어 리터러시 향상입니다. 모든 기술적, 제도적 장치가 완벽하게 작동한다 해도, 정보 소비의 최종 주체는 결국 개인입니다. 독자들은 자신이 접하는 정보의 출처를 확인하고, 지나치게 자극적이거나 감정적인 헤드라인에 대해서는 비판적 태도를 유지해야 합니다.
여러 출처를 교차 확인하고, 익명이거나 신뢰도가 낮은 웹사이트의 정보는 신중하게 받아들이는 습관이 필요합니다. 특히 슬라이드쇼 형식으로 과도하게 분할된 기사나, 출처가 불분명한 AI 생성 이미지를 사용하는 콘텐츠에 대해서는 경계심을 가져야 합니다. 결론적으로, AI 슬롭이 만들어내는 인터넷 신뢰성 위기는 단순히 기술 발전의 부작용을 넘어 사회 전체의 정보 소비 환경과 민주주의적 공론장의 건강성을 위협하는 심각한 문제입니다.
우리는 이 문제를 기술적 관점에서뿐만 아니라 사회적, 법적, 윤리적 관점에서도 면밀히 접근해야 합니다. AI 기술 자체는 중립적이며, 그것을 어떻게 사용하느냐에 따라 긍정적 결과도 부정적 결과도 가능합니다. AI의 지속적인 발전이 인류에게 긍정적 결과로 이어지기 위해서는, AI 생성 콘텐츠에 대한 투명성 확보, 검증 기술의 발전, 소비자 보호 정책의 강화, 그리고 충분한 사회적 논의가 조화를 이루어야 합니다.
독자들도 자신이 매일 접속하는 인터넷 환경이 제공하는 정보가 진실인지, 아니면 광고 수익만을 목적으로 생성된 슬롭인지 경각심을 가져야 할 때입니다. 클릭 한 번의 선택이 모여 인터넷 생태계의 방향을 결정합니다. 저품질 콘텐츠에 대한 클릭과 공유를 줄이고, 신뢰할 수 있는 정보원을 지지하는 것이 건강한 정보 생태계를 만드는 첫걸음입니다.
미래의 인터넷은 우리가 어떻게 이 문제를 해결해 나가느냐에 따라 그 신뢰성과 가치가 결정될 것입니다. AI 슬롭의 시대에 우리가 어떤 선택을 하느냐가, 다음 세대가 물려받을 디지털 세상의 모습을 결정하게 될 것입니다.
김도현 기자
광고
[참고자료]
tomsguide.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}