AI 슬럽 콘텐츠, 플랫폼 규제를 맞닥뜨리다
최근 글로벌 SNS 플랫폼 틱톡(TikTok)이 AI 기반 콘텐츠에 대한 규제에 나섰다는 소식이 전해지며, 전 세계적으로 큰 논란이 일고 있습니다. 2026년 3월 27일, 틱톡은 'AI 과일 연애쇼(Fruit Love Island)'와 같은 콘텐츠를 저품질 AI로 분류하고 강제 퇴출했는데, 단 9~10일 만에 조회수 3억 회를 돌파하고 좋아요 2,300만 개 이상, 팔로워 330만 명을 기록하며 극적인 인기를 끌었던 콘텐츠가 이처럼 급격히 퇴출된 배경에 대해 업계의 관심이 집중되고 있습니다.
이는 플랫폼이 AI 콘텐츠를 어디까지 허용하고, 또 그 경계선을 어디에 그을 것인지에 대한 장기 논쟁의 단초가 되고 있습니다. 틱톡은 문제의 'AI 과일 연애쇼'를 저품질 AI 콘텐츠로 규정하며 플랫폼에서 삭제했지만, 이 콘텐츠는 초기부터 폭발적인 반응을 얻었습니다.
딸기와 가지 캐릭터의 의인화된 사랑과 갈등을 다룬 이 쇼는 독특한 콘셉트와 비주얼로 화제를 모았습니다. 흥미로운 점은 이 콘텐츠의 기원입니다.
광고
2026년 2월 말, 'trombonechef'라는 계정에서 시작된 딸기와 가지 상사의 불륜을 다룬 짧은 AI 쇼츠가 원조였으며, 이것이 파생되어 과일과 채소 캐릭터를 의인화한 연애 콘텐츠라는 새로운 미니 장르를 형성하게 되었습니다. 이후 'ai.cinema021' 계정이 이 포맷을 발전시켜 대규모 팔로워를 확보했지만, 결국 틱톡의 규제를 피하지 못했습니다.
그러나 인기를 얻는 와중에도 온라인 커뮤니티에서는 이를 두고 조회수 조작 의혹이 제기되었습니다. 특히 레딧(Reddit)과 같은 커뮤니티에서는 'AI를 올릴 정도로 절박하다면 봇 조회수를 쓸 만큼도 절박하다'는 비판이 나오며, AI 콘텐츠의 인기 지표가 인위적으로 조작되었을 가능성에 대한 의심이 커지고 있습니다.
일각에서는 'AI 콘텐츠 팜(Farm)'이라는 개념이 대두되며, AI로 생성된 대량의 저품질 콘텐츠들이 플랫폼과 인터넷 생태계를 점령하고 있다는 비판이 나오고 있습니다. 이러한 콘텐츠를 지칭하는 'AI 슬럽(AI Slop)', 즉 'AI 찌꺼기'라는 용어까지 등장했습니다.
광고
일부 매체는 전 세계적으로 수천 개의 AI 콘텐츠 팜이 운영되며, 조회수와 광고 수익만을 노리는 'AI 슬럽' 콘텐츠가 인터넷을 오염시키고 있다고 지적했습니다.
저품질 AI와 창작의 자유, 그 경계는?
이번 사례가 단순히 틱톡의 내부 정책 변화에 그치는 것이 아니라, 창작의 자유와 질적 기준 사이에서 플랫폼이 어떻게 균형점을 찾아야 할지에 대한 현주소를 보여준다는 분석이 나오고 있습니다. 틱톡과 같은 플랫폼은 콘텐츠의 수익성과 사용자 경험을 모두 유지해야 하는 딜레마에 빠져 있습니다.
AI로 생성된 콘텐츠가 과도하게 소비자와 광고주를 유인하는 경우, 플랫폼의 신뢰성마저 위협받을 수 있기 때문입니다. 이는 AI 기술이 발전하면서 우리가 맞닥뜨리는 윤리적이고 실질적인 문제를 단적으로 보여주는 사례입니다.
특히 플랫폼이 무엇을 '저품질'로 규정하고, 인간이 만든 콘텐츠와 AI 콘텐츠를 어떤 기준으로 차별 규제할 것인지에 대한 장기적인 논쟁의 서막을 알리는 것으로 평가됩니다. 하지만 이러한 틱톡의 규제에 대해 반대 의견도 만만치 않습니다.
광고
AI 콘텐츠 제작자들은 이러한 조치가 창작의 자유를 제한하며, AI를 활용하는 새로운 미디어 포맷의 성장을 저해한다고 주장합니다. 이번 조치에 따라 계정을 삭제 당한 'ai.cinema021'의 사례는 특히 논란이 되었습니다. 이 계정은 약 10일 만에 330만 명의 팔로워를 기록하며 폭발적인 성장을 보였지만, 틱톡의 규정에 따라 그 노력이 단칼에 좌절된 것입니다.
일부에서는 AI를 활용한 창작물들이 기존의 형식과 완전히 다르기 때문에 평가 기준의 재설정이 필요하다는 주장이 제기되고 있으며, AI 콘텐츠와 관련된 명확하고 공정한 규정 마련의 필요성이 강조되고 있습니다. 한국 시장의 맥락에서 이러한 논란은 더욱 중요해질 수밖에 없습니다. 틱톡은 이미 국내에서도 영향력이 매우 큰 플랫폼으로 자리하고 있으며, 많은 크리에이터들이 틱톡에서의 성공을 목표로 다채로운 콘텐츠를 생산하고 있습니다.
특히 한국은 AI 기술 경쟁력이 급격히 성장하고 있는 시장 중 하나로, AI와 콘텐츠 제작의 융합 사례가 점점 늘어나고 있습니다.
광고
국내 크리에이터와 스타트업 입장에서 볼 때, 틱톡처럼 글로벌 플랫폼에서 규제의 불확실성이 높아진다면 국내 AI 콘텐츠 산업에도 사전적인 투자와 개발을 주저하게 되는 부정적 영향을 미칠 가능성이 큽니다. AI 콘텐츠 생태계가 성장하는 과정에서 명확한 가이드라인의 부재는 창작자들에게 큰 리스크로 작용할 수 있습니다.
한국 콘텐츠 시장에 미칠 파급 효과
향후 AI 콘텐츠가 계속해서 발전한다면, 저품질 AI와 고품질 AI를 가르는 기준이 더욱 중요해질 것입니다. 그리고 이러한 기준은 단순히 기술적 완성도를 평가하는 데 그치지 않고 콘텐츠가 사회적으로 미치는 영향까지 포괄해야 할 것입니다. 실제로 2026년에 AI 생성 딥페이크는 이미 다양한 사회적 논란을 야기하고 있습니다.
정치적 딥페이크를 통한 선거 개입 시도, 사이버 범죄에서의 신원 도용, 헬스케어 분야에서의 편향된 진단 알고리즘, 그리고 대규모 데이터 유출 사건 등이 보고되고 있습니다. 이러한 사례들은 AI 콘텐츠 규제가 왜 필요한지를 여실히 보여줍니다.
광고
그러나 동시에, 이러한 규제들이 어떻게 적용되는가에 따라, 창작의 자유와 혁신 모두 제한될 수 있음도 잊지 않아야 합니다. AI 기술의 윤리적 책임과 규제 필요성이 점차 강조되는 가운데, 플랫폼들은 악의적 사용과 창의적 활용 사이의 섬세한 경계를 설정해야 하는 과제를 안고 있습니다.
결국 한국을 포함한 글로벌 시장에서의 AI 콘텐츠 규제는 단순히 특정 플랫폼의 정책적 변화가 아니라, AI 기술과 창작 사이의 경계가 어디까지 허용 가능한 것인지 재정립하는 시험대에 올랐다고 보아야 할 것입니다. 인간이 만든 콘텐츠와 AI가 만든 콘텐츠를 어떻게 구분하고, 각각에 어떤 기준을 적용할 것인지에 대한 논의는 이제 시작 단계에 불과합니다.
이 과정에서 플랫폼, 정부, 크리에이터 간의 열린 대화와 협업이 필요하며, 궁극적으로는 소비자들 또한 비판적 사고를 바탕으로 AI 콘텐츠를 바라봐야 할 때가 도래했다고 할 수 있습니다. 'AI 슬럽' 시대에 우리는 콘텐츠의 질을 어떻게 정의하고, 누가 그 기준을 정할 것인지에 대한 근본적인 질문에 답해야 합니다.
김도현 기자
광고
[참고자료]
vertexaisearch.cloud.google.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}