중국이 생성형 인공지능의 급속한 확산에 대응해 AI 응용 서비스 정비를 한층 강화하고 있다. 중국 국가인터넷정보판공실은 9월 2일 ‘칭랑·AI 응용 난상 정비’ 특별행동의 2단계 추진 상황을 공개했다. 단속의 초점은 AI로 만든 허위정보, 타인의 얼굴과 목소리를 악용한 합성 콘텐츠, 사실을 왜곡하는 영상과 이미지, 그리고 AI를 이용한 온라인 사기와 불법 마케팅에 맞춰졌다. 인공지능 산업을 키우는 동시에 이용자에게 직접 피해를 주는 오남용을 줄이겠다는 정책 방향이 선명해진 것이다.
공개된 수치는 정비 규모를 보여 준다. 중국 당국은 현재까지 불법·유해 정보 561만여 건을 삭제하고, 계정 4만9천여 개를 조사했으며, 규정을 위반한 웹사이트와 애플리케이션 2천400여 개를 처리했다고 밝혔다. 더우인, 콰이서우, 웨이보, 텐센트, 바이두, 빌리빌리, 샤오훙수, 즈후, 더우반, 타오바오 등 주요 플랫폼도 다중양식 식별 모델과 얼굴·음성 데이터베이스를 보강하고 실시간 탐지 기능을 적용했다. AI 문제를 사람의 사후 심사만으로 해결하기보다 AI 탐지 기술을 함께 활용하는 구조다.
이번 조치가 중요한 이유는 생성형 AI의 위험이 텍스트를 넘어 영상과 음성으로 이동하고 있기 때문이다. 실제 인물의 얼굴을 합성하거나 목소리를 흉내 내는 기술은 창작과 번역, 교육에서 유용하게 쓰일 수 있다. 그러나 출처 표시 없이 유통되면 가짜 뉴스와 명예훼손, 금융사기 수단이 된다. 제작 비용은 낮아졌지만 진위를 확인하는 사회적 비용은 오히려 커졌다. 플랫폼이 생성물임을 표시하고, 유통 경로를 추적하며, 피해 신고를 신속히 처리해야 하는 이유다.
중국의 대응은 처벌만을 뜻하지 않는다. 플랫폼들이 탐지 모델을 고도화하고 신고 통로를 확대하도록 요구했다는 점에서 기술·운영·이용자 보호를 함께 묶은 관리 체계에 가깝다. 다만 탐지 기술이 모든 합성물을 정확하게 판별하는 것은 아니다. 정상적인 풍자와 창작, 번역 결과가 잘못 차단될 가능성도 있다. 반대로 조금만 변형된 불법 콘텐츠가 자동 필터를 피할 수도 있다. 규제의 실효성을 높이려면 삭제 건수뿐 아니라 이의신청 절차, 판정 기준의 공개, 피해 회복 속도까지 함께 살펴야 한다.
산업계에도 변화가 예상된다. 앞으로 AI 서비스 기업은 모델 성능뿐 아니라 데이터 출처, 안전 필터, 생성물 표시, 기록 보관, 신고 대응 능력으로 평가받게 될 가능성이 크다. 보안과 준법 기능은 비용 항목이 아니라 시장 진입을 위한 기본 인프라가 된다. 이미지·영상 생성 기업, 광고회사, 전자상거래 플랫폼, 교육 서비스처럼 AI 생성물이 대량 유통되는 분야는 특히 책임이 커질 수밖에 없다.
교육 현장도 예외가 아니다. 학생이 AI로 만든 글과 그림을 자신의 창작물처럼 제출하거나, 교사와 친구의 얼굴·목소리를 동의 없이 합성하는 문제는 학교의 디지털 윤리교육과 직결된다. 단순히 AI 사용을 금지하기보다 어떤 도움을 받았는지 밝히고, 원자료와 생성 결과를 구분하며, 타인의 개인정보와 저작권을 존중하도록 가르쳐야 한다. AI 활용 능력은 명령어를 잘 쓰는 기술만이 아니라 결과를 검증하고 책임지는 능력까지 포함한다.
한국과 중국은 모두 플랫폼 이용자가 많고 교육·전자상거래·짧은 영상 분야에서 생성형 AI의 활용이 빠르다. 양국이 합성 콘텐츠 표시 방식, 딥페이크 탐지 정보, 청소년 보호 기준, 피해 신고 절차를 비교하고 협력한다면 실무적인 성과를 만들 수 있다. 특히 국경을 넘어 유통되는 영상과 사기 광고는 한 나라의 삭제 조치만으로 해결하기 어렵다. 플랫폼 사이의 신속한 정보 공유와 수사기관의 협력 체계가 필요하다.
중국 당국은 특별행동의 성과를 정리하면서 AI 생성·합성 콘텐츠의 새로운 위험을 계속 관찰하고 기술 오남용을 막겠다고 밝혔다. 앞으로의 관건은 규제가 혁신을 위축시키지 않으면서도 피해를 실제로 줄이는가에 있다. 생성형 AI 경쟁의 다음 단계는 더 큰 모델을 만드는 데만 있지 않다. 이용자가 결과를 믿을 수 있고, 문제가 생겼을 때 책임의 주체와 해결 절차를 확인할 수 있는 환경을 구축하는 데 있다.
이번 2단계 정비는 중국 AI 산업이 ‘빠른 보급’에서 ‘안전한 보급’으로 정책의 무게중심을 옮기고 있음을 보여 준다. AI가 일상 기반시설이 될수록 안전과 투명성은 기술 발전의 반대편이 아니라 지속적인 성장을 가능하게 하는 조건이 된다. 한국 역시 중국의 대규모 플랫폼 정비가 산업과 이용자 행동에 어떤 변화를 만드는지 면밀히 살펴볼 필요가 있다.
키워드: 생성형AI,生成式人工智能,AI안전,人工智能安全,딥페이크,深度伪造,플랫폼책임,平台责任,디지털윤리,数字伦理,한중AI협력,中韩人工智能合作,한국중국어교육개발원,박용호TV,시노인사이트,sinoinsight,차이나북스,chinabooks,차이나북스TV
참고자료
중국 국가인터넷정보판공실, ‘칭랑·AI 응용 난상 정비’ 2단계 추진 상황(2026.09.02)
중국 국무원, ‘인공지능+’ 행동 심화 실시에 관한 의견
중국 국가발전개혁위원회, 인공지능 협력발전 행동계획(2026.07.17)
中国启动AI应用乱象整治第二阶段：从“制造技术”走向“承担责任”
清理违法违规信息561万余条、处置账号4.9万余个——生成式AI扩散中的平台责任与中韩合作课题
为应对生成式人工智能的快速扩散，中国进一步加强了对AI应用服务的规范治理。9月2日，国家互联网信息办公室公布了“清朗·整治AI应用乱象”专项行动第二阶段的推进情况。整治重点包括利用AI制作虚假信息、冒用他人面孔与声音的合成内容、歪曲事实的视频和图片，以及借助AI实施网络诈骗和违法营销等行为。这表明，中国正在推动人工智能产业发展的同时，进一步遏制直接损害用户权益的技术滥用。
公开数据反映出此次治理的规模。截至目前，中国有关部门累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等主要平台也进一步升级多模态识别模型，扩充人脸库、声纹库及违规样本库，并上线实时识别功能。这形成了人工审核与AI检测技术共同参与治理的模式。
此次行动之所以重要，在于生成式AI的风险已经从文字扩展到视频和声音。模拟真实人物面孔与声音的技术可以服务于创作、翻译和教育，但如果未经标识便被传播，也可能成为虚假新闻、名誉侵害和金融诈骗的工具。内容制作成本下降了，社会辨别真伪的成本却在上升。因此，平台需要标明AI生成内容、追踪传播路径，并及时处理受害者的举报。
中国的治理并不只意味着处罚。从要求平台升级识别模型、畅通举报渠道来看，它更接近一个把技术、运营和用户保护结合起来的管理体系。然而，检测技术并不能准确识别所有合成内容。正常的讽刺、创作和翻译成果可能被误判，经过细微修改的违法内容也可能绕过自动过滤。衡量治理效果时，除了删除数量，还应关注申诉程序、判定标准的透明度以及受害者权益恢复的速度。
产业界也将因此发生变化。未来，AI服务企业的竞争力可能不仅取决于模型性能，还包括数据来源管理、安全过滤、生成内容标识、记录保存和举报处理能力。安全与合规不再只是成本，而会成为进入市场的基础设施。图像和视频生成企业、广告公司、电商平台以及教育服务等大量传播AI内容的行业，将承担更大的责任。
教育领域同样无法回避这一问题。学生把AI生成的文章和图像当作自己的作品提交，或未经同意合成教师、同学的面孔和声音，都与学校数字伦理教育直接相关。学校不能只禁止使用AI，还应教会学生说明使用了哪些AI帮助，区分原始资料与生成结果，并尊重他人的个人信息和著作权。AI素养不仅是会写提示词，也包括验证结果和承担责任的能力。
韩国和中国都拥有规模庞大的平台用户，生成式AI在教育、电商和短视频领域的应用也很快。两国如果能比较并协调合成内容标识、深度伪造检测信息、未成年人保护标准和受害举报程序，就可能形成具有实效的合作。跨境传播的视频和诈骗广告很难靠一个国家的删除措施解决，需要平台之间及时共享信息，并加强执法机构合作。
中国有关部门表示，将在总结专项行动治理成效的基础上，继续关注AI生成合成内容的新风险，防止技术被滥用。今后的关键，是监管能否在不抑制创新的同时真正减少伤害。生成式AI竞争的下一阶段，不仅是制造更大的模型，还要建立一个让用户能够信任结果，并在出现问题时找到责任主体和解决程序的环境。
第二阶段专项行动表明，中国AI政策的重点正从“快速普及”转向“安全普及”。当AI逐渐成为日常基础设施，安全与透明度就不是技术发展的对立面，而是行业持续成长的条件。韩国也有必要持续观察中国大规模平台治理将如何改变产业生态和用户行为。
){kind=small}
){kind=small}
){kind=small}
){kind=small}