인공지능(Artificial Intelligence·AI)이 만든 답은 빠르고 매끄럽다. 그래서 틀린 답도 충분한 근거를 갖춘 설명처럼 보일 수 있다. 많은 사람이 일상에서 사용하는 도구가 됐다면 편리함을 칭찬하는 것만으로는 부족하다. 시노인사이트는 이제 AI를 얼마나 자주 쓰는지와 함께, 그 답을 믿어도 되는지 판단할 수 있는 조건을 물어야 한다고 본다.
중국 과기일보(科技日报)는 10월 29일 생성형 AI 이용 확산 이후의 관리 문제를 다뤘다. 그 배경이 된 중국인터넷정보센터(中国互联网络信息中心·China Internet Network Information Center·CNNIC)의 2026년 보고서는 상반기 기준 이용자가 7억 명을 넘었다고 밝혔다. 보고서 발표는 9월 29일, 기관 홈페이지 소개는 10월 8일이다. 이 숫자를 오늘 새로 집계된 이용자 수로 소개해서는 안 된다.
규모가 큰 도구일수록 오류가 영향을 주는 경로도 다양해진다. 개인이 초안을 만드는 데 쓰는 경우와 기관이 여러 사람에게 정보를 전달하는 데 쓰는 경우는 다르다. 같은 잘못된 문장이라도 확인하고 고칠 기회가 어디에 있는지에 따라 결과가 달라진다. 이용자의 주의만 강조하기보다 서비스를 만드는 쪽과 활용하는 조직의 책임을 함께 봐야 한다.
우선 필요한 것은 근거를 확인할 수 있는 설명이다. AI가 어떤 자료를 바탕으로 답했는지 알려주지 않는다면 사용자는 문장의 자신감에 기대기 쉽다. 자료가 연결돼 있어도 실제로 주장을 뒷받침하는지는 다시 살펴야 한다. 출처를 보여주는 기능과 정확한 근거를 제시하는 기능은 같지 않다. 확인할 수 있는 연결이 있어야 신뢰의 출발점이 생긴다.
다음은 모르는 것을 모른다고 말할 수 있는 구조다. 정보가 없는데 빈칸을 자연스러운 문장으로 채우면 사용자가 판단하기 어렵다. 특히 날짜와 사람 이름, 수치처럼 조금만 틀려도 의미가 달라지는 내용은 분명한 확인이 필요하다. 답변을 멈추거나 추가 자료를 요청하는 행동도 유용한 기능으로 평가해야 한다. 언제나 답을 내놓는 것이 최선은 아니다.
사용 목적에 따른 차이도 중요하다. 소설의 소재를 상상하는 작업과 실제 사건을 기사로 전달하는 작업은 같은 기준을 적용할 수 없다. 전자는 창의성이 도움이 될 수 있지만 후자는 확인되지 않은 내용을 넣으면 사실을 흐린다. 도구를 평가할 때도 문장을 얼마나 잘 쓰는지만 볼 것이 아니라 그 목적에 맞게 근거와 한계를 다루는지 살펴야 한다.
조직이 AI를 활용한다면 사람이 책임질 지점을 남겨야 한다. 결과를 누가 검토하고 어떤 부분을 확인했는지 정하는 것이다. 사람이 마지막에 버튼을 눌렀다는 사실만으로 검토가 이뤄졌다고 볼 수는 없다. 검토할 시간과 자료, 내용을 이해할 역량이 함께 있어야 한다. 책임이라는 말이 형식적인 절차로 끝나지 않으려면 운영 조건이 필요하다.
잘못된 정보가 나간 뒤 고치는 통로도 있어야 한다. 사용자가 오류를 알릴 수 있고, 수정 여부를 확인할 수 있어야 한다. 내용이 바뀌었는데 이전 답변과 어떤 차이가 생겼는지 알 수 없다면 혼란이 남을 수 있다. 서비스의 신뢰는 오류가 한 번도 없다는 약속보다 문제를 발견하고 고치는 과정을 얼마나 분명하게 운영하느냐에서도 나온다.
교육에서는 이런 과정을 학습의 일부로 다룰 수 있다. AI 답변에서 사실 주장과 의견을 나누고, 숫자의 기준 시점을 찾고, 원자료와 대조해 보는 활동이다. 학생에게 무조건 믿으라거나 쓰지 말라고만 말하면 판단을 연습할 기회가 줄어든다. 어떤 질문에 어떤 자료가 필요한지 배우게 해야 도구가 달라져도 사용할 수 있는 능력이 남는다.
이용자의 차이도 고려해야 한다. 같은 안내라도 글을 읽는 수준과 관련 지식, 언어에 따라 이해가 달라진다. 경고 문구를 길게 붙이는 방식만으로 책임을 다했다고 보기 어렵다. 중요한 제한과 확인할 정보를 사용자가 알아볼 수 있는 위치와 표현으로 보여줘야 한다. 정보의 양을 늘리는 일과 이해를 돕는 일은 구분할 필요가 있다.
정보를 제공하는 매체도 예외가 아니다. AI가 문장을 정리하는 데 도움을 줬더라도 기사에 담긴 사실의 책임은 편집 과정에서 확인해야 한다. 실제 하지 않은 인터뷰와 현장 경험을 만들지 않고, 과거 자료를 오늘의 사건처럼 포장하지 않아야 한다. 그럴듯한 기사보다 무엇을 확인했는지 설명할 수 있는 기사가 필요하다. 쉬운 문체와 정확성은 함께 지켜야 할 기준이다.
기업의 효율을 말할 때도 확인 비용을 빼놓지 않아야 한다. 초안을 빨리 만들었더라도 오류를 찾고 고치는 데 더 많은 시간이 들 수 있다. 결과를 쓰는 사람이 내용의 위험을 판단할 수 있어야 효율을 제대로 계산할 수 있다. 작업 시간을 줄이는 목표와 결과를 믿을 수 있게 만드는 목표를 같은 표에서 봐야 한다.
이런 요구는 기술의 가능성을 부정하는 것이 아니다. 도구가 더 널리 쓰일수록 필요한 기준을 세우자는 뜻이다. 편리함을 누리는 사람과 오류의 부담을 지는 사람이 다를 수 있다면 그 차이를 줄일 설계가 필요하다. 제공자와 기관, 이용자가 맡을 일을 구체적으로 나누어야 책임이 서로에게 떠넘겨지지 않는다.
7억 명이라는 수치는 확산의 크기를 보여준다. 그러나 그 숫자만으로 이용자의 이해 수준이나 답변의 정확성을 알 수는 없다. 보급의 성과를 말하는 자료와 신뢰를 평가하는 자료는 별도로 필요하다. 오늘의 논의에서 더 중요한 질문은 얼마나 많은 사람이 접했느냐 다음에 무엇을 안전하게 할 수 있게 됐느냐다.
AI 시대의 신뢰는 잘 쓴 문장에서 자동으로 생기지 않는다. 근거를 찾고, 한계를 밝히고, 필요하면 멈추고, 잘못을 고칠 수 있어야 한다. 그 과정을 사용자가 이해할 수 있게 만드는 것이 다음 단계의 경쟁력이다. 답을 만드는 능력이 커진 만큼 답에 책임지는 구조도 함께 자라야 한다.
[참고자료]
CNNIC｜생성형 AI 응용 발전 보고서 2026 공식 소개
https://www.cnnic.cn/n4/2026/1008/c88-11704.html
과기일보·시짱 인터넷정보판공실｜AI 보급 이후 관리 쟁점
https://wxb.xzdw.gov.cn/xxh/xxhgzdt/202610/t20261029_704442.html
AI普及之后，可信与责任也应成为标准
CNNIC报告显示，2026年上半年中国生成式AI用户超过7亿人，报告发布于9月29日，不能当作10月29日的新统计。结合当天关于应用治理的讨论，本文主张建立可核实的来源、明确的不确定性说明、人工复核与纠错渠道。效率应包含检查成本，普及规模不能代替准确性评价。提供者、使用机构与用户都应有清晰责任。
[어휘풀이]
普及 / pǔjí / 보급
治理 / zhìlǐ / 관리 체계
核实 / héshí / 사실을 확인하다
来源 / láiyuán / 출처
不确定性 / bù quèdìng xìng / 불확실성
纠错 / jiūcuò / 잘못을 고치다
准确性 / zhǔnquèxìng / 정확성
责任 / zérèn / 책임
){kind=small}
){kind=small}
){kind=small}
){kind=small}