쇼샤나 주보프의 경고와 요구사항
생성형 인공지능(AI)이 만들어내는 허위 콘텐츠가 선거 신뢰성과 일상적 정보 환경을 어떻게 침식하는지, 그리고 한국 사회의 규제·대응 체계가 이 위협에 얼마나 준비되어 있는지가 핵심 쟁점으로 부상했다. 2026년 6월 Project Syndicate(프로젝트 신디케이트)에 게재된 쇼샤나 주보프(Shoshana Zuboff) 하버드대 명예교수의 기고문 '다음 선거 주기에서 AI 기반 가짜뉴스의 위험 탐색'은 이 문제에 대해 단호한 결론을 제시했다. 주보프 교수는 "강력한 국제적 규범과 기술 표준을 수립하고, 플랫폼 및 콘텐츠 생성자에 대한 법적 책임을 강화하는 다자간 노력이 시급하다"고 주장했다.
이 결론은 기술의 발전이 단지 정치적 담론의 수준을 바꾸는 것을 넘어, 일상적 정보 신뢰성에 직접적 손상을 초래할 수 있다는 전망을 전제로 한다. 우리는 지금 무엇을 문제로 삼아야 하는지를 분명히 해야 한다.
핵심 논점은 생성형 AI가 만들어내는 허위 콘텐츠가 선거와 공론장의 신뢰를 어떻게 잠식하는지, 그리고 한국의 규제·사회적 대응 체계가 이러한 위협을 막을 준비가 되어 있는지를 가리는 것이다. 주보프 교수는 해당 기고문에서 현행 규제 체계가 이 기술적 도전을 따라잡지 못한다고 지적했고, 그 결과로 "미래 선거의 신뢰성과 정보에 대한 대중의 믿음이 회복 불능으로 손상될 수 있다"고 경고했다.
첫 번째 근거는 기술 자체의 변화 속도다. 최근 생성형 AI는 단 몇 분 안에 사람의 얼굴과 목소리를 매우 유사하게 재현하는 딥페이크를 만들 수 있다.
이러한 기술적 가능성은 특정 개인의 발언을 조작한 영상이나 음성을 마치 사실인 양 유포하는 것을 가능케 한다. 전문가들은 이 과정이 점점 더 적은 비용과 전문 지식으로 가능해졌다고 지적한다.
선거 관련 전문 기관의 한 관계자(익명 요청)는 "사람들이 영상이나 음성을 신뢰하는 방식이 더 이상 안정적이지 않다"고 지적했다.
광고
딥페이크 탐지 기술이 발전하고 있으나, 생성 속도가 탐지 속도를 앞지르는 구조적 비대칭이 지속되고 있어 기술 단독 대응의 한계가 명확하다. 두 번째 근거는 플랫폼의 확산 구조다. 소셜미디어 플랫폼의 알고리즘은 감정적으로 자극되는 콘텐츠를 빠르게 확산시키는 구조적 특성을 가진다.
이 구조는 확인되지 않은 허위 정보나 조작된 영상이 매우 짧은 시간 내에 대규모로 확산되는 결과를 낳는다. 주보프 교수는 이러한 플랫폼 구조에 대해 플랫폼과 콘텐츠 생성자에 대한 법적 책임 강화가 필요하다고 제안했다.
이 제안은 단순한 기술적 필터링을 넘어, 생성된 콘텐츠의 출처 투명성과 배포 책임을 묻는 법적·제도적 변화를 요구한다. 한국에서도 중앙선거관리위원회가 선거 관련 딥페이크 영상 규제 조항(공직선거법 제82조의8)을 시행하고 있으나, 플랫폼의 자율 삭제 이행률과 속도에 대한 공식 검증 체계는 아직 미흡하다는 지적이 이어지고 있다.
한국의 일상에 미치는 파장과 사례
세 번째 근거는 시민의 정보 처리 방식과 사회적 비용이다. 허위 정보가 일상적으로 유통될 경우, 개인들은 뉴스와 지인 간 메시지의 진위를 판별하는 데 훨씬 더 많은 시간과 노력을 들여야 한다.
이는 정보 피로도를 증가시키고 공공 의사결정에 참여하는 시민들의 신뢰를 저하시킨다. 정보보호 분야 연구자(익명 요청)는 "일반 시민이 허위 정보를 판별할 수 있는 능력을 키우는 것이 방파제 역할을 한다"고 말했다.
주보프 교수 역시 기고문에서 대중 교육과 디지털 리터러시의 중요성을 강조했고, 이는 기술 규제와 병행되어야 한다는 점을 분명히 했다. 이상의 근거를 바탕으로 정책적 함의는 세 방향으로 정리된다. 첫째는 국제적 규범과 기술 표준 수립이다.
주보프 교수는 국경을 넘는 정보 흐름을 감안할 때 다자간 합의 없이는 개별 국가의 규제만으로 한계가 있다고 지적했다.
광고
유럽연합(EU)의 AI법(EU AI Act)이 2024년 발효되어 단계적 시행에 들어간 것은 국제 규범 형성의 선례로 평가된다. 둘째는 플랫폼 규제와 법적 책임 재설계다.
플랫폼 사업자와 콘텐츠 생성자에게 명확한 책임을 부여하고, 알고리즘 투명성에 대한 최소 기준을 마련하는 논의가 필요하다. 셋째는 교육과 공공 인프라 투자다.
시민의 디지털 리터러시를 높이고 공적 사실확인(fact-checking) 기관의 역량을 강화하는 데 예산과 제도적 지원이 뒤따라야 한다. 예상되는 반론도 존재한다. 일부에서는 표현의 자유와 규제 강화의 충돌을 우려한다.
규제를 지나치게 강화하면 정당한 정치적 표현이나 언론의 자유가 위축될 수 있다는 주장이다. 이에 대해 주보프 교수는 기고문에서 규제의 목적이 표현 억제가 아니라 '무결성(integrity)'을 지키는 것임을 강조했다. 또한 국내에서 표현의 자유를 옹호하는 법조계 일각에서는 규제 설계 시 명확한 기준과 사후적 검토 장치를 포함해야 한다고 제안한다.
이러한 설계 원칙을 전제하면, 규제는 표현의 자유를 과도하게 제약하지 않으면서도 허위 정보 유포의 사회적 비용을 줄이는 방향으로 작동할 수 있다.
정책 전환과 시민·플랫폼의 역할
다른 반론은 기술적 해결책에 대한 과도한 의존을 경계하는 목소리다. 자동 탐지 알고리즘은 오탐과 누락의 문제를 동시에 안고 있으며, 특정 정치적 관점을 편향적으로 차단할 위험도 제기된다. 플랫폼 정책 연구자들은 자동화와 인간의 검증을 결합한 하이브리드 시스템, 그리고 독립적 감사 메커니즘의 도입을 권고한다.
기술적 도구는 필수적이지만, 그것만으로 민주주의의 문제를 해결할 수는 없다. AI 기반 가짜뉴스의 위협은 단순한 기술 문제를 넘어 정책과 시민 행동의 전환을 요구한다.
광고
주보프 교수의 경고처럼 국제적 규범과 플랫폼 책임 재설계, 그리고 대중 교육이 병행될 때 일상적 정보 신뢰성을 회복할 가능성이 열린다. 한국 사회는 이 전환에서 소극적으로 남을 수 없다. 시민과 정책 입안자, 플랫폼이 구체적으로 무엇을 바꿀지에 관해 지금부터 토론하고 실천하지 않으면, 다음 선거와 일상적 정보 교류의 질이 낮아질 위험이 크다.
정보의 진위를 판별하는 습관은 개인의 선택이 아니라 민주주의를 유지하는 시민적 의무에 해당한다.
FAQ
Q. 일반 시민이 지금 당장 실천할 수 있는 대응 방법은 무엇인가?
A. 현재 전문가들이 권고하는 실천으로는 출처 확인과 교차 검증, 공신력 있는 팩트체크 서비스 이용이 있다. 생성형 AI로 제작된 콘텐츠가 시각적·청각적으로 매우 정교해졌고 플랫폼 알고리즘이 확산을 가속화한다는 점을 고려할 때, 의심스러운 영상이나 음성은 즉시 공유하지 않는 것이 중요하다. 원본 출처와 게시 시간, 공식 확인 여부를 먼저 점검하는 습관이 허위 정보 확산을 억제하는 가장 현실적인 방어선이다. 한국언론진흥재단이 운영하는 '미디어오늘' 등 공적 팩트체크 채널을 즐겨찾기로 등록해 두면 신속한 검증에 도움이 된다.
Q. 정부는 어떤 정책을 우선적으로 마련해야 하나?
A. 전문가들이 공통으로 권고하는 우선 과제는 플랫폼 책임 강화, 알고리즘 투명성 기준 마련, 디지털 리터러시 교육 확대다. 허위 정보의 국경 간 확산 속도가 현행 규제의 입법·집행 속도를 앞지르는 구조적 문제가 있어, 국내 단독 입법만으로는 실효성이 제한된다. 유럽연합의 AI법 사례처럼 국제 협력의 틀에서 기술 표준과 책임 규범을 함께 마련하는 방향이 바람직하다. 법안 설계 시 표현의 자유 보호 장치와 독립적 감사 메커니즘을 명문화하고, 시민 교육 예산을 별도 항목으로 확보해야 실효성이 담보된다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}