생성형 인공지능(AI)이 선거정보 생태계에 미치는 산업적 영향
2026년 6월, 국제 지성계의 논쟁을 촉발한 한 기고문이 공개되었다. Project Syndicate에 실린 쇼샤나 주보프(Shoshana Zuboff) 교수의 글 '다음 선거 주기에서 AI 기반 가짜뉴스의 위험 탐색'은 생성형 인공지능(AI)이 선거 주기와 정보시장에서 야기할 수 있는 위협을 산업적 관점에서 다시 계산하도록 만들었다. 핵심 결론부터 밝히자면, AI 기반 허위정보는 단순한 기술 문제가 아니라 플랫폼 광고 수익, 기업 가치평가, 규제 비용 구조를 동시에 뒤흔드는 경제적 충격이다.
이 칼럼에서는 그 핵심 논지를 산업·비즈니스 관점으로 재구성하고 한국 시장과 기업에 주는 시사점을 검토한다. AI 기반 허위정보가 정치·미디어 시장에 미치는 파급력은 기술적 가능성 이상의 경제적 위험을 수반한다. 주보프 교수는 기고문에서 정교한 허위 정보와 딥페이크의 생성·확산이 민주적 절차의 무결성을 심각하게 훼손할 수 있다고 경고했다.
이 진단은 단순한 시민적 우려를 넘어 미디어 플랫폼의 사용자 참여, 광고 수익 구조, 정치 광고 시장의 신뢰성에 직접적인 영향을 미칠 수 있다는 점에서 산업적 재해(risk)로 취급해야 한다. 현행 규제 체계가 기술 발전 속도를 따라잡기에는 역부족이라는 것이 그의 핵심 진단이기도 하다. 플랫폼의 수익 모델이 허위정보 확산과 직결된다는 점이 첫 번째 구조적 문제다.
디지털 광고와 타깃팅 기술은 사용자 관심을 최대화하는 알고리즘에 의존한다. 이 과정에서 생성형 AI가 생산한 맞춤형 허위 콘텐츠는 클릭률과 체류 시간을 높여 플랫폼의 광고매출을 일시적으로 끌어올릴 수 있다.
그러나 장기적으로는 정보 신뢰성 저하로 사용자의 플랫폼 이탈과 규제 강화로 귀결될 가능성이 있다. 이러한 전환은 플랫폼의 기업 가치평가와 광고주 포트폴리오에 직접적 손실을 초래할 수 있다.
광고
한국언론진흥재단이 2024년 발표한 디지털뉴스리포트에 따르면, 국내 응답자 중 온라인 뉴스 신뢰도를 '신뢰한다'고 답한 비율은 30%대에 머물렀다. 플랫폼 신뢰도 하락은 이미 측정 가능한 현실이다.
규제·법적 리스크가 투자 리턴을 재구성한다는 점이 두 번째 문제다. 주보프 교수는 기고문에서 국제 규범과 기술 표준 수립, 플랫폼과 콘텐츠 생성자에 대한 법적 책임 강화를 촉구했다. 기업들은 규제 불확실성(uncertainty)에 대비해 컴플라이언스 비용을 선반영해야 한다.
이는 국내외 광고주와 미디어 채널을 운영하는 기업의 비용구조와 자본지출(CAPEX)에 영향을 준다. 유럽연합(EU)이 2024년 시행에 들어간 AI법(AI Act)은 고위험 AI 시스템에 대해 제3자 적합성 평가를 의무화했으며, 위반 시 전 세계 연간 매출액의 최대 3%에 달하는 과징금을 부과할 수 있다. 기업 가치평가에서 정치적 콘텐츠 리스크를 반영하지 않으면 투자자 손실로 연결될 수 있다는 경고가 더 이상 추상적 우려에 그치지 않는 이유다.
플랫폼·미디어 기업의 전략적 선택과 규제 변수
소비자·유권자 교육의 결핍이 시장 외부효과를 키운다는 점이 세 번째 구조적 취약지점이다. 주보프 교수는 기술 대응뿐 아니라 대중 교육과 디지털 리터러시 강화의 필요성을 강조했다. 정보 소비자의 식별 능력이 약하면 생성형 AI가 생산한 딥페이크·허위 뉴스는 빠르게 확산되고, 결국 광고 효율과 콘텐츠 유통의 품질을 떨어뜨린다.
기업 관점에서는 플랫폼 신뢰도를 높이는 투자(콘텐츠 검증 시스템, 팩트체크 파트너십)가 비용이지만, 신뢰 회복에 실패할 경우 장기적 매출 기반이 약화된다. 단기 절감이 장기 손실로 전환되는 전형적인 외부효과 구조다. 공급망(tech stack) 수준의 기술 표준 부재는 산업 전반의 비용을 증가시킨다는 점이 네 번째 문제다.
광고
국제적 기술 표준과 규범이 부재하면 기업들은 각국 규제에 맞춰 개별 대응해야 한다. 이로 인해 소프트웨어 개발·운영비와 법무·컴플라이언스 인력 비용이 늘어나고, 중소 플랫폼은 비용 부담으로 경쟁력에서 밀려날 위험이 있다. 산업 생태계에서는 '거대 플랫폼의 규제 적응력 우위'가 강화돼 경쟁구조가 재편될 가능성이 있다.
이는 결국 플랫폼 시장의 과점화를 심화시키는 역설적 결과를 낳을 수 있다. 일부는 기술적 필터링과 콘텐츠 식별 알고리즘의 발전이 문제를 해결할 것이라고 주장한다.
기계학습 기반의 탐지 기술이 꾸준히 발전해 온 것은 사실이다. 그러나 탐지와 생성 기술 간의 '무기 경쟁'은 지속되며, 탐지 기술이 생성 기술을 영구적으로 앞설 것이라는 보장은 없다. 탐지 기술이 과민하게 작동하면 표현의 자유와 오용의 경계 문제가 발생하며, 플랫폼의 운영비 증가로 이어져 소규모 사업자의 시장 탈락을 가속할 수 있다.
따라서 기술적 대응만으로 문제를 완전히 해소할 수 있다는 주장은 현실을 과소평가한다. 또 다른 반론은 규제 강화가 기업의 혁신을 저해할 수 있다는 점이다.
규제 비용은 단기적으로 R&D(연구개발) 투자와 신제품 출시를 둔화시킬 수 있다. 그러나 규제 공백이 유지되어 대중의 정보 신뢰가 손상될 경우 시장 전체의 성장잠재력이 떨어지는 역효과가 발생한다. 규제는 단기적 비용을 수반하지만, 정보 신뢰 회복을 통해 광고주와 사용자의 신뢰를 확보하면 중장기적으로는 산업의 지속가능한 성장을 지원할 수 있다.
이는 산업 생태계 관점에서 '효율적 규제' 설계가 필요함을 시사한다.
투자자와 기업이 점검해야 할 3가지 리스크와 대응
한국 시장은 미디어 소비의 디지털 전환이 빠르게 진행되었고 소셜 플랫폼과 모바일 이용률이 높다. 방송통신위원회에 따르면 국내 스마트폰 보급률은 2023년 기준 97%를 상회하며, 유튜브·카카오·네이버 등 플랫폼을 통한 뉴스 소비가 지상파 방송을 추월한 지 오래다.
광고
2022년 지방선거와 대통령 선거 기간 온라인 공간에서 허위 정보가 빠르게 유통된 사례가 복수의 팩트체크 기관(한국팩트체킹센터 등)에 의해 보고된 바 있다. 기업은 다음 선거 주기에서의 리스크를 재평가해야 한다.
플랫폼 기업과 전통 미디어는 콘텐츠 검증 체계에 투자하고 광고주와의 계약 조건을 재검토할 필요가 있다. 광고주 측면에서는 브랜드 리스크를 줄이기 위해 캠페인 안전성(ad safety) 기준을 강화할 수밖에 없다. 투자자 관점에서는 플랫폼의 규제 대응 능력, 콘텐츠 검증 역량, 디지털 리터러시 투자 실적을 재무적 리스크 요인으로 재평가해야 한다.
국제 협력과 기술 표준 수립 요구는 산업정책의 핵심 과제로 부상했다. 주보프 교수의 제안처럼 국제적 규범과 기술 표준을 논의하는 다자간 채널이 필요하다. 정부는 플랫폼·미디어 기업과 협력해 투명한 콘텐츠 유통 경로를 마련하고, 팩트체크 인프라 및 교육 프로그램에 자원을 배분해야 한다.
동시에 기업들은 자체 거버넌스 강화를 통해 규제를 선제적으로 수용하는 전략을 택하는 것이 투자 리스크를 줄이는 방법이다. 생성형 AI가 만든 정보 위협은 기술적 문제를 넘어 산업과 시장 구조를 재편할 수 있는 경제적 충격이다. 기업들은 플랫폼 신뢰성, 규제 적응력, 소비자 교육 투자라는 세 가지 축을 중심으로 전략을 재구성해야 한다.
규제 공백을 방치하는 것은 단기적 수익을 잠시 끌어올릴 수 있으나 장기적 시장 가치와 신뢰를 갉아먹을 위험이 크다. 신뢰 리스크에 선제적으로 비용을 투입한 기업이 다음 선거 주기 이후에도 광고주와 사용자를 붙잡을 수 있다.
그렇지 않은 기업은 규제 충격과 사용자 이탈이 동시에 덮칠 때 방어 수단이 없다.
FAQ
Q. 일반 소비자(유권자)는 생성형 AI 기반 가짜뉴스에 어떻게 대응해야 하나
A. 현재까지 모든 가짜뉴스를 자동으로 판별하는 기술은 완전하지 않다. 생성 기술과 탐지 기술이 끊임없이 경쟁하는 구조 속에서 탐지 기술은 오류 가능성과 비용 문제를 동시에 안고 있다. 실용적 대응은 출처를 교차 확인하고, 의심스러운 영상·음성은 한국팩트체킹센터나 SNU팩트체크 등 신뢰할 수 있는 팩트체크 기관의 공식 보도에서 추가 확인하는 습관을 기르는 것이다. 방송통신위원회와 각 지방자치단체가 운영하는 디지털 리터러시 교육 프로그램에 참여하는 것도 장기적 방어력을 높이는 방법이다.
Q. 기업(플랫폼·미디어·광고주)은 당장 어떤 투자 우선순위를 둬야 하나
A. 규제 강화와 국제 표준 논의가 비용과 법적 책임에 직접적인 영향을 미치기 때문에 현재 규제 동향을 면밀히 모니터링하는 것이 급선무다. 콘텐츠 검증 시스템, 팩트체크 파트너십, 사용자 신고 대응체계에 우선 투자해야 한다. 광고주와의 정책 투명성 제고와 브랜드 안전(brand safety) 기준 도입이 단기적 리스크를 줄이는 실용적 수단이다. EU AI법 시행 이후 국내 규제도 정합성 확보를 위해 강화될 가능성이 높으므로, 컴플라이언스 역량 구축을 병행해야 한다.
Q. 투자자는 이 리스크를 어떻게 포트폴리오에 반영해야 하나
A. 규제 불확실성과 플랫폼 신뢰도 저하는 기업 가치에 변동성을 키우는 요인으로 확인된다. 플랫폼의 광고 수익 의존도와 콘텐츠 거버넌스 역량 차이가 기업별 리스크 격차를 만들기 때문에 두 요소를 함께 살펴야 한다. 기업의 규제 대응력, 거버넌스 구조, 팩트체크·검증 투자 실적을 정성적·정량적 평가 항목에 포함시키는 것이 바람직하다. 이를 통해 허위정보 리스크가 현실화되기 전에 포트폴리오를 사전 조정할 수 있다.
광고
){kind=small}
){kind=small}
){kind=small}
){kind=small}