AI 발전이 가져올 권력 불균형의 경고
지난 몇 년간 전 세계는 인공지능(AI) 기술이 가져오는 혁신의 물결을 목격하고 있습니다. GPT 기반 챗봇부터 의료 데이터 분석 AI에 이르기까지 AI는 다양한 산업에서 문제 해결의 핵심 도구로 자리 잡았습니다. 그러나 이와 동시에 AI 기술 발전의 그림자도 드리워지고 있습니다.
AI 관련 데이터 주권(data sovereignty)과 그 해결을 위한 거버넌스(governance)가 이에 해당합니다. 과연 AI는 공공의 이익을 위해 발전하고 있는가, 아니면 기술 주도권을 가진 소수 기업과 국가만이 이익을 독점하며 권력 불균형을 심화시키는 도구가 되고 있는가라는 질문이 주목받고 있습니다. 최근 델리에서 개최된 AI 임팩트 서밋(Delhi AI Impact Summit)은 이러한 질문에 대한 국제적 논의의 장이 되었습니다.
크리에이티브 커먼즈(Creative Commons)의 정책 담당자인 애나 투마도티르(Anna Tumadóttir)와 레베카 로스(Rebecca Ross)는 이 서밋의 성찰을 담은 칼럼 'AI 시대의 인프라: 델리 AI 임팩트 서밋의 성찰'에서 현재 AI 기술의 혜택이 적은 수의 기술 강국과 글로벌 기업에 집중되어 있다고 지적했습니다.
광고
그들은 "AI 개발과 배포 과정에서 필수적인 데이터 접근성과 관리권을 독점함으로써 새로운 형태의 불평등을 조장하는 위험"이 있다고 경고합니다. AI의 기술적 진보가 인류 발전을 이끄는 동시에 권력 구조에 변화를 일으키고 있습니다.
AI 기술 개발의 토대가 되는 데이터는 그 자체로 막대한 가치와 권력을 가지게 되었고, 이를 소유하고 있는 주체가 세계 경제와 사회 구조를 재편성할 수 있는 가능성을 형성하고 있습니다. 투마도티르와 로스는 델리 서밋에서 이러한 문제를 해결하기 위한 세 가지 핵심 원칙을 제시했습니다. 바로 개방성(openness), 주체성(agency), 그리고 형평성(equity)입니다.
개방성은 AI 시스템과 데이터에 대한 투명한 접근을 의미합니다. 현재 많은 AI 모델들은 폐쇄적으로 개발되어 소수의 기업만이 그 작동 원리와 학습 데이터를 파악할 수 있습니다.
광고
이는 기술의 민주적 발전을 저해하고 신뢰를 약화시킵니다. 투마도티르는 "AI 기술이 진정으로 공공의 이익에 기여하려면, 그 개발 과정과 데이터가 개방되어 다양한 이해관계자들이 검증하고 참여할 수 있어야 한다"고 강조했습니다.
이는 오픈소스 소프트웨어 운동이 소프트웨어 산업에 가져온 혁신과 유사한 효과를 AI 분야에서도 기대할 수 있음을 시사합니다. 주체성은 개인과 공동체가 자신들의 데이터와 AI 시스템 사용에 대해 실질적인 통제권을 가져야 한다는 원칙입니다. 특히 중요한 점은 데이터 주권 확보의 필요성입니다.
데이터 주권은 개인이나 국가가 자신들의 데이터를 직접 관리하고 통제할 수 있는 권리를 의미합니다. 이 개념은 AI 기술이 복잡성을 더해갈수록 더욱 중요해지고 있습니다.
예컨대, 특정 국가나 기업이 데이터와 AI 인프라에 대한 권한을 완전히 통제할 경우, 다른 국가의 경제적 의존도가 높아지며, 이에 따른 권력 불평등이 심화됩니다. 로스는 "데이터 주체들이 자신의 정보가 어떻게 사용되는지 알고, 동의하며, 필요시 철회할 수 있는 실질적 권한이 보장되어야 한다"고 역설했습니다.
광고
형평성은 AI 기술의 혜택이 특정 집단에 집중되지 않고 공평하게 분배되어야 한다는 원칙입니다. 델리 서밋에서는 개발도상국과 선진국 간의 AI 역량 격차가 심각한 문제로 다뤄졌습니다.
고성능 컴퓨팅 자원, 대규모 데이터셋, 전문 인력 등 AI 개발에 필요한 요소들이 소수 국가에 집중되어 있어, 대부분의 국가들은 AI 기술의 소비자로만 머물 수밖에 없는 상황입니다. 이를 방지하기 위해, AI 기술의 개발 및 배포 과정에서 투명성과 협력적 접근을 강조한 국제적 협의가 필수적입니다. 이는 특정 국가가 아닌, 전 지구적 관점에서 공공의 이익을 실현하기 위한 중요한 단계로 이해할 수 있습니다.
데이터 주권 확보를 위한 국제적 노력
투마도티르와 로스가 특히 강조한 것은 공유 인프라(shared infrastructure)의 중요성입니다. 그들은 "AI 역량의 독점을 막고 그 혜택이 널리 분배되려면, 공공이 접근하고 활용할 수 있는 AI 인프라가 구축되어야 한다"고 주장했습니다.
광고
이는 클라우드 컴퓨팅 자원, 공개 데이터셋, 오픈소스 AI 모델 등을 포함하는 개념으로, 마치 공공 도서관이나 공공 교통 시스템처럼 누구나 접근할 수 있는 AI 자원을 만들자는 제안입니다. 협력적 접근(collaborative approach) 역시 핵심 요소입니다. 정부, 학계, 민간 기업, 시민사회가 함께 AI 정책과 기술 개발 방향을 논의하고 결정하는 다중 이해관계자 모델이 필요하다는 것입니다.
국제적인 데이터 규범 확립 노력도 다양하게 이어지고 있습니다. 유럽 연합(EU)은 2022년 '데이터 거버넌스 법안'(Data Governance Act)을 채택하여 공공 및 민간 데이터를 안전하게 공유하고 보호하기 위한 체계를 마련했습니다. 이 법안은 데이터 공유의 투명성과 신뢰를 확보하도록 설계되어 있으며, 다양한 이해관계자가 데이터 생태계에 참여할 수 있는 환경을 조성하는 데 목표를 두고 있습니다.
2024년에는 AI Act를 통과시켜 AI 시스템의 위험도에 따른 규제 체계를 확립했습니다.
광고
이에 반해 미국은 민간 기업 주도의 혁신을 강조하며 OpenAI, Google, Microsoft 등의 기업들이 데이터와 AI 개발에서 우위를 유지하고 있습니다. 중국은 2021년부터 '데이터 안보법'과 '개인정보보호법'을 시행하며 국가 주도의 데이터 관리 체계를 구축하고, AI 산업 발전을 국책 과제로 추진하고 있습니다.
이러한 국제적 경쟁 상황 속에서 한국의 위치는 어떠할까요. 한국은 세계 최고 수준의 인터넷 인프라와 높은 디지털 활용도를 보유하고 있지만, AI 기술 주권과 데이터 주권 측면에서는 여전히 과제가 많습니다. 과학기술정보통신부에 따르면, 한국의 AI 산업 규모는 2025년 기준 약 15조 원으로 추산되지만, 핵심 AI 기술과 대규모 언어모델 개발에서는 미국과 중국에 크게 뒤처져 있습니다.
특히 한국 기업과 연구기관들은 학습 데이터의 상당 부분을 해외 플랫폼에 의존하고 있어, 데이터 주권 확보가 시급한 상황입니다. 한국 정부는 2023년 '국가 AI 전략'을 발표하며 공공 데이터 개방 확대와 AI 윤리 기준 마련을 추진하고 있습니다. 2025년에는 '마이데이터' 제도를 금융 분야를 넘어 의료, 통신 등으로 확대하여 개인의 데이터 주권을 강화하려는 노력을 기울이고 있습니다.
서울대학교 AI 정책 이니셔티브의 김상배 교수는 "한국은 기술 선도국과 개발도상국 사이의 가교 역할을 할 수 있는 위치에 있다"며 "중견국 외교의 일환으로 공정하고 포용적인 AI 거버넌스 구축에 적극 참여해야 한다"고 제안했습니다. 그러나 데이터를 개방하고 민주적으로 공유하게 되면, 보안 문제나 악용 위험에 대한 우려가 함께 제기될 수밖에 없습니다. 일부는 AI 거버넌스가 데이터 독점 문제를 해결하면서도 불법적이거나 악의적인 행동을 방지해야 한다며 그 과정에서 엄격한 규제가 필요하다고 주장합니다.
실제로 개방형 AI 모델이 딥페이크 생성, 사이버 공격, 허위정보 확산 등에 악용될 가능성이 있어, 개방성과 안전성 사이의 균형을 찾는 것이 중요한 과제로 떠올랐습니다. AI 기술이 인류를 위한 가치를 확대하기 위해서는 공정성과 투명성을 보장하면서도 보안 문제를 철저히 해결할 수 있는 이중적인 전략이 요구됩니다.
델리 서밋에서는 이러한 딜레마를 해결하기 위한 '책임 있는 개방(responsible openness)' 개념이 제시되었습니다. 이는 무조건적인 개방이 아니라, 적절한 안전장치와 거버넌스 체계를 갖춘 개방을 의미합니다. 예컨대, 중요한 데이터 거버넌스 정책은 데이터 소유권을 보호하면서도 데이터가 기술 개발과 공익적 연구로 활용될 수 있도록 해야 합니다.
익명화, 차등 프라이버시(differential privacy), 연합 학습(federated learning) 같은 기술적 해법들이 개인정보를 보호하면서도 데이터의 가치를 활용할 수 있는 방안으로 주목받고 있습니다.
공공의 이익을 위한 AI의 조건
이를 위해 AI 기술에 대한 교육 및 역량 강화도 중요한 과제로 떠오르고 있습니다. 많은 전문가들은 AI 기술의 책임 있는 발전을 위해 사용자들의 디지털 리터러시(digital literacy)를 제고해야 한다고 말합니다.
카이스트 AI 대학원의 이주호 교수는 "AI 시대의 디지털 리터러시는 단순히 기술 사용법을 아는 것을 넘어, AI의 작동 원리를 이해하고 그 결과를 비판적으로 평가하며, 자신의 데이터 권리를 인식하고 행사할 수 있는 능력을 포함한다"고 설명했습니다. 공공과 민간이 협력하여 데이터 정책을 수립할 뿐만 아니라, 일반 대중에게 데이터 활용의 가치를 교육하는 방식이 시너지 효과를 가져올 것으로 기대됩니다. 한국처럼 초고속 인터넷과 첨단 디지털 인프라를 갖춘 국가에서 이러한 노력은 특히 강력한 효과를 발휘할 수 있습니다.
한국의 몇몇 지자체와 기업들은 이미 혁신적인 시도를 하고 있습니다. 서울시는 2024년부터 '서울 데이터 허브' 프로젝트를 통해 시가 보유한 공공 데이터를 AI 개발에 활용할 수 있도록 개방하고 있으며, 시민들이 자신의 데이터가 어떻게 사용되는지 추적할 수 있는 시스템을 구축했습니다. 네이버와 카카오 같은 국내 IT 기업들도 자사의 AI 모델 개발 과정에서 윤리 검토 위원회를 운영하고, 일부 데이터셋과 모델을 학술 연구 목적으로 공개하기 시작했습니다.
이는 규모는 작지만 투마도티르와 로스가 제안한 공유 인프라와 협력적 접근의 한국형 사례라고 볼 수 있습니다. 국제 협력 측면에서도 한국은 적극적인 역할을 모색하고 있습니다.
한국은 2025년 OECD AI 정책 관측소(OECD AI Policy Observatory)의 운영위원국으로 선정되어 국제 AI 거버넌스 규범 형성에 참여하고 있습니다. 또한 2026년 초에는 서울에서 아시아태평양 지역 AI 윤리 포럼을 개최하여, 서구 중심의 AI 윤리 논의에 아시아적 관점을 반영하려는 노력을 기울이고 있습니다.
고려대학교 국제학과의 박상현 교수는 "AI 거버넌스는 단순한 기술 규제가 아니라 미래 국제질서의 핵심 의제"라며 "한국이 민주주의 국가이면서 동시에 강력한 디지털 역량을 보유한 점을 활용해 포용적이고 균형 잡힌 AI 거버넌스 모델을 제시할 수 있다"고 평가했습니다. 결국 AI의 민주적 접근과 글로벌 거버넌스 구축은 단순히 기술적 토론이 아니라, 전 세계의 경제 및 권력 구조를 재조정하는 문제로 이어집니다. 델리 AI 임팩트 서밋에서 제시된 개방성, 주체성, 형평성이라는 원칙은 이러한 재조정이 소수의 이익이 아닌 다수의 공공 이익을 향해야 함을 명확히 합니다.
기술 발전은 혜택뿐 아니라 사회적, 윤리적, 법적 책임을 동반합니다. 투마도티르와 로스가 강조했듯이, "AI가 진정으로 인류의 미래에 긍정적으로 기여하려면, 우리는 누가 AI를 만들고, 누가 그로부터 이익을 얻으며, 누가 그 위험을 떠안는지에 대해 끊임없이 질문해야 한다"는 것입니다. 따라서 우리는 AI가 공공의 이익을 위해 어떻게 사용될 수 있는지에 대해 끊임없이 고민하고 논의해야 할 것입니다.
한국은 기술적 역량과 민주적 가치를 모두 갖춘 국가로서, 이러한 국제적 논의에서 중요한 목소리를 낼 수 있는 위치에 있습니다. AI 기술의 발전이 진정으로 공공의 이익에 기여할 수 있으려면, 이를 위한 투명한 국제 협력과 데이터 주권 확보가 필수적 과제로 남아야 할 것입니다. 델리 서밋이 던진 화두는 이제 한국을 포함한 전 세계가 함께 답해야 할 질문이 되었습니다.
김도현 기자
광고
[참고자료]
creativecommons.org
){kind=small}
){kind=small}
){kind=small}
){kind=small}