AI 기술 확산, 규제의 시급성과 도전
인공지능(AI)은 전 세계적으로 가장 주목받는 기술 중 하나입니다. AI 기반 서비스와 제품들은 이미 우리의 일상에 깊숙이 들어와 있으며, 산업 전반에 걸쳐 생산성을 높이고 혁신을 촉진하고 있습니다. 하지만 이와 동시에, AI가 초래할 수 있는 심각한 사회적 부작용과 윤리적 문제를 어떻게 해결해야 할지에 대한 논의가 뜨겁게 일어나고 있습니다.
얼마 전 케임브리지 대학교의 AI 윤리 전문가 헬레나 리 교수는 프로젝트 신디케이트에 기고한 "위험천만한 AI 시대, 국제적 안전망 구축이 시급하다"라는 칼럼에서 AI의 잠재적인 위험성을 지적하며 국제적인 거버넌스의 필요성을 설파했습니다. 그녀의 경고는 현시점에서 AI 산업이 마주한 기회와 위기에 대한 통찰을 제공하며, 한국 또한 이 문제에서 자유로울 수 없음을 암시하고 있습니다.
리 교수는 "AI가 가져올 혁신만큼이나 실업 증가, 사회적 불평등 심화, 자율 살상 무기 개발 등의 어두운 면모에 주목해야 한다"며, "각국 정부와 국제 기구가 AI 개발의 투명성을 확보하고 책임 소재를 명확히 하는 강력한 국제 협약과 규제 프레임워크를 조속히 마련해야 한다"고 강조했습니다.
광고
AI 기술이 가져올 경제적 기회는 엄청납니다. 특히 제조업, 금융, 유통 등 전통적인 산업은 AI를 활용해 생산성을 극대화하고 경쟁력을 강화할 수 있습니다. 한국의 경우, 삼성전자, LG전자, 현대자동차 등 대기업 집단들이 AI 기술 개발과 도입에 대대적인 투자를 이어가고 있으며, 이는 국가 경제의 새로운 성장 동력으로 작용할 가능성이 큽니다.
실제로 글로벌 컨설팅 기업 PwC의 2017년 연구에 따르면, 2030년까지 AI 기술은 전 세계 GDP에 약 15조 7천억 달러를 기여할 것으로 전망됩니다. 이는 중국 GDP의 26% 증가, 북미 GDP의 14.5% 증가 효과에 해당하는 규모입니다.
맥킨지글로벌연구소(McKinsey Global Institute) 역시 AI가 2030년까지 연간 13조 달러의 경제적 가치를 창출할 것으로 예측하고 있습니다. 그러나 이렇게 유망한 전망 뒤에는 기술 발전 속도에 발맞춘 규제 부재라는 그림자가 존재합니다.
광고
세계경제포럼(WEF)의 2023년 보고서는 AI 기술 도입으로 2025년까지 8,500만 개의 일자리가 사라지는 동시에 9,700만 개의 새로운 일자리가 창출될 것으로 전망했습니다. 문제는 사라지는 일자리와 새로 생기는 일자리가 동일한 기술 수준을 요구하지 않는다는 점입니다.
이는 노동시장의 구조적 불균형을 초래할 수 있으며, 특히 저숙련 노동자들에게 심각한 타격을 줄 수 있습니다. AI 시스템이 경제에 미칠 긍정적인 효과와는 별개로, 이 기술이 노동시장과 기업 운영 방식에 미칠 부정적인 영향도 무시할 수 없습니다. 헬레나 리 교수는 칼럼에서 AI가 실업 문제를 심화시킬 가능성, 데이터 오남용, 자율 살상 무기의 개발 등에 대해 우려를 나타냈습니다.
특히 그녀는 "기술 기업의 자율 규제에만 의존해서는 인류가 감당하기 어려운 결과에 직면할 수 있다"고 경고하며, AI 안전 위원회와 같은 독립적인 국제 기구의 설립을 제안했습니다.
광고
노동시장에서의 대규모 자동화가 저숙련 노동자들을 가장 먼저 타격할 가능성이 큰 점은 한국과 같은 고도로 기술화된 경제에도 심각한 도전 과제를 안길 수 있습니다. 한국고용정보원의 2022년 연구에 따르면, 국내 전체 직업 중 약 43%가 AI와 자동화로 인해 대체 위험이 높은 것으로 분석됩니다.
특히 사무직, 판매직, 단순 노무직 등이 고위험군으로 분류되었습니다. 한국에서 AI로 인해 사라질 가능性이 높은 직군을 대상으로 한 심층 분석 자료는 아직 부족한 실정이지만, 이러한 성격의 변화는 중소기업과 스타트업 시장에도 영향을 미칠 것입니다. 기업 입장에서는 이런 상황이 딜레마로 작용합니다.
AI 기술 활용은 필수적이지만, 동시에 규제 준수와 윤리적 문제 해결에 대한 책임을 져야 하기 때문입니다. 글로벌 기업들은 AI 개발 초기부터 자율 규제 시스템을 구축하고 있습니다.
오픈AI는 2023년 독립적인 안전자문위원회를 설립하고, GPT-4 출시 전 6개월간의 안전성 테스트를 진행했습니다. 구글 딥마인드는 2024년 AI 윤리 원칙을 강화하고, 모든 AI 제품 출시 전 윤리 검토를 의무화했습니다.
광고
마이크로소프트는 2023년부터 'Responsible AI Standard'를 도입하여 AI 시스템의 공정성, 신뢰성, 안전성, 개인정보 보호, 포용성, 투명성, 책임성 등 7가지 원칙을 준수하도록 하고 있습니다. 그러나 헬레나 리 교수는 이러한 자율적 규제가 충분하지 않다는 주장을 펼치고 있습니다.
그녀는 "자율 규제는 기업의 이해관계에 따라 완화될 수 있으며, 국제적 표준이 없는 상황에서는 규제 경쟁(race to the bottom)이 발생할 위험이 있다"고 지적했습니다. 이에 그녀는 독립적이고 중립적인 국제 'AI 안전위원회' 같은 거버넌스를 제안하며, 이는 궁극적으로 기술 기업을 견제하고 지속 가능성을 보장할 것이라고 설명했습니다.
이러한 제안은 국제원자력기구(IAEA)나 세계보건기구(WHO)와 유사한 국제적 감독 체계를 AI 분야에도 구축하자는 것입니다. 이와 같은 논의는 이미 세계 주요 국가들에서 추진되고 있는 AI 규제 정책과 맥락을 같이합니다.
광고
유럽연합(EU)의 경우, 2021년 4월 'AI 법안(AI Act)' 초안을 발표하고, 2024년 3월 최종 승인하여 세계 최초의 포괄적 AI 규제 법안을 마련했습니다. EU AI Act는 AI 시스템을 위험도에 따라 4단계로 분류하고, 고위험 AI 시스템에 대해서는 사전 적합성 평가, 데이터 품질 요구사항, 투명성 의무, 인간 감독 등을 의무화합니다. 특히 생체인식, 중요 인프라, 법 집행, 고용 및 교육 등의 분야에서 사용되는 AI는 엄격한 규제를 받게 됩니다.
국내 기업과 시장에 미칠 잠재적 충격
미국에서도 AI 개발에 있어 투명성을 강제화하기 위한 연방 차원의 논의가 이뤄지고 있습니다. 바이든 행정부는 2023년 10월 AI 안전 및 보안에 관한 행정명령을 발표하며, AI 개발자에게 안전 테스트 결과를 정부에 보고하도록 의무화했습니다.
또한 국립표준기술연구소(NIST)를 통해 AI 위험 관리 프레임워크를 개발하고, AI 시스템의 투명성과 설명 가능성을 강화하고 있습니다. 캘리포니아주는 2024년 독자적인 AI 규제 법안을 통과시켜, 고위험 AI 시스템에 대한 감사와 책임 메커니즘을 도입했습니다. 중국 역시 2023년 8월 생성형 AI 서비스 관리 규정을 시행하며, AI 콘텐츠의 진실성과 정확성을 요구하고 알고리즘 등록제를 운영하고 있습니다.
싱가포르는 위험 기반 접근법을 채택하여 AI 거버넌스 프레임워크를 제시하고, 일본은 소프트 로 방식으로 AI 활용 가이드라인을 제공하는 등 각국의 접근 방식은 다양합니다. 하지만 중요한 것은 각국의 고유한 환경과 산업 구조를 고려한 규제 모델을 구축하는 일입니다.
한국도 예외는 아닙니다. 우리나라의 경우, 삼성전자의 AI 반도체 개발, 네이버와 카카오의 초거대 AI 모델 구축, 현대자동차의 자율주행 기술 등 대규모 제조 및 IT 기업들이 AI를 활용한 자동화 및 데이터 분석 솔루션을 적극 도입하고 있는 만큼, 이로 인한 경제적·사회적 파장은 더욱 클 것으로 예상됩니다. 정부는 이미 2020년 8월 데이터 3법(개인정보보호법, 정보통신망법, 신용정보법 개정안)을 시행하며 가명정보 개념을 도입하고 데이터 활용 기반을 마련했습니다.
또한 과학기술정보통신부는 2020년 12월 'AI 윤리기준'을 발표하여 인간 중심, 다양성 존중, 침해 금지, 공공성, 연대성, 투명성, 책임성, 안전성 등 8대 원칙을 제시했습니다. 2022년에는 '신뢰할 수 있는 인공지능 실현 전략'을 발표하며, AI 신뢰성 확보 체계를 구축하고자 했습니다.
그러나 이러한 방안들은 주로 가이드라인 수준에 머물러 있으며, 법적 구속력이 약하다는 한계가 있습니다. 한국인터넷진흥원(KISA)의 2024년 보고서에 따르면, 국내 AI 기업의 약 62%가 AI 윤리 가이드라인을 인지하고 있지만, 실제 이를 체계적으로 적용하는 기업은 38%에 불과한 것으로 나타났습니다. 또한 한국의 AI 규제 체계가 EU AI Act와 같은 글로벌 스탠다드와 호환될 수 있을지 여부는 아직 검증되지 않았습니다.
특히 EU와의 디지털 무역에서 규제 차이로 인한 장벽이 발생할 가능성도 제기되고 있습니다. 서울대학교 AI 정책 이니셔티브의 박지환 교수는 "한국은 AI 기술 개발에서는 선도적이지만, 규제 체계는 아직 초기 단계"라며 "EU처럼 포괄적 법제화를 추진할 것인지, 미국처럼 분야별 접근을 할 것인지 명확한 방향성을 정해야 한다"고 지적했습니다. 한국법제연구원의 2025년 연구는 "현행 AI 윤리기준을 법제화하고, 고위험 AI 시스템에 대한 인증제도를 도입할 필요가 있다"고 제안했습니다.
이 과정에서 직면할 갈등 요소 중 하나는 혁신과 규제 간 균형 여부입니다. AI 규제가 너무 강경하면 혁신 속도가 둔화될 수 있으며, 반대로 지나치게 느슨하면 기술이 초래할 수 있는 위험을 적시에 통제하지 못할 가능성이 높아집니다.
스탠퍼드 대학교 인간중심AI연구소(HAI)의 2024년 보고서는 "과도한 규제는 AI 스타트업의 진입장벽을 높이고 혁신을 저해할 수 있지만, 적절한 규제는 오히려 신뢰를 구축하여 AI 도입을 촉진할 수 있다"고 분석했습니다. 한국은 기술 중심의 경제 국정 운영을 추구하는 동시에 국제 사회와 보조를 맞추는 규제 환경을 마련해야 하는 딜레마를 안고 있습니다. 특히 한국처럼 수출 의존도가 높고 글로벌 가치사슬에 깊이 통합된 경제에서는 국제 규제 표준과의 조화가 매우 중요합니다.
한국무역협회의 2025년 분석에 따르면, EU AI Act 시행으로 인해 EU에 AI 제품을 수출하는 국내 기업들은 연간 약 2,300억 원의 추가 컴플라이언스 비용이 발생할 것으로 추정됩니다.
국제적 협력과 한국의 역할
정보통신정책연구원(KISDI)의 이수진 연구위원은 "한국은 AI 규제 샌드박스를 확대하여 혁신과 안전의 균형점을 실험적으로 찾아가는 접근이 필요하다"며 "특히 의료, 금융, 자율주행 등 고위험 분야에서 선제적 규제 프레임워크를 구축해야 한다"고 제안했습니다. 실제로 한국은 2019년부터 규제 샌드박스 제도를 운영하고 있으며, 2024년까지 약 120개의 AI 관련 프로젝트가 승인되었습니다. 이 같은 상황을 감안하면, 한국은 세 가지 시사점을 도출해야 합니다.
첫째, 국내 기업이 AI 규제 환경 변화에 신속히 적응할 수 있도록 관련 지침과 지원 체계를 강화해야 합니다. 중소벤처기업부와 과학기술정보통신부는 중소기업을 위한 AI 윤리 컴플라이언스 지원 프로그램을 확대하고, EU AI Act 등 해외 규제 대응 가이드를 제공해야 합니다.
한국AI산업협회는 2025년부터 회원사를 대상으로 AI 규제 대응 교육 프로그램을 운영하고 있으나, 참여율은 아직 낮은 수준입니다. 둘째, 글로벌 기업들과의 협력을 통해 국제적 거버넌스 수립 논의 과정에서 주도적인 역할을 해야 합니다. 한국은 2024년 5월 서울에서 개최된 'AI 서울 정상회의'를 통해 AI 안전에 대한 국제 공조를 강화한 바 있습니다.
이러한 외교적 노력을 지속하여 OECD AI 원칙, UNESCO AI 윤리 권고 등 국제 표준 수립 과정에 적극 참여하고, 한국의 입장을 반영해야 합니다. 특히 동아시아 국가들과의 협력을 통해 지역적 AI 거버넌스 체계를 구축하는 것도 고려할 필요가 있습니다. 셋째, 윤리적 기준과 책임감을 바탕으로 한 AI 생태계 조성을 위해 시민 사회와 적극 소통해야 할 필요가 있습니다.
AI 기술의 사회적 수용성을 높이기 위해서는 일반 시민, 학계, 시민단체, 산업계가 함께 참여하는 다층적 거버넌스 구조가 필요합니다. 한국소비자원의 2025년 조사에 따르면, 국민의 67%가 AI 기술에 대해 기대와 함께 우려를 느끼고 있으며, 특히 개인정보 침해(78%), 일자리 감소(65%), 알고리즘 편향(52%) 등을 주요 우려 사항으로 꼽았습니다. 이에 정부는 AI 영향평가 제도를 도입하여 고위험 AI 시스템의 사회적 영향을 사전에 평가하고, 시민 참여형 AI 윤리 위원회를 구성하여 다양한 이해관계자의 목소리를 반영해야 합니다.
또한 AI 리터러시 교육을 확대하여 국민들이 AI 기술을 올바르게 이해하고 활용할 수 있도록 해야 합니다. 교육부는 2024년부터 초·중·고 교육과정에 AI 교육을 필수화했으나, 교사 역량 강화와 교육 콘텐츠 개발이 여전히 과제로 남아 있습니다.
결론적으로 AI 기술은 미래의 핵심 성장 동력임과 동시에 커다란 규제적 도전을 안고 있습니다. 한국이 이 기술 발전과 규제 마련 사이에서 적절한 균형점을 찾는 일은 국가적 과제이자 글로벌 기술 패권 경쟁에서 우위를 점할 수 있는 기회일지도 모릅니다. 헬레나 리 교수가 강조했듯이, "AI의 잠재력을 실현하는 동시에 인류의 안전을 보장하는 것은 우리 세대가 해결해야 할 가장 중요한 과제"입니다.
독자 여러분은 이 균형점을 찾기 위한 노력에 어떤 역할을 상상하시나요? 소비자로서, 시민으로서, 혹은 산업 종사자로서 우리 각자가 AI 윤리와 규제에 대해 목소리를 내고 참여하는 것이 중요합니다. 이제는 AI의 잠재력뿐 아니라 이를 관리하고 활용할 방식을 함께 고민할 때가 왔습니다.
한국이 기술 혁신과 사회적 책임을 동시에 실현하는 AI 선도 국가로 자리매김하기 위해서는 정부, 기업, 시민 사회의 협력이 그 어느 때보다 절실합니다. [알림] 본 기사는 법률·규제 관련 정보를 제공하기 위한 것으로, 법률적 자문을 대체할 수 없습니다.
실제 법적 문제가 있을 경우 반드시 변호사 등 법률 전문가와 상담하시기 바랍니다.
광고
[참고자료]
project-syndicate.org
){kind=small}
){kind=small}
){kind=small}
){kind=small}