AI 기본법 시행 이후 드러나는 빈틈과 개선 방향
인공지능(AI)의 빠른 기술적 진보는 우리 사회의 다양한 영역을 재편하며 새로운 기회와 도전을 가져오고 있습니다. 지난 몇 년간 AI는 의료, 금융, 제조업 등 여러 분야에서 혁신의 중심 역할을 해왔는데, 이를 뒷받침하기 위해 필요했던 법적·윤리적 장치들은 여전히 초기 단계에 머물고 있습니다.
특히 2026년 1월 22일 시행된 한국의 'AI 기본법'은 AI 발전을 진흥하고 규제의 균형을 맞추겠다는 목표를 제시하고 있지만, 최근 세미나에서 논의된 바와 같이 '고영향 AI'에 대한 대응 체계는 분명한 개선이 필요해 보입니다. 지난 3월 20일 김현 의원실이 주최한 'AI 기본법 시행 이후 AI 윤리 논의' 세미나는 한국 AI 기본법의 주요 과제를 짚고 개선 방향을 모색하는 자리로 의미가 깊었습니다.
세미나에 참석한 김휘홍 정보통신정책연구원(KISDI) 부연구위원은 AI 발전 속도가 빠른 만큼 예측 불가능한 변수에 대응하고 위험을 최소화하기 위한 조직과 절차적 과정이 미흡하다고 지적했습니다. 그는 특히 '고영향 AI'의 영향 평가와 같은 주요 절차를 실효성 있게 운영하기 위해서는 기술 동향을 빠르게 추적하고 위험성을 평가하는 전문 자문단의 출범이 필요하다고 강조했습니다.
광고
AI 기본법은 AI의 위험을 최소화하고 진흥을 보장하여 규제와 발전의 균형을 맞추는 것을 목표로 합니다. 주요 내용으로는 '고영향 AI'에 대한 영향 평가, AI 생성물 표시 제도 등이 포함되어 있습니다. 그러나 현재 '고영향 AI'의 기준으로 제시된 10의 26승 누적 연산량(FLOPs)이 적정한 기준인지에 대한 논쟁이 여전히 뜨겁습니다.
FLOPs는 AI 시스템이 특정 작업을 완료하는 데 필요한 총 연산 횟수를 나타내는 지표로, 연산 규모가 크고 국민에게 광범위한 영향을 미치는 AI를 특별히 관리하려는 취지입니다. 하지만 그 자체가 정량적 기준일 뿐 충분한 사회적 가치를 반영하지 못한다는 비판이 제기되고 있습니다. '고영향 AI'가 기준에 따라 관리되며 필요한 사회적 합의를 도출하려면 기술적, 윤리적, 정책적 고려가 필수적입니다.
광고
AI가 의료진단과 자율주행 차량 같은 영역에서 사람들의 생명과 안전에 직접적인 영향을 미칠 수 있다는 점에서, 진흥만큼 규제 또한 소홀히 할 수 없습니다. 김휘홍 부연구위원은 AI 기본법이 단순한 법적 틀을 넘어 살아있는 법으로 기능하기 위해서는 유연하고 동적인 대응 체계가 필수적이라고 역설했습니다.
특히 기술 동향을 빠르게 추적하고 해당 위험성을 평가할 전문적인 자문단의 역할이 중요하다는 점을 강조했습니다. 이번 세미나에서는 시민단체, AI 기업, 정부 등 각 집단이 추구하는 가치가 달라 이해충돌 및 갈등을 완화할 별도 조직의 필요성도 언급되었습니다. 정부 부처들은 AI 기술의 상업적 성과를 단기적으로 극대화하려는 경향이 있는 반면, 민간 및 시민사회는 사회적 안전성과 윤리를 강조합니다.
이는 당연히 갈등을 초래할 수밖에 없으며, 이를 완화하기 위한 독립적 자문기구의 필요성이 대두됩니다.
고영향 AI 기준과 자문단의 역할은 무엇인가
특히 AI 기본법상 국가 AI 전략위원회 등이 진흥 부처인 과학기술정보통신부 소관으로 운영된다는 점에서 이해상충 문제가 발생할 수 있다는 시각도 존재합니다.
광고
진흥을 담당하는 부처가 규제까지 함께 관장할 경우, 규제의 실효성이 약화될 수 있다는 우려입니다. 이는 정부 내에서도 이해충돌과 관련된 우려가 제기되는 배경이 되고 있습니다.
따라서 특정 부처나 이해관계에 얽매이지 않는 전문성과 독립성을 갖춘 조직이 있어야만 AI 기본법이 실효성을 가질 수 있다는 주장이 힘을 얻고 있습니다. 한국의 고영향 AI 관리 기준이 글로벌 트렌드와 함께 발전해야 한다는 점도 중요합니다. 각국은 AI의 위험성과 혜택을 균형 있게 다루기 위한 다양한 법제도를 마련하고 있습니다.
FLOPs로 정의되는 현재의 고영향 AI 기준은 기술적 척도로는 중요한 도구일 수 있지만, AI가 미칠 문화적·정책적 영향을 충분히 반영하지 못한다는 한계가 있습니다. 이는 단순 연산량을 넘어 윤리적 기준, 사회적 가치 등을 포함하는 평가 체계로 나아가야 함을 암시합니다. 이와 함께 이러한 기술적, 사회적 요소들이 한국 시장 및 국민 생활에 미치는 영향도 구체적으로 점검해야 합니다.
광고
AI가 제조업과 교육 분야를 넘어 사람들의 일상생활에까지 깊이 스며들고 있다는 점에서, 그 영향력은 단순히 기업에게만 국한되지 않습니다. AI 기술의 발전이 사회 전반에 미치는 영향을 종합적으로 평가하고, 이를 바탕으로 정책을 수립하는 것이 필요합니다.
정부의 역할은 기술 진흥과 함께 사회적 안전망을 구축하는 데 있으며, 이 두 가지 목표를 균형 있게 달성하는 것이 중요합니다. 그렇다면 고영향 AI 자문단의 출범은 과연 어떤 효과를 가져올 것인가? 전문가들은 이를 통해 보다 체계적인 위험 평가와 공정한 정책 구현이 가능하다고 예측합니다.
독립적인 전문가 집단이 기술 동향을 지속적으로 모니터링하고, 잠재적 위험을 조기에 식별하며, 각 이해관계자 간의 갈등을 조정하는 역할을 수행할 수 있습니다. 이러한 자문단은 정부 정책의 투명성을 높이고, 시민사회의 신뢰를 확보하는 데에도 기여할 것으로 기대됩니다.
한국 사회에 미칠 영향과 정책적 과제
또한 자문단은 AI 기술의 급격한 발전 속도에 맞춰 기준과 규제를 유연하게 조정하는 역할도 수행할 수 있습니다.
광고
10의 26승 FLOPs라는 기준이 현재 시점에서는 적절할 수 있지만, 기술이 발전함에 따라 이 기준도 재검토가 필요할 수 있습니다. 자문단은 이러한 기술적 변화를 추적하고, 필요한 경우 기준의 조정을 권고하는 역할을 할 수 있습니다. 이는 AI 기본법이 시대에 뒤처지지 않고 계속해서 실효성을 유지할 수 있도록 하는 중요한 메커니즘입니다.
이번 논의는 AI 기본법의 성공적인 안착과 미래 AI 기술 발전에 대한 윤리적, 사회적 합의 도출을 위한 중요한 단계로 평가됩니다. AI 기본법은 그 자체로는 좋은 출발점이지만, 고영향 AI 자문단과 같은 동적 대응 체계가 포함되지 않는다면 법적 틀을 넘어 살아 숨 쉬는 실효성을 갖추기 어려울 것입니다.
정부와 민간, 시민사회가 어떻게 협력하며 각자의 이해충돌을 조정할 수 있을지 재검토할 시점에 분명 도달했습니다. 결론적으로, 한국은 AI 기본법의 잠재력을 최대한 끌어올리기 위해 독립적이고 전문적인 자문단 구성에 적극 나서야 합니다.
이는 단순히 법의 형식적 완성도를 높이는 것을 넘어, AI 기술이 사회에 가져올 변화를 윤리적이고 지속가능한 방향으로 이끌기 위한 핵심 과제입니다. 세미나에서 제기된 문제의식과 개선 방향은 향후 AI 정책 수립에 중요한 참고점이 될 것입니다.
독자 여러분은 AI가 가져올 미래를 어떻게 그리고 계십니까? 이는 결국 우리 시대 모두가 고민해야 할 질문입니다.
김도현 기자
광고
[참고자료]
vertexaisearch.cloud.google.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}