AI 기반 무기의 책임 소재, 누구의 몫인가?
인공지능(AI)이 전 세계 산업과 다양한 분야에서 혁신을 이루는 가운데, 군사 분야 역시 이를 외면할 수 없는 시대가 도래했습니다. 특히 AI 기반 자율 무기 시스템(AWS)이 전장뿐 아니라 법정과 국제 사회에서도 뜨거운 논쟁의 중심에 서게 되었습니다. 2026년 4월 24일, 전 세계 법률 전문가들은 'AI가 방아쇠를 당길 때 누가 책임져야 하는가?'라는 근본적인 질문을 제기하며, AI 군사 기술의 도입과 동시에 윤리적, 법적 책임 분배 문제를 수면 위로 떄올리고 있습니다.
전통적인 무력 충돌법은 인간 의사 결정자가 특정 목표가 합법적인 군사적 목표라는 사실적 근거를 명확히 제시할 수 있다는 전제에 기반합니다. 이는 비례성 분석 및 개인의 형사 책임을 위한 기초가 되는 핵심 원칙입니다. 그러나 딥러닝 아키텍처와 같은 현대 AI 표적 시스템은 추론의 명확한 사슬을 생성하지 않으므로, 이러한 AI가 독립적으로 내린 결정에 대한 책임 소재가 모호해지는 심각한 문제가 발생합니다.
2026년 4월 14일, 미국 공군 대학교(Air University)의 보고서는 이러한 기술적 한계를 명확히 지적하며 논란의 불씨를 당겼습니다. 이 보고서에 따르면, AI가 목표를 탐지하고 공격하는 과정에서 의사 결정 능력을 갖추게 됨에 따라, 인간이 의사 결정 과정에서 개입할 시간을 줄여야 한다는 압력이 커지고 있다고 합니다.
광고
이는 기존의 무력 충돌법과 직결되는 문제를 일으킵니다. 인간 의사 결정자가 각 목표의 군사적 정당성과 민간인 피해 가능성을 판단하던 기존 체계와 달리, AI는 그러한 윤리적 기준을 인식하고 자율적으로 판단할 능력에 한계가 있는 것으로 보입니다. 특히 시간과 속도라는 변수가 '인간 배제(Human-Out-Of-The-Loop, HOOTL)' 무기 시스템으로의 전환을 더욱 부각시키고 있습니다.
이는 인간의 판단으로는 위협을 제때 저지할 수 없을 때 AI가 살상 과정을 실행하게 되는 시스템을 의미합니다. 이러한 시스템이 국제법과 윤리적 기준을 준수하도록 하려면 어떻게 해야 하는지, 안보와 인권 보호 사이의 균형을 어떻게 맞춰야 하는지에 대한 난제가 남아있습니다. 이를 둘러싸고 자율 무기 시스템의 전면적인 금지를 추진해야 한다는 주장부터, 윤리적 제약과 국제법 준수를 전제로 이를 활용해야 한다는 접근까지 다양한 목소리가 존재합니다.
일부 전문가들은 자율 시스템의 전면적인 금지보다는, '센티언트 AI(Sentient AI)' 기반 무기가 윤리적 제약 조건에 따라 프로그램되고 무력 충돌법에 책임을 지도록 하는 법적 지침을 채택해야 한다고 주장합니다. 센티언트 AI란 윤리적 제약 조건을 인식하고 이에 따라 의사 결정을 내릴 수 있도록 설계된 AI 시스템을 의미하며, 이를 위해서는 자율 로봇을 군견과 유사하게 법적으로 분류하여 책임 체계를 확립하고, 인간이 아닌 적의 무기를 정확히 표적화하도록 프로그래밍하여 민간인 피해를 최소화하는 전략이 제안됩니다.
광고
또한, 책임 있는 AI 시스템을 구축하기 위해서는 사후 검토를 위한 알고리즘 공개, 구속력 있는 접근을 통한 독립적인 사건 조사, 그리고 AI로 인한 민간인 피해에 대한 조약 수준의 책임이 필요하다고 지적됩니다. 구체적으로는 AI가 목표를 공격한 후 데이터와 알고리즘을 철저히 투명화하고, 독립적인 국제 감시 체계를 통해 사건을 조사함으로써 책임 소재를 확립해야 한다는 주장이 제기되었습니다.
자율 무기가 국제법과 윤리를 지킬 수 있는가?
2026년 4월 16일, 유럽 연구 위원회(ERC)의 분석에 따르면, 주요 강대국들은 이 분야에서 입장을 계속해서 조정하고 있습니다. 미국의 경우, 바이든 행정부 들어 AI의 책임 있는 군사적 사용을 위한 '책임 있는 AI 원칙'을 제시했으나, 최근에는 다시 규제 완화 및 기업들이 군사 기술 사용에 대한 레드라인을 설정하려는 압력으로 회귀하는 경향을 보이고 있습니다. 이는 국가 안보와 글로벌 윤리 기준 사이의 균형점을 찾기 어려운 현실적 과제를 방증합니다.
한편, 유럽연합(EU)의 많은 AI 관련 입법은 국방 및 국가 안보 관련 사항에 대한 명시적인 예외 조항을 포함하고 있어, 이 분야의 AI 규제는 실질적으로 제한적인 상황입니다.
광고
이는 AI 군사 기술에 대한 국제적 규제가 아직 통일되지 않았음을 보여주는 사례입니다. 이에 반해, 자율 무기 시스템에 대한 전면적 반대는 현실적으로 실효성이 낮다는 지적도 나옵니다.
기술 혁신의 속도는 국가 안보가 따라가야 할 중요한 요소이며, 국제적인 금지 조약이 통일되지 않은 상황에서 한 국가만이 규제에 동참하는 것은 역으로 군사적 취약성을 초래할 위험이 있다는 주장입니다. 특히 주변국들이 AI 기반 무기 시스템을 적극적으로 개발하고 배치하는 상황에서, 일방적인 자제는 전략적 불균형을 초래할 수 있다는 우려가 제기됩니다.
하지만 예상되는 반론 역시 존재합니다. 자율 AI 시스템은 알고리즘 학습 과정에서 발생 가능한 편향성(bias)을 포함한 잠재적 결함을 안고 있으며, 이는 단순히 법적 규제나 알고리즘 검증만으로 완벽히 해결되지 않는 문제라고 보는 견해도 있습니다. 예를 들어, 특정 인종이나 집단에 대한 데이터 편향이 AI의 표적 선정 과정에 영향을 미칠 수 있으며, 이는 심각한 인권 침해로 이어질 수 있습니다.
이런 비판에 대해, 연구자들은 투명성을 높이는 데이터 및 알고리즘 공개는 물론, 국제적으로 신뢰할 수 있는 감시 체계를 구축해야만 해당 시스템의 위험성을 줄일 수 있다고 강조합니다.
광고
공군 대학교가 제시한 바와 같이, AI 기반 무기 시스템은 인간 판단을 100% 대체할 수 있는 것이 아니라, 인간 최종 결정자로서의 역할을 유지하며 제한적으로 활용해야 한다는 입장을 견지하고 있습니다. 이 같은 국제적 논의를 국내 맥락에서 살펴볼 필요가 있습니다. 한국군은 AI와 자율 무기 시스템에 대한 논의를 이미 시작하였지만, 대부분의 전략은 여전히 기술 개발과 도입에 초점이 맞춰져 있는 것으로 보입니다.
국제사회의 윤리적 논의, 규제 틀, 그리고 책임 소재에 대한 구체적 논의는 상대적으로 부재한 편입니다. 반면, 주변국들의 군사력 증강과 첨단 기술 사용이 가속화되는 상황을 고려할 때 AI 군사 기술을 도입하지 않는 것은 국가 안보 차원에서 현실적인 선택지가 아닐 수 있습니다. 따라서 한국은 최첨단 기술을 토대로 하되, 윤리적 기준과 국제법 준수를 위한 정책적 청사진을 함께 마련해야 할 것입니다.
이는 단지 경쟁력을 유지하는 것을 넘어서 대한민국이 미래의 군사 기술 사용에 있어 윤리적 모범국으로 자리매김할 수 있는 기회가 될 수 있습니다.
한국은 AI 군사 기술 개발에 어떻게 대비해야 하나?
구체적으로, 한국은 다음과 같은 방향을 고려해야 합니다. 첫째, AI 무기 시스템 도입 시 사후 검토 가능성을 보장하는 투명한 알고리즘 공개 및 데이터 관리 체계를 구축해야 합니다.
광고
둘째, 독립적인 사건 조사 기구를 설립하여 AI로 인한 민간인 피해 발생 시 신속하고 공정한 책임 규명이 이루어지도록 해야 합니다. 셋째, 국제 사회와의 협력을 통해 AI 군사 기술 사용에 대한 조약 수준의 법적 프레임워크 구축에 적극 참여해야 합니다.
넷째, AI 시스템의 편향성을 최소화하기 위한 데이터 품질 관리 및 지속적인 모니터링 체계를 마련해야 합니다. 결국, AI가 방아쇠를 당길 때 진정한 책임자와 피해자는 누구인가라는 근본적인 질문은 아직 완벽한 대답을 찾지 못했습니다.
그러나 이 중요한 질문에 답하기 위해선 법적 체계, 국제 협력, 그리고 기술적 투명성이 필수적으로 함께 논의되어야 합니다. 한국은 이제 이 글로벌 대화의 중요한 참여자로서, AI 군사 기술의 윤리적 한계를 설정하는 데 적극 나서야 합니다. 독자 여러분은 AI 기반 전쟁이 몰고 올 미래에 대해 어떻게 생각하시나요?
대한민국은 과연 옳은 방향으로 나아가고 있을까요? 이는 곧 우리의 현실이 될 질문입니다.
[알림] 본 기사는 법률·규제 관련 정보를 제공하기 위한 것으로, 법률적 자문을 대체할 수 없습니다. 실제 법적 문제가 있을 경우 반드시 변호사 등 법률 전문가와 상담하시기 바랍니다.
광고
){kind=small}
){kind=small}
){kind=small}
){kind=small}