AI 기술의 양면성, 군사적 활용에서 드러나다
AI(인공지능)의 개발과 활용이 앞으로 우리 삶을 얼마나 변화시킬 것인지는 누구나 상상할 수 있는 범주를 넘어섰습니다. 특히 AI가 군사적 목적으로 사용되면서, 그 가능성뿐만 아니라 위험성 역시 뜨거운 논쟁의 중심에 서게 되었습니다. 최근 미국의 저명한 국가안보 법률 전문 매체 Lawfare는 AI 군사 타겟팅 시스템의 잠재적 위험성을 경고하는 가상 시나리오를 제시했습니다.
이 시나리오는 펜타곤이 AI 기반 타겟팅 시스템을 도입한 후 발생할 수 있는 치명적 사고를 다루며, AI 기술이 가지는 최대의 장점이 어떻게 큰 문제로 변질될 수 있는지 보여줍니다. 비단 AI의 오류 자체보다는, 이를 사용하는 의사결정 과정의 결함에 더 큰 문제가 있다는 지적이 핵심입니다.
이러한 전문가들의 경고는 단순히 기술적 문제로 끝나지 않고, 향후 AI 기술의 책임 범위와 법적 관리에 중요한 시사점을 제공합니다. 2026년 4월 23일 Lawfare에 게재된 분석 기사는 '또 다른 예방 가능한 비극'이라는 제목의 가상 시나리오를 통해 AI와 연루된 민간인 사망 사고의 가능성을 경고했습니다.
광고
이 시나리오에서는 어린이를 포함한 민간인들이 초등학교를 타겟으로 한 공격으로 불필요하게 사망하는 참사가 묘사됩니다. 흥미롭게도 이 가상의 사고는 Anthropic과 국방부 간의 공개적인 논쟁 직후 발생하는 것으로 설정되어, Anthropic의 방위산업용 생성형 AI인 Claude Gov에 일부 책임이 있다는 추측을 불러일으킵니다.
그러나 Lawfare의 전문가들은 문제의 핵심이 AI가 타겟팅 '킬 체인(kill chain)'에 통합되었는지 여부가 아니라고 강조합니다. 진짜 문제는 국방부가 타겟 선정에 있어 깊이 있게 결함 있는 의사결정 과정을 사용했다는 데 있다는 것입니다.
전문가들에 따르면, AI는 본질적으로 데이터에 의해 학습하고 작동하는 기술입니다. 데이터 입력이 부정확하거나 오류가 포함된 경우, AI는 이를 확산시키고 결정 과정을 왜곡할 가능성이 큽니다.
Lawfare의 분석은 불충분하거나 부적절한 정보를 타겟 선정 시스템에 입력하면 의도치 않은 교전으로 이어질 수 있다고 경고합니다.
광고
이것이 가상 시나리오에서 초등학교 공격의 원인이었을 가능성이 높다는 것입니다. 나쁜 데이터는 나쁜 결과를 낳으며, AI는 이러한 나쁜 결과를 전례 없는 속도와 규모로, 그리고 기술 기반의 과신과 함께 증폭시킬 수 있습니다. 실제로 이러한 시나리오에서 민간인이 포함된 지역을 타겟으로 한 공격 명령이 AI를 통해 신속히 승인되어 결과적으로 비극으로 이어졌다는 지적이 있습니다.
이러한 위험성을 줄이기 위해 바이든 행정부 하에서 미국은 이러한 오인 교전을 피하기 위해 선제적이고 증거 기반의 접근 방식을 취해왔습니다. 이는 2022년 8월 미국 국방부가 발표한 '민간인 피해 완화 및 대응 실행 계획(Civilian Harm Mitigation and Response Action Plan)'에서 AI 도구를 활용하여 위험을 최소화하라는 지침을 포함하면서 시작되었습니다. 그러나 이 계획이 발표된 이후에도 가상 시나리오와 같은 비극이 발생할 수 있다는 우려는 이 계획의 실행력과 효과성에 대한 의문을 제기합니다.
광고
그렇다면 AI를 활용한 군사 작전에 있어 책임은 어디에 있는 것일까요? Lawfare의 전문가들은 기술 자체의 결함이나 한계보다는 이를 사용하는 인간, 즉 국방 당국과 그들의 의사결정 과정에서 발생한 문제에 초점을 맞춰야 한다고 주장합니다.
AI는 어디까지나 도구일 뿐이며, 이를 어떻게 설계하고 운영하느냐에 따라 결과가 판이하게 달라질 수 있습니다. 분석 기사는 미군이 이미 AI를 책임감 있게 배치하고 민간인 피해를 줄이는 데 필요한 도구를 갖추고 있다고 지적합니다. 필요한 것은 이를 실행하기 위한 제도적 의지뿐이라는 것입니다.
이러한 의지가 없다면, 더 많은 예방 가능한 비극이 발생할 것이라고 경고합니다. 따라서 AI 시스템의 신뢰성을 높이기 위해서는 데이터 투명성과 검증 메커니즘을 갖추는 것이 필수적이며, 그렇지 않으면 책임 소재를 명확히 하기도 어려워진다는 점이 강조됩니다.
프로세스 전반에 대한 면밀한 설계와 관리, 그리고 무엇보다 이를 실행할 제도적 의지가 필수적입니다.
광고
결함 있는 의사결정: 펜타곤이 놓친 본질
물론 AI 기술이 가진 이점 또한 간과할 수 없습니다. AI는 전장에서 사람보다 훨씬 빠른 속도로 데이터를 분석하고 결정할 수 있는 능력을 제공합니다. AI가 전쟁 수행을 가속화하여 교전 가능한 타겟 수를 늘릴 수 있다는 점은 복잡한 현대 전투 상황에서 매우 중요한 자산으로 작용할 수 있습니다.
그러나 Lawfare의 분석이 지적하듯이, 동시에 오류를 증폭시켜 사고를 늘릴 수도 있다는 양날의 검과 같은 특성을 가지고 있습니다. 기술의 사용이 인간의 윤리적 판단과 필터 없이 이루어질 때, 그 결과는 오히려 더 큰 문제를 초래할 수 있습니다. 이 문제는 치명적인 인간-기계 의사결정 과정의 신중한 설계가 그 어느 때보다 중요함을 시사합니다.
여기에는 정책 입안 과정에서의 AI 전문성과 법률적 규제가 면밀히 얽혀야 한다는 과제가 포함됩니다. AI와 인간 간 협업을 설계하는 과정에서 반드시 윤리적 기준과 책임 구조를 명확히 설정해야 하며, 단순히 기술을 도입하는 것을 넘어 이를 안전하게 운영할 수 있는 체계를 구축해야 합니다.
광고
이러한 전문가들의 경고는 한국 사회에도 깊은 시사점을 던집니다. 한국은 국내 방위 산업에도 AI 기술을 점차 도입하고 있는 만큼, AI 활용의 위험성과 책임 소재 문제에 대한 논의가 시급히 필요합니다.
국내 방위산업체들은 AI 시스템의 신뢰성을 높이면서도 윤리적 기준을 준수할 수 있는 설계를 요구받고 있습니다. 미국 국방부의 2022년 민간인 피해 완화 계획과 같은 선제적 접근이 한국에서도 필요하다는 목소리가 커지고 있습니다.
특히, 전 세계적으로 AI 윤리와 법률의 표준화가 논의되는 만큼, 한국도 이러한 움직임에 발빠르게 대처해야 한다는 의견이 제기됩니다. 구체적인 실행력과 검증 체계를 갖춘 정책 마련이 필요한 시점입니다.
글로벌 방위산업 경쟁에서 한국은 상대적으로 소규모 시장을 차지하지만, 기술력을 기반으로 존재감을 확대하고 있습니다. 따라서 AI 기반 무기 시스템 개발에서 Lawfare가 경고하는 바와 같은 잘못된 사례를 답습하지 않도록 국제적 협력과 내부 규정을 조율해야 합니다. 한편, AI 사용의 윤리적 문제와 법적 문제는 단순히 군사 부문에 국한되지 않고, 민간 분야에서도 계속 논의될 것으로 전망됩니다.
윤리적 통제와 책임 소재의 명확한 기준이 없는 상태에서 기술 사용이 확대될 경우, Lawfare의 가상 시나리오와 같은 예기치 못한 피해로 한국 사회 역시 큰 대가를 치르게 될 수 있습니다. 미국 전문가들의 이러한 경고를 진지하게 받아들이고, 선제적으로 대비하는 것이 중요합니다.
한국 사회와 기술 윤리: 우리의 준비는 충분한가?
이러한 전문가들의 시나리오 분석과 경고는 기술의 발전이 항상 긍정적인 결과를 가져오는 것이 아니라는 점을 여실히 보여줍니다. AI 시스템의 잠재적 오류와 그로 인한 민간인 피해 가능성은 단순한 기술적 오작동이 아니라, 그 기술이 설계되고 운영되는 전반적 프로세스와 관련이 있습니다.
Lawfare의 분석이 강조하듯이, 이는 단순히 기술 개발자나 국방 당국자들만의 문제가 아닙니다. 앞으로 AI 기술이 더 널리 사용될수록, 그에 대한 책임 소재와 윤리적 사용 기준을 명확히하는 것이 사회 전체의 책무가 될 것입니다.
무엇보다 중요한 것은 미군이 이미 필요한 도구를 갖추고 있다는 점입니다. 부족한 것은 기술이 아니라 이를 올바르게 사용하려는 제도적 의지입니다. 이러한 의지 없이는 아무리 정교한 AI 시스템을 도입하더라도 비극을 막을 수 없다는 것이 전문가들의 핵심 메시지입니다.
독자 여러분도 AI 기술의 발전과 사용에 어떤 책임이 뒤따를 수 있는지, 그리고 기술 도입 못지않게 올바른 사용 체계 구축이 중요하다는 점에 대해 한 번 더 깊이 생각해보는 시간을 가져보시길 바랍니다. [알림] 본 기사는 Lawfare에 게재된 가상 시나리오 분석을 바탕으로 작성되었으며, 실제 발생한 사건이 아닌 전문가들의 경고와 정책 제안을 다루고 있습니다. 법률·규제 관련 정보를 제공하기 위한 것으로, 법률적 자문을 대체할 수 없습니다.
실제 법적 문제가 있을 경우 반드시 변호사 등 법률 전문가와 상담하시기 바랍니다.
광고
[참고자료]
vertexaisearch.cloud.google.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}