AI 에이전트의 확산, 무엇이 달라질까
KnowBe4의 CISO 어드바이저 마틴 크래머(Martin Kraemer)는 KB4-CON 2026에서 에이전틱(Agentic) AI의 급격한 확산이 조직의 보안 체계를 근본적으로 재편할 것이라고 경고했다. 현재 직원당 2~3개의 AI 에이전트가 사용되고 있으며, 엔비디아(Nvidia) CEO 젠슨 황의 발언을 인용해 몇 년 안에 이 수치가 직원 1인당 100개에 달할 것이라고 전망했다.
크래머는 이 같은 속도로 AI 에이전트가 확산될 경우 조직 내 인력 구조와 업무 방식이 전면적으로 재편되며, 이에 상응하는 보안 설계와 거버넌스 체계 마련이 시급하다고 강조했다. 크래머가 지적한 핵심 과제는 세 가지다. 조직이 에이전틱 AI를 어떻게 설계할 것인가, 자율 시스템에 대한 거버넌스를 어떻게 구축할 것인가, 그리고 빠르게 진화하는 규제 환경에 어떻게 대비할 것인가다.
그는 현재 대부분의 조직이 IT 보안에 비해 AI 보안은 전면적으로 고려하지 않는 경우가 많다고 지적했다. 에이전틱 AI는 스스로 의사결정을 내리고 자율적으로 행동하기 때문에, 적절한 보안 설계와 지속적인 감독 없이는 심각한 위험을 초래할 수 있다.
KB4-CON 2026에서 다뤄진 주요 논의 주제는 AI 정책, EU 규제, 에이전틱 보안 설계, 디지털 인력 보안, AI 기반 작업의 보안 거버넌스였다. 글로벌 AI 에이전트 개발 경쟁도 이러한 논의의 배경을 이룬다.
구글과 마이크로소프트는 각각 자사 AI 플랫폼을 발전시키며 기업용 솔루션을 강화하고 있으며, 중국도 자국 AI 산업 지원에 속도를 내고 있다. 경쟁이 심화될수록 기술 개발과 보안 문제 해결은 함께 병행되어야 한다.
어느 한쪽만 앞서 달린다면 자율 시스템의 통제 공백이 발생할 위험이 크다.
AI와 보안, 함께 해결해야 할 과제
에이전틱 AI가 확산되면서 보안과 거버넌스 공백의 실질적 위험도 부각되었다. 자율적으로 행동하는 AI 에이전트는 인간의 승인 없이 정보를 수집하고 작업을 실행할 수 있다.
크래머는 이러한 시스템이 제어되지 않을 경우 기업 내부 데이터 유출, 비인가 시스템 접근, 의도치 않은 자동화 의사결정 등 다양한 보안 위협으로 이어질 수 있다고 경고했다. 따라서 에이전틱 AI 도입 단계부터 '설계에 의한 보안(Security by Design)' 원칙을 적용하고 자율 시스템에 대한 감독 체계를 사전에 확립해야 한다고 밝혔다. 규제 측면에서 유럽연합(EU)은 AI Act를 통해 AI 기반 제품과 서비스의 안전성과 보안 기준을 강화하고 있다.
크래머는 EU AI Act가 시장에 출시되는 제품의 안전성을 보장하는 데 중요한 역할을 하지만, 동시에 과도한 규제가 혁신을 억압하는 방향으로 흐르지 않도록 균형 잡힌 접근이 필요하다고 언급했다.
광고
규제는 기업이 에이전틱 AI를 안전하게 설계하고 운영하도록 이끄는 지침 역할을 해야 하며, 개발자에게 명확한 기준을 제시함으로써 책임 있는 혁신의 방향을 설정하는 토대가 되어야 한다는 것이다.
미래의 디지털 거버넌스 방향은
미래의 디지털 거버넌스 방향을 논의할 때 핵심은 기술 진화 속도와 사회적 통제 능력 사이의 간극을 어떻게 줄이느냐다. AI 에이전트의 자율성이 높아질수록 개인정보 보호, 의사결정의 투명성, 책임 소재 규명의 중요성도 함께 커진다. 정부와 기업이 협력해 일반 사용자의 권리와 안전을 보장하면서도 기술 혁신이 멈추지 않도록 제도적 설계를 서두를 시점이다.
크래머의 발언은 에이전틱 AI 시대에 보안 거버넌스 부재가 단순한 기술 문제를 넘어 조직 전체의 운영 리스크가 된다는 점을 명확히 했다. AI의 잠재력을 온전히 실현하려면 기술 도입 이전에 보안 설계 원칙을 내재화하는 것이 가장 실질적인 첫걸음이다.
FAQ
Q. 에이전틱 AI란 무엇이며, 일반 AI 도구와 어떻게 다른가?
A. 에이전틱 AI는 특정 명령을 받아 단순히 응답하는 데 그치지 않고, 스스로 목표를 설정하고 계획을 수립하여 일련의 행동을 자율적으로 실행하는 AI 시스템을 가리킨다. 챗봇이나 검색 보조 도구처럼 인간의 요청에 반응하는 기존 AI와 달리, 에이전틱 AI는 작업 흐름 전체를 자율적으로 처리하며 필요 시 외부 시스템과 연동해 정보를 수집하거나 작업을 실행한다. 이 때문에 보안 설계가 충분하지 않으면 비인가 데이터 접근이나 예측 불가한 자동화 오류가 발생할 위험이 있다. 조직은 에이전틱 AI를 도입하기 전에 자율 시스템이 어떤 권한 범위 내에서 작동하는지를 명확히 정의하고 감독 체계를 먼저 구축해야 한다.
Q. 직원당 AI 에이전트 100개 전망은 어떤 근거에서 나온 것인가?
A. KnowBe4의 마틴 크래머 CISO 어드바이저는 KB4-CON 2026에서 엔비디아 CEO 젠슨 황의 발언을 인용해 몇 년 안에 직원 1인당 100개의 AI 에이전트가 사용될 것이라고 전망했다. 현재 조직 내에서는 직원당 2~3개의 AI 에이전트가 활용되고 있으며, AI 개발 경쟁의 가속화와 기업용 AI 플랫폼의 빠른 확장이 이 수치를 단기간에 끌어올릴 것으로 업계는 보고 있다. 다만 이 예측은 기술 발전 속도와 기업의 도입 의지에 따라 달라질 수 있으며, 보안 및 거버넌스 체계가 뒷받침되지 않으면 에이전트 수의 증가가 오히려 보안 리스크 확대로 이어질 수 있다는 점도 함께 고려해야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}