[화담일보 = 김도윤기자] 기업의 인공지능(AI) 도입이 직원 개인의 도구 사용을 넘어 조직 전체의 업무 설계로 옮겨가고 있다. 한화솔루션은 외부 AI 모델을 사내에서 안전하게 쓰기 위한 통제 체계를, 카카오는 모델 학습과 실제 서비스 운영의 인프라를 나눠 구성한 사례를 공개했다. 두 회사 모두 기술을 도입했다는 사실과 생산성·매출 개선 성과는 구분해 평가해야 한다.
23일 서울에서 열린 AWS AI 웨이브 2026에서 한화솔루션은 임직원이 앤트로픽의 클로드 코워크를 이용하도록 아마존 베드록 기반 사내 대규모언어모델(LLM) 게이트웨이를 구축했다고 설명했다. 게이트웨이는 직원 요청이 외부 모델로 전달되기 전 개인정보를 가리고, 사용 이력과 비용을 한곳에서 관리한다. 회사와 AWS가 공동 작성한 기술 자료에서도 이런 통제 구조를 확인할 수 있다.
한화솔루션은 약 3주 만에 실제 서비스 배포 환경을 마련했고 클로드 도입을 추진하는 그룹사가 7곳으로 늘었다고 밝혔다. 사내 보안 규칙을 통과한 도구를 공통으로 제공하면 직원마다 서로 다른 외부 서비스를 쓰면서 생기는 데이터 관리 문제를 줄일 수 있다. 그러나 개인정보를 가리는 장치가 모든 입력의 유출 가능성을 없애지는 않으며, 권한 설정과 기록 관리가 함께 작동해야 한다.
카카오는 정부의 '모두의 AI' 사업에 사용할 모델의 학습 과정에는 AWS 클라우드를 활용하고, 추론과 실제 서비스 운영은 자체 인프라에서 수행한다고 설명했다. 학습에는 시기에 따라 많은 그래픽처리장치(GPU)가 필요하므로 클라우드에서 자원을 탄력적으로 확보하고, 이용자에게 답을 제공하는 단계는 자체 시설에서 관리하는 방식이다. 자체 모델 카나나 개발에도 클라우드 학습 자원을 쓴다고 밝혔다.
카카오는 아마존 세이지메이커 하이퍼팟을 이용해 학습 중 장애가 난 노드를 교체하고 저장된 지점부터 학습을 재개할 수 있다고 설명했다. 장애로 처음부터 다시 시작하는 비용을 줄일 수 있지만 서비스 품질과 비용 절감 효과는 실제 운영 결과를 봐야 한다. 학습과 추론을 나누면 데이터 이동, 지연시간, 보안 정책의 관리도 더 복잡해질 수 있다.
한화솔루션의 사례에서 '거버넌스'는 직원의 AI 사용을 일률적으로 막는 절차가 아니라 어떤 업무 데이터가 어떤 모델에 전달되는지 기록하고 정책을 적용하는 체계다. 사용량이 증가해도 부서별 비용을 파악할 수 있어야 예산을 관리할 수 있다. 향후 팀별 예산과 주요 업무성과지표에 연계한 에이전트 도입을 추진한다는 회사 설명은 아직 계획 단계다.
카카오의 학습·추론 분리는 클라우드 비용과 자체 설비 투자 사이의 선택이다. 대규모 학습 수요가 일시적으로 몰릴 때 외부 GPU를 빌리고, 상시 이용자의 요청은 자체 설비로 처리하면 자원 운영을 달리할 수 있다. 그러나 데이터가 두 환경을 오갈 때 접근권한, 백업과 사고 대응 절차가 복잡해진다. '모두의 AI'가 공공 서비스를 지향하는 만큼 이용자 정보 보호와 서비스 장애 대응도 중요한 성과 지표가 된다.
AWS는 기업들이 AI 실험을 본업의 성과로 연결하려면 사용량, 비용, 품질과 책임 주체를 함께 측정해야 한다고 강조했다. 공급업체의 행사에서 공개된 사례인 만큼 효율성 주장은 각 기업의 후속 성과 지표로 검증할 필요가 있다. 다양한 모델을 선택할 수 있는 플랫폼이 늘어나는 가운데, 기업에 중요한 것은 특정 도구의 이름보다 업무에 맞는 통제와 운영 방식이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}