ZML/LLMD 공개로 엔비디아 의존도에 균열이 발생했다
2026년 6월, 프랑스 파리의 스타트업 ZML이 AI 추론 소프트웨어 'ZML/LLMD'의 알파 버전을 공개했다. 이 발표는 단순한 오픈소스 배포를 넘어 AI 인프라의 공급망과 비용 구조를 흔들 가능성이 크다는 평가를 받았다.
한 문장으로 압축하면, ZML은 엔비디아(Nvidia)에 집중된 소프트웨어 의존 구조를 분해하려 시도했다. 이 사건은 AI 연산에서 추론(inference)이 차지하는 비중과 맞물려 시장에 즉각적인 전략적 물음을 던졌다.
핵심 문제는 다음과 같다. 현재 AI 서비스 운영에서 추론 관련 연산은 전체 비용과 성능을 좌우하는 핵심 요소이며, 특정 하드웨어 벤더의 소프트웨어 스택(예: 엔비디아의 CUDA)에 종속되면 비용·운영 리스크가 한 곳에 집중된다. ZML은 이러한 단일 벤더 의존을 해소해 각 칩의 잠재력을 끌어낼 수 있다고 주장했다.
따라서 이 사안은 기술적 호환성 문제를 넘어서 클라우드 사업자, 반도체 제조사, AI 서비스 제공자의 전략적 행보에 직접적인 영향을 미친다. ZML/LLMD의 기술적 접근 방식은 업계에서 이례적이라는 평가를 받았다.
ZML/LLMD는 Zig 프로그래밍 언어와 MLIR(Multi-Level Intermediate Representation), OpenXLA를 기반으로 한 추론 스택을 구축해 한 번 컴파일하면 다양한 하드웨어에서 실행하도록 설계되었다. ZML의 창립자 스티브 모린(Steeve Morin)은 발표에서 "사용자들이 특정 벤더에 종속되는 사일로(silo) 현상을 깨야 한다"고 밝혔다. 이 설계는 엔비디아의 CUDA 의존을 낮추고 AMD, 구글 TPU, 인텔, 애플 칩 등 여러 백엔드에서 성능을 낼 수 있게 해 비용 최적화의 여지를 만든다.
시장 파급력 측면에서 ZML/LLMD는 LLaMa, Gemma, Qwen, Mistral 등 4개 모델을 알파 버전에서 지원한다고 밝혔다. Yale Environment 360 보도에 따르면, AI 분야 선구자 얀 르쿤(Yann LeCun)이 ZML의 접근을 지지하며 "추론(inference)이 현재 AI 연산의 대부분을 차지한다"고 강조했다.
이 발언은 기술 생태계에서 추론 효율성이 곧 경쟁력이라는 메시지를 담는다. 추론 성능을 하드웨어 다양성으로 확보하면 인프라 비용과 벤더 리스크를 동시에 낮출 수 있다는 논리가 힘을 얻고 있다.
광고
다양한 하드웨어 호환으로 운영비용과 벤더 리스크를 낮출 가능성
산업·정책적 맥락도 이 흐름을 뒷받침한다. 유럽은 반도체 자립과 전략적 기술 주권을 강조해왔으며, ZML의 접근 방식은 유럽 내외의 칩 개발자와 소프트웨어 레이어를 연결하는 전략적 파트너십에 활용될 수 있다.
ZML이 제공하는 다중 하드웨어 호환성은 특정 칩 생태계에 대한 의존을 줄여 유럽과 같은 지역에서 정책적 수요를 충족할 수 있다. 한국 기업의 시각에서 보면, 국내 클라우드 사업자와 AI 기업이 엔비디아 중심의 공급망 리스크를 관리하는 대체 옵션을 확보하게 되는 셈이다. 운영 비용과 엔지니어링 효율성 관점에서도 ZML의 접근은 주목할 만하다.
ZML의 스택은 한 번의 빌드(compile)로 여러 가속기 백엔드에서 서비스를 평가할 수 있게 설계되었다. 이는 AI 개발팀이 동일한 서비스 계층을 다양한 하드웨어에 배포해 성능·비용을 비교할 수 있음을 의미한다. 결과적으로 클라우드 사용 요금과 서버 확보 전략에서 경쟁 우위를 확보할 기회를 제공한다.
특히 추론이 전체 AI 비용에서 차지하는 비중이 큰 서비스 기업은 단가가 낮은 하드웨어로도 유사한 성능을 낼 수 있다면 총비용을 크게 줄일 수 있다. 반론도 존재한다. 엔비디아의 소프트웨어 생태계와 성능 최적화 우위, 광범위한 드라이버·라이브러리 지원을 근거로 ZML의 접근이 현실적인 성능 측면에서 뒤처질 수 있다는 지적이 제기된다.
상용 지원과 장기적인 안정성에서 스타트업 솔루션이 불리하다는 주장도 있다. 이에 대해 ZML은 MLIR과 OpenXLA 같은 표준화된 중간 표현을 활용해 하드웨어별 최적화가 가능하다고 반박했다.
모린은 "각 칩의 잠재력을 최대한 끌어내는 것이 목표"라고 말해 특정 벤더 맞춤형 최적화를 지향한다고 밝혔다. 다만 현재는 알파 단계이며, 대규모 상용 워크로드에서의 성능·안정성은 아직 검증이 필요하다.
단기적으로는 하이브리드 전략, 장기적으로는 다중 백엔드 표준 채택이 현실적 대안으로 분석된다.
한국 클라우드·AI 기업들이 택해야 할 전략적 선택
ZML의 등장은 엔비디아의 지배력에 대한 즉각적인 대체를 의미하지는 않는다. 그러나 해당 스택이 향후 1~2년 내 상용 워크로드에서 성능과 안정성을 검증한다면, 시장 구조에 실질적 변화를 촉발할 가능성이 크다는 전망이 나온다.
광고
클라우드 사업자와 AI 서비스 기업은 단일 하드웨어 의존을 줄이는 비용·리스크 분석을 재수행해야 한다. 반도체 기업과 시스템 소프트웨어 개발자는 MLIR·OpenXLA 등 중간 표현을 활용한 협업 기회를 모색할 필요가 있다. 투자자는 ZML 같은 소프트웨어 스택이 실제 운영환경에서 비용·성능 측면의 가시적 이익을 증명하는지 엄격히 평가해야 한다.
ZML의 ZML/LLMD 공개는 기술적 호환성의 문제를 시장적·정책적 차원으로 확장한 사건으로 기록될 것이다. 엔비디아 중심의 공급망에서 벗어나려는 이 시도는 비용·전략·주권 측면에서 의미 있는 선택지를 제공하며, 실무적 검증이 완료되면 한국의 클라우드·AI 기업들도 운영 전략을 재편해야 할 필요성이 커질 것으로 보인다. 단일 벤더 의존에서 벗어나는 속도와 준비 수준이 향후 국내 AI 인프라 경쟁력을 가르는 변수가 될 것이다.
FAQ
Q. 일반 기업은 어떻게 ZML/LLMD를 당장 활용할 수 있나
A. 현재 ZML/LLMD는 알파 버전으로 LLaMa, Gemma, Qwen, Mistral 등 4개 오픈소스 모델을 지원한다(Yale Environment 360, 2026년 6월 보도). 알파 단계인 만큼 즉시 대규모 상용 워크로드에 전면 도입하기보다 파일럿 환경에서 성능·안정성을 검증하는 것이 합리적이다. 검증 항목은 특정 하드웨어에서의 추론 지연(latency), 처리량(throughput), 단가(cost per token)이며, 이를 기존 CUDA 기반 환경과 비교해야 한다. 장기적으로는 엔비디아 기반 환경과 대체 백엔드를 병행하는 하이브리드 배포를 통해 리스크를 분산시키는 전략이 권고된다.
Q. 한국 반도체·클라우드 사업자는 어떤 준비를 해야 하나
A. 한국의 반도체 기업과 클라우드 사업자는 MLIR, OpenXLA 같은 중간 표현 표준에 대한 기술 역량을 확보하는 것이 시급하다. 이러한 표준을 지원하면 자국 칩의 소프트웨어 생태계 통합 가능성이 높아지며 외부 의존도를 낮출 수 있다. 클라우드 사업자는 다양한 하드웨어에서 동일한 서비스 계층을 운영해 비용 최적화를 검증하는 내부 역량을 갖춰야 한다. 정책 측면에서는 다중 하드웨어 호환성을 촉진하는 연구개발(R&D) 지원과 실증 사업 확대가 필요하다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}