오라클이 엔비디아 Vera CPU를 적용한 오라클 클라우드 인프라스트럭처(OCI) 컴퓨트 서비스를 발표했다. 27일자 공식 발표에 따르면 이 서비스는 AI 에이전트가 모델 호출 사이에 수행하는 코드 실행과 도구 사용, 데이터 검색 등 CPU 중심 작업을 겨냥한다. OpenAI의 도입 발언도 공개됐지만, 제공 지역과 일정에는 공식 자료 사이에 차이가 있다.
에이전트의 도구 실행을 위한 CPU 구성
Vera는 Arm 호환 Olympus 코어를 사용하는 CPU다. 오라클이 공개한 듀얼프로세서 구성은 176코어·352스레드, LPDDR5X 메모리 1TB, 로컬 NVMe 저장장치 7.68TB, 200Gbps 네트워크를 갖춘다. 제공 형태로는 베어메탈과 Flex 가상머신을 제시했다.
CPU와 GPU 자원을 독립적으로 확장해 모델 추론과 그 사이의 작업을 나눌 수 있다는 설명이다. 다만 최대 80% 빠른 에이전트 CPU 성능이라는 수치는 엔비디아의 플랫폼 벤치마크다. OCI 인스턴스 자체를 측정한 결과가 아니며, 실제 성능은 작업과 구성에 따라 달라진다.
OpenAI 발언은 조기접근 고객의 평가
OpenAI의 Uday Ruddarraju 컴퓨트 부문 최고기술책임자는 코드와 도구를 실행하는 에이전트 샌드박스 작업을 위해 Vera를 OCI 프로덕션 환경에 대규모로 도입하고 있다고 밝혔다. 이 발언은 27일 오라클과 엔비디아 공식 자료에 실렸다.
OpenAI는 해당 서비스를 미리 이용한 고객이다. 판매사 발표에 실린 이해관계자의 발언으로, 독립적인 성능 검증이나 업계 전체의 평가로 볼 수 없다. GPU 대기시간 감소와 운영 효율 개선도 구체적인 고객별 절감 수치가 제시된 것은 아니다.
일반 제공 발표와 지역별 일정은 구분
공동발표와 오라클 상세글 제목은 일반 제공을 명시한다. 그러나 상세글 말미에는 이번 분기 일부 리전에서 제공될 예정이라고 적혀 있다. 따라서 모든 지역에서 즉시 사용할 수 있는 서비스로 해석하기 어렵다.
확인한 원문에는 구체적인 제공 리전 목록과 가격이 없다. 한국 리전 지원 여부와 국내 이용 가격도 확인되지 않았다. 도입을 검토하는 기업은 지역별 개시일, 사용 가능한 인스턴스 구성과 견적을 별도로 확인해야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}