다키클라우드, ETRI에 NPU 기반 AI 플랫폼 공급

다키클라우드(Thaki Cloud)는 클라우드 운영 전문 기업 옵스나우(OpsNow)와 협력해 한국전자통신연구원(ETRI)의 NPU(신경망처리장치) 기반 AI 연구 환경에 자사 프라이빗 클라우드 플랫폼 Aegis와 AI 모델 서빙 추론 플랫폼 Metis를 공급했다고 밝혔다.

이번 프로젝트는 NPU 기반 컴퓨팅 인프라에 클라우드 운영 환경과 AI 모델 실행 플랫폼을 결합해, 연구 목적에 따라 가속기 자원과 추론 환경을 효율적으로 활용할 수 있도록 지원하는 데 초점을 맞췄다. 다키클라우드는 자체 소프트웨어 플랫폼을 적용하고, 옵스나우와 협력해 프로젝트 수행에 필요한 기술 및 운영 영역을 연계했다.

ETRI 연구 환경에는 AMD EPYC 프로세서와 리벨리온의 ATOM-Max NPU 기반 서버가 도입됐다. 다키클라우드는 프라이빗 클라우드 플랫폼 Aegis를 통해 서버·네트워크·가속기를 포함한 기반 인프라의 구성과 관리 환경을 제공하고, Metis를 통해 NPU 기반 모델 서빙 및 추론 워크로드를 지원하는 AI 플랫폼 기능을 적용했다.

이와 함께 API 기반 연동, 자원 상태 모니터링 등 연구 환경에서 요구되는 운영 기능도 반영했다.

회사 측은 NPU를 포함한 AI 가속기를 연구에 활용하기 위해서는 단순한 하드웨어 도입만으로는 부족하며, 인프라 계층과 AI 플랫폼 계층이 함께 설계·구축돼야 한다고 설명했다. 인프라 계층은 서버·네트워크·가속기 자원을 통합 관리하는 역할을, AI 플랫폼 계층은 해당 자원 위에서 모델을 배포하고 추론 작업을 실행하는 역할을 맡는다. 특히 연구 환경에서는 연구 목적과 시스템 구성에 맞춘 연동·관리 방식이 핵심 요소로 꼽힌다.

다키클라우드는 이번 공급이 자사의 프라이빗 클라우드 인프라 기술과 AI 모델 서빙·추론 플랫폼을 NPU 기반 연구 환경에 동시에 적용한 사례라는 점에서 의미가 있다고 평가했다. 회사는 “옵스나우와의 협력을 바탕으로 공공 연구기관과 기업을 대상으로 한 AI 인프라 구축·운영 수요에 적극 대응해 나갈 계획”이라고 밝혔다.