레드햇 로고.[레드햇 제공]

[헤럴드경제=권제인 기자] 글로벌 오픈소스 솔루션 선도기업 레드햇과 일본 최대 통신 기업 NTT는 엣지(edge)에서 실시간 생성형 AI 데이터 분석을 향상하고 확장할 수 있는 솔루션을 공동 개발했다고 27일 밝혔다.

이 솔루션은 아이온 글로벌 포럼(IOWN Global Forum)에서 개발한 기술을 사용해 쿠버네티스(Kubernetes) 기반 하이브리드 클라우드 애플리케이션 플랫폼인 레드햇 오픈시프트(Red Hat OpenShift) 상에 구축됐다. 실제 실행 가능성 및 사용 사례에 대해 ‘아이온 글로벌 포럼의 개념 증명(IOWN PoC)’을 획득했다.

AI 센싱 기술과 네트워킹 혁신이 가속화되고 데이터 소스가 빠르게 확장됨에 따라, 네트워크 엣지의 데이터 평가와 분류에서 AI 분석 활용의 중요성이 커지고 있다. 더 많은 원격지에서 엣지 컴퓨팅이 가능하게 되면 AI 분석을 센서에 더 가깝게 배치함으로써 지연 시간을 줄이고 대역폭을 늘릴 수 있다.

레드햇과 NTT의 이번 솔루션은 아이온 APN(올 포토닉스 네트워크)과 아이온 DCI(데이터 중심 인프라) 내의 데이터 파이프라인 가속 기술로 구성돼 있다. NTT의 AI용 가속 데이터 파이프라인은 APN을 통한 RDMA(원격 직접 기억장치 접근) 방식을 채택해 엣지에서 대량의 센서 데이터를 효율적으로 수집하고 처리한다.

레드햇 오픈시프트의 컨테이너 오케스트레이션 기술은 분산돼 있는 원격 데이터 센터들에 걸친 가속 데이터 파이프라인 내에서 워크로드를 보다 유연하게 운영할 수 있도록 지원한다. 레드햇과 NTT는 이번 솔루션이 엣지에서 이뤄지는 실시간 AI 분석을 위한 저지연성과 낮은 전력 소비량을 확보했음을 입증했다고 설명했다.

양사는 개념 증명(PoC)를 통해 많은 수의 카메라를 포함한 경우에도 AI 분석을 위한 센서 데이터를 집계하는 데 필요한 지연 시간이 기존 AI 추론 워크로드 대비 60% 줄었다고 밝혔다.

또한, 엣지의 각 카메라 별 AI 분석에 필요한 전력 소비량이 기존 기술보다 40% 절감될 수 있음이 입증했다고 강조했다. 해당 실시간 AI 분석 플랫폼을 사용하면 CPU의 병목 현상 없이 더 많은 수의 카메라를 수용할 수 있도록 GPU를 확장할 수 있다.

이번 솔루션에 대한 자세한 내용은 29일 스페인 바르셀로나에서 개최된 ‘모바일 월드 콩그레스(MWC) 2024’에서 아이온 글로벌 포럼 세션을 통해 확인할 수 있다.