엔비디아가 통신망 끝 부분인 엣지(edge)에서 낮은 지연시간으로 실시간 인공지능(AI) 기능을 수행하는 가속 컴퓨팅 플랫폼 ‘엔비디아 EGX(NVIDIA EGX)’를 28일 공개했다.

이 플랫폼은 기업들이 5G 기지국, 웨어하우스, 리테일, 공장 등에서 발생하는 연속 스트리밍 데이터를 실시간으로 감지해 대응할 수 있도록 돕는다.

특히 클라우드로 전송되는 데이터 양을 줄이고, 데이터가 생성되는 엣지 부문에서 즉각적이면서도 높은 스루풋(throughput)의 AI를 수행할 수 있다.

엔비디아 EGX는 소형 AI 컴퓨터 엔비디아 젯슨 나노(NVIDIA Jetson Nano)로 구동된다. 이미지 인식과 같은 작업을 처리하기 위해 불과 몇 와트에 불과한 저전력으로 1초당 5000억 회 연산을 처리한다고 엔비디아 측은 설명했다. 또 이 제품은 실시간 음성 인식과 기타 실시간 AI 작업을 위해 최대 1만 초당테라연산(TOPS) 성능을 제공하는 엔비디아 T4 서버의 전체 랙으로 연결된다.

엔비디아 AI 컴퓨팅은 주요 클라우드 서비스에 의해 제공되며, 구조적으로 엔비디아 EGX와 호환된다. 클라우드에서 개발된 AI 애플리케이션은 엔비디아 EGX에서 실행될 수 있으며, 그 반대도 가능하다.

또 엔비디아는 레드햇(Red Hat)과 협력해 엔터프라이즈급 쿠버네티스(Kubernetes) 컨테이너 오케스트레이션(orchestration) 플랫폼인 오픈시프트(Openshift)와 엔비디아 엣지 스택(NVIDIA Edge Stack)을 통합했다. 이를 통해 엔터프라이즈급 성능을 구현할 수 있다고 엔비디아 측은 주장했다.

엔비디아 엣지 스택은 주요 클라우드 IoT 서비스에 연결되며, 고객은 AWS IoT 그린그래스(AWS IoT Greengrass)와 마이크로소프트 애저 IoT 엣지(Microsoft Azure IoT Edge)에서 원격으로 서비스를 관리할 수 있다.

밥 피트 엔비디아 엔터프라이즈와 엣지 컴퓨팅 부문 부사장겸 총괄은 “기업들은 고객과 디바이스 간 무수한 상호작용으로부터 스트리밍되는 방대한 양의 로우 데이터(raw data)를 처리하기 위해 엣지에서 더 강력한 컴퓨팅을 필요로 하고 있다”면서 “엔비디아 EGX와 같은 확장 가능한 플랫폼은 온프레미스와 클라우드 환경 모두에서 시스템을 쉽게 구축함으로써 기업 요구사항을 충족시킬 수 있다“고 말했다.

김태환 테크엠 기자 kimthin@techm.kr