인공지능(AI) 컴퓨팅 기술기업 엔비디아가 실시간 대화형 AI를 통해 기업이 고객과 더 자연스럽게 소통할 수 있는 언어이해 모델을 14일 발표했다.

엔비디아 AI플랫폼은 현존하는 대화형 AI 중 제일 빠르고, 가장 방대한 언어모델을 지원한다.

우선 엔비디아의 AI 플랫폼은 최첨단 AI 언어모델 중 하나인 버트(Bidirectional Encoder Representations from Transformers, 이하 BERT)를 1시간 내에 훈련시킬 수 있다. 엔비디아 DGX 슈퍼POD를 통해 일주일 가량 소요되던 BERT-라지(BERT-Large)의 훈련 시간을 53분으로 단축했다.

또 엔비디아 텐서RT(TensorRT™)를 사용하는 엔비디아 T4 GPU를 통해 엔비디아는 BERT-베이스 스쿼드(BERT-Base SQuAD) 데이터세트를 단 2.2ms(밀리세컨드) 만에 인퍼런스했다.

아울러 엔비디아 플랫폼은 BERT에 사용되는 기술 빌딩 블록(building block)을 적용해 언어모델을 구축하고 훈련시켰다. 엔비디아의 맟춤형 모델은 83억개의 매개변수를 가졌으며, 이는 BERT-라지 크기의 24배다.

이를 통해 개발자는 세계에서 수억 명의 소비자가 사용할 수 있는 대규모 애플리케이션용 최신 언어이해 기능을 사용할 수 있다고 엔비디아 측은 설명했다.

브라이언 카탄자로 엔비디아 응용 딥 러닝 리서치 부사장은 “엔비디아는 대화용 AI 모델을 가속화하는 획기적인 작업을 통해 이전에는 상상도 못했던 방식으로 고객을 돕고, 이들을 기쁘게 할 수 있는 새로운 첨단 서비스를 만들 것”이라고 말했다.

김태환 테크엠 기자 kimthin@techm.kr