LG AI연구원이 개발한 인공지능(AI) 모델 '엑사원(EXAONE) 3.0'에는 엔비디아의 GPU 기술이 중요한 역할을 했습니다.

엔비디아는 엑사원 3.0이 자사의 GPU인 H100과 네모(NeMo) 프레임워크를 기반으로 개발되었다고 밝혔습니다. 네모는 생성형 AI 모델을 구축하고 맞춤화하며 배포할 수 있는 엔드 투 엔드 프레임워크로, 데이터 처리부터 훈련, 추론까지의 거대 언어 모델(LLM) 개발 전반을 지원합니다. 이를 통해 엑사원 3.0은 멀티 노드, 멀티 GPU 환경에서 처리량을 극대화할 수 있었습니다.

또한 엑사원 3.0은 엔비디아의 텐서RT-LLM 소프트웨어 개발 도구(SDK)를 활용해 AI 모델의 추론 성능을 최적화하고 가속화했습니다.

LG AI연구원이 지난 8월 발표한 엑사원 3.0은 한국어와 영어, 코딩 등 다양한 벤치마크에서 글로벌 동급 모델인 메타의 라마(Llama)보다 우수한 성능을 보였으며, 특히 한국어와 영어에서 뛰어난 성능을 입증했습니다.

사진: 뉴스1