LG AI Research’s newly developed artificial intelligence (AI) model, K-EXAONE, has shown significant competitiveness in both domestic and international AI sectors as part of a national AI foundation model project.
The company reported that K-EXAONE excelled in the first-round evaluation of the government-backed initiative, achieving top scores in 10 out of 13 benchmark tests. The evaluation is set to conclude this month.
K-EXAONE achieved an average score of 72 points, marking it as the highest-performing model among five consortia involved in the project.
On the Artificial Analysis Intelligence Index, the model received a score of 32 points, ranking first in Korea and seventh globally among open-weight models, according to a global AI analysis platform. Notably, K-EXAONE was the only model outside of China and the U.S. to be included in the top 10, which featured six Chinese and three U.S. models.
Lee Jin-sik, leader of LG AI Research’s EXAONE Lab, stated that the model was developed within realistic timelines and infrastructure constraints, utilizing only about half of the available training data. He emphasized that this initial release serves as a foundation for future advancements.
Following the release of its open weights on the Hugging Face platform, K-EXAONE rose to No. 2 in the global model trend ranking, attracting considerable interest from AI researchers worldwide.
The model has also been recognized by a U.S. nonprofit AI research institute for its Notable AI Models list, making LG AI Research the first Korean company to have five models featured on this list, which is referenced in Stanford University’s annual AI reports.
K-EXAONE reflects five years of in-house research and development at LG AI Research, integrating proprietary technologies to enhance efficiency while reducing training and operational costs. The development team focused on re-engineering the model architecture rather than simply increasing data size.
The model employs an advanced version of hybrid attention to optimize information processing from large datasets. This mechanism combines sliding-window attention for localized focus with global attention for comprehensive context understanding, resulting in a 70 percent reduction in memory use and computational load compared to the previous model, Exaone 4.0.
K-EXAONE features a total of 236 billion parameters and utilizes a mixture-of-experts architecture, activating only about 23 billion parameters at any given time. Parameters are the internal variables that an AI model learns from data during training to make predictions.
An LG official remarked that K-EXAONE’s efficient architecture allows for high-level performance on A100-class graphics processing units without relying on costly infrastructure, enabling resource-limited organizations to deploy powerful large models and contributing to the growth of the domestic AI ecosystem.
LG AI 연구소의 새로운 인공지능(AI) 모델 K-EXAONE은 국가 AI 기본 모델 프로젝트를 위해 개발되었으며, 국내외 AI 분야에서 강력한 경쟁력을 보여주고 있다.
회사는 K-EXAONE이 정부 지원 AI 기본 모델 이니셔티브의 1차 평가에서 13개 벤치마크 테스트 중 10개에서 1위를 차지하며, 이 프로젝트는 이달 말 종료될 예정이다.
이 모델은 평균 72점을 기록하며, 프로젝트에 참여하는 5개 컨소시엄에서 가장 강력한 전체 성과를 나타냈다.
K-EXAONE은 글로벌 AI 분석 플랫폼에 따라 인공지능 분석 지수에서 32점을 기록하여 한국 1위, 세계 7위에 올랐다.
이 모델은 또한 상위 10위에 오른 비중국 및 비미국 모델 중 유일한 것으로, 리스트는 6개의 중국 모델과 3개의 미국 모델로 채워졌다.
LG AI 연구소 EXAONE랩의 이진식 팀장은 “모델 개발을 현실적인 일정과 인프라 제약 하에 계획하였고, K-EXAONE을 구축하기 위해 사용 가능한 훈련 데이터의 약 절반만 사용했다.”고 말했다.
“이번 첫 번째 출시가 최첨단 모델을 향한 출발점이며, 이 지점에서부터 성능을 크게 확대할 예정이다.”
K-EXAONE은 공개 가중치를 Hugging Face에 공개한 후, 해당 플랫폼의 글로벌 모델 트렌드 순위에서 2위로 올라서면서 전 세계 AI 연구자들의 강한 관심을 끌었다.
이 모델은 비영리 AI 연구 기관 Epoch AI의 주목할 만한 AI 모델 리스트에도 인정받았다. 이로써 LG AI 연구소는 EXAONE Deep 및 EXAONE 4.0을 포함하여 이 리스트에 5개의 모델을 올린 최초의 한국 기업이 되었다.
이 리스트는 스탠포드 대학교의 연례 AI 보고서에서 널리 참조되며, 국가 및 기업의 AI 경쟁력을 평가하는 기준으로 사용된다.
K-EXAONE은 LG AI 연구소의 5년간의 인하우스 기본 모델 연구개발의 성과로, 그 고유한 기술을 통합하여 더 낮은 훈련 및 운영 비용으로 높은 효율성을 달성하였다. 단순히 데이터 크기를 확장하는 대신, 팀은 모델 아키텍처 자체를 재설계하였다.
이 모델은 방대한 데이터 세트를 처리할 때 AI 모델이 집중해야 할 정보를 결정하는 고급 버전의 하이브리드 주의(attention) 메커니즘을 통합하였다.
LG AI 연구소는 지역적 초점을 위한 슬라이딩 윈도우 주의와 전체 맥락 이해를 위한 글로벌 주의를 결합하여 하이브리드 주의 메커니즘을 개선하였다. 이 접근 방식은 이전 모델인 Exaone 4.0과 비교하여 메모리 사용량과 계산 부하를 70% 줄였다.
K-EXAONE의 총 매개변수 수는 2360억 개이며, 혼합 전문가 아키텍처를 채택하여 한 번에 약 230억 개의 매개변수만 활성화된다. 매개변수는 AI 모델이 학습 중 데이터에서 예측을 할 수 있도록 학습하는 내부 변수이다.
LG 관계자는 “K-EXAONE의 효율적인 아키텍처는 초고가 인프라에 의존하지 않고도 A100급 그래픽 처리 장치에서도 최첨단 성능을 발휘한다. 이 설계는 자원이 제한된 조직들이 강력한 대형 모델을 배포할 수 있도록 하고, 국내 AI 생태계를 확장하는 데 기여할 것이다.”라고 밝혔다.