[헬로티]

막대한 수요가 예상되는 인공지능 기반 추천시스템 가속기 세계시장 선점 기대

KAIST 연구진이 세계 최초로 `프로세싱-인-메모리(Processing-In-Memory, 이하 PIM)' 기술을 기반으로 한 인공지능 추천시스템 학습 알고리즘 가속에 최적화된 지능형 반도체 시스템 개발에 성공했다.  

KAIST(총장 신성철)는 전기및전자공학부 유민수 교수 연구팀이 PIM 기술 기반의 메모리-중심 인공지능 가속기 반도체 시스템을 개발했다고 16일 밝혔다. 

유민수 교수 연구팀은 최근 메모리 반도체에 인공지능 연산 기능이 추가된 프로세싱-인-메모리(PIM) 기술 기반의 지능형 반도체 시스템을 개발하는 데 성공했다. 

추천 인공지능의 경우 많은 수의 임베딩을 학습하는 과정이 주된 병목을 야기한다. 본 연구에서는 임베딩의 학습과정에서 수행되는 모든 연산을 단일 연산으로 변환 할 수 있는 알고리즘을 개발하였다. 

그림. 기존 딥러닝 학습 가속기 시스템에 PIM기술을 적용한 가속기 시스템의 모식도

해당 알고리즘은 기존 방식에 비해 메모리 대역폭 사용량을 크게 줄임과 동시에 수행되는 연산을 단일화하여 효율적인 하드웨어 가속기 구현을 가능하게 한다. 해당 알고리즘을 기반으로 하드웨어 복잡도가 크게 감소한 임베딩 가속 장치를 기존 상용화된 메모리 장치에 추가하는 방식으로 임베딩의 저장 및 연산을 동시에 효과적으로 수행할 수 있는 가속 장치를 개발하였으며, 이를 활용한 가속기 시스템 구축을 통해 대규모 추천 인공지능 학습 과정을 최대 21배까지 가속할 수 있음을 보였다.

유 교수팀이 개발한 이 시스템은 인공지능 추천시스템 알고리즘의 학습 과정을 엔비디아(NVIDIA)의 그래픽카드(GPU)를 사용하는 기존 인공지능 가속 시스템 대비 최대 21배까지 빠르다고 연구팀 관계자는 설명했다. 

지능형 메모리 반도체 기술은 우리나라의 AI 반도체 세계시장 공략을 위한 핵심기술로 주목받고 있다. 특히 정부에서도 `AI 종합 반도체 강국 실현'이라는 비전 아래 막대한 국가적 투자를 아끼지 않는 핵심 투자 분야다. 따라서 유 교수팀의 연구 성과는 향후 막대한 수요와 급성장이 예상되는 세계 AI 반도체 시장에서 메모리-중심으로 설계된 PIM 기술의 상용화 및 성공 가능성을 시사한다는 점에서 의미가 크다고 전문가들은 평가하고 있다.