DEVOCEAN

SK하이닉스에서는 GPT와 같은 생성형 AI 모델의 한계를 극복 하기 위한 자사 PIM (AiM) 기반의 가속기 플랫폼을 소개합니다.

AiM은 SK하이닉스에서 개발한 PIM (Processing-in-Memory)으로, 전통적인 컴퓨터 구조에서 발생하는 데이터 전송 지연과 에너지 소비 문제를 해결하기 위한 차세대 메모리입니다.

SK하이닉스에서는 이러한 AiM을 기반으로 생성형 AI 모델을 위한 가속기 프로토타입을 개발하였습니다.

본 가속기를 통해 GPT와 같은 초거대 언어 모델에서 더 나은 성능을 보일 수 있으며, 에너지 소모를 크게 줄일 수 있습니다.

본 세션에서는 AiM 기반 가속기를 위해 개발한 HW와 SW 플랫폼을 소개하고, 생성형 AI 모델에서 GPU 기반 가속 솔루션 대비 효율성을 보여 주고자 합니다.

■ 발표자 소개

김일곤 (SK하이닉스)

2018년 부터 SK하이닉스에서 SK hynix PIM(AIM)개발에 참여하고 있으며, Reference Software 개발과 Workload 분석으로 SK hynix PIM(AIM) System Architecture 개발에 참여하고 있습니다.

Mobile SoC개발에서 GPU System Software를 담당했던 경력, 그리고 Mobile Phone을 양산했던 경험을 활용하고 있습니다.