DEVOCEAN

용량 관점에서 특히 뛰어난 기술적 리더십으로, SK하이닉스의 HBM은 시장에서 유일한 선택지가 될 것으로 기대됩니다.

그러나 고용량 HBM이 성능 관점에서 어떠한 이득이 있는지에 대해서 명확하게 알아본 연구가 없습니다.

이번 발표에서 다양한 LLM 추론 학습 환경에서 고용량 HBM의 성능적 장점을 설명해 드리겠습니다.

전재영SK하이닉스

분산 컴퓨팅, 운영 체제, 메모리 관리, 메모리 계층 구조, 메모리 신뢰성, 하드웨어 로직 설계 등 시스템 아키텍처 분야에서 다양한 경험을 가지고 있습니다.

최근에는 대형 언어 모델(LLM) 시스템 분석에 집중하고 있습니다.

#LLM #Training #Inference #High capacity HBM