DEVOCEAN

CXL (Compute Express Link) 개요

• GPU와 더불어 CPU(중앙처리장치), FPGA 등 다양한 메모리 간의 고속 인터페이스를 제공하는 칩입니다.

  컴퓨터 부품들 사이에 더 빠르고 효율적인 소통을 가능하게 하는 기술이며, CXL은 반도체 부품 간 데이터를 전송하는 PCle이란 기술을 기반으로 작동합니다.

• HBM 보다 제작 난이도가 낮고, HBM과 달리 GPU의 부품과도 연결이 용이해 대규모 데이터 처리 시스템 구축에 유리한 것으로 현재 평가 받고 있습니다.

• 대용량 데이터 처리가 필요한 AI 연산 시스템에 적용될 수 있으며, 여러 개의 메모리가 유기적으로 동작하게 함으로써 저장 공간 확장 및 데이터 이동 지연 시간을 줄여줍니다

• 고성능 연산이 필요한 애플리케이션에서 서로 다른 기종의 제품을 효율적으로 통신·연결할 수 있기 때문에 차세대 인터페이스 관심을 받고 있습니다.

• 보통 중앙처리장치(CPU) 1개당 사용할 수 있는 D램 모듈이 제한돼있습니다.

  이를 해결하기 위해 데이터 처리량을 늘리기 위해선 CPU를 늘려야 하고 CXL를 활용하면 이들 인터페이스를 하나로 통합해 장치 간 직접 통신을 가능하게 하고 메모리를 공유할 수 있게 됩니다.

CXL의 주요 특징

• 고속 데이터 전송

  - CXL은 기존의 데이터 전송 방식보다 훨씬 빠른 속도를 제공합니다.

  이는 대규모 데이터 처리가 필요한 AI, 머신러닝, 빅데이터 분석 등에 적합합니다.

  
  

• 캐시 일관성 제공

  - CXL은 여러 장치 간에 캐시 일관성을 자동으로 보장하여 불필요한 데이터 이동을 최소화하고 연산 처리 속도를 높입니다.

  
  

• 확장성과 유연성

  - CXL은 PCIe(Peripheral Component Interconnect Express) 기반으로, 시스템의 용량과 대역폭을 쉽게 확장할 수 있습니다.

  이를 통해 데이터센터 운영 효율성을 크게 높일 수 있습니다.

  
  

• CXL의 활용 분야

  - 고성능 컴퓨팅 및 데이터센터

  - CXL은 대규모 데이터를 빠르게 처리해야 하는 고성능 컴퓨팅 환경에서 중요한 역할을 합니다.

  메모리와 저장장치를 효율적으로 연결하여 운영 비용을 절감하고 지연 시간을 줄일 수 있습니다.

  
  

• AI 및 머신러닝

  - AI 가속기와 CPU를 동일한 인터페이스로 연결하여 연산 속도를 향상시키고, AI 모델 학습 및 추론 과정에서 효율성을 높입니다

CXL 기술의 메모리 공유

CXL(Compute Express Link) 기술은 메모리 공유를 지원하는 방식에서 몇 가지 중요한 기능을 제공합니다.

이러한 기능들은 데이터센터와 고성능 컴퓨팅 환경에서 메모리 자원의 효율적인 활용을 가능하게 합니다.

CXL의 메모리 공유 지원 방식

• 메모리 풀링(Pooling)

  CXL은 여러 호스트가 동일한 물리적 메모리 풀을 공유할 수 있도록 지원합니다.

  이를 통해 각 호스트는 자신의 필요에 맞게 메모리를 동적으로 할당받고 해제할 수 있습니다.

  이런 방법을 통해 메모리 자원의 활용도를 극대화하고, 필요에 따라 메모리를 유연하게 사용할 수 있도록 합니다.

  
  

• 캐시 일관성(Coherence)

  CXL은 CPU와 연결된 장치 간의 캐시 일관성을 유지하여, 데이터가 여러 장치 간에 일관되게 유지될 수 있도록 합니다.

  이런 방법은 데이터 이동을 줄이고 성능을 향상시키는 데 기여합니다.

  
  

• 다중 호스트 지원

  CXL 2.0 및 3.1은 여러 호스트가 하나의 메모리 공간을 일관되게 공유할 수 있는 기능을 제공합니다.

  이런 방법은 데이터센터 아키텍처의 유연성을 높이고, 서버 간의 자원 공유를 통해 총 소유 비용(TCO)을 절감할 수 있게 합니다.

CXL 1.1, 2.0 반도체의 구조도 (출처 : 삼성전자)