DEVOCEAN

PIM이란 무엇일까?

**Processing-In-Memory(PIM)**은 메모리 내부에 연산 기능(프로세싱 기능)을 탑재하여, 데이터를 이동시키지 않고 메모리 안에서 직접 처리하는 기술입니다.

즉, CPU나 GPU가 아닌 메모리 자체가 연산을 수행함으로써, 데이터 이동을 줄이고 처리 속도를 극대화하는 혁신적인 반도체 아키텍처입니다.

왜 갑자기 PIM울 사용하려 할까요?

여기서 먼저 알아야 할 내용이 바로

폰 노이만 구조입니다.

지금까지 대부분의 컴퓨터는 폰 노이만 구조라는 구조를 사용해 왔습니다.

이 구조는 프로세서(CPU)와 메모리(DRAM)가 분리되어 있고, 데이터는 메모리에서 CPU로 오가며 처리되는 구조입니다.

폰노이만 구조 예시

이런 구조에서는 데이터가 증가할 때 큰 세가지 문제가 발생 할 수 있습니다.

• 병목 현상: 데이터를 메모리에서 CPU로 가져오는 데 시간이 증가

• 전력 소모: 데이터 이동에 많은 전력 소모

• 속도 제한: 연산보다 데이터 전송 속도 저하로 전체 시스템 속도 제약

위와 같은 폰 노이만 구조는 요즘 같은 인공지능, 빅데이터 분석, 머신러닝 등 데이터를 실시간으로 많이 처리 해야하는 상황에서 심각한 성능 저하와 전력 소모가 발생하게 됩니다.

이러한 문제를 해결하기 위해 PIM 반도체가 등장합니다.

PIM

PIM은 말 그대로 메모리 내부에서 연산을 수행한다(Processing In Memory)는 개념입니다.

기존에는 기존에는 메모리는 데이터를 저장하는 역할만 하고, 연산은 CPU가 담당했습니다.

하지만 PIM은 메모리 칩 내부에 연산 기능을 통합하여, 데이터를 CPU로 보내지 않고도 메모리 자체에서 직접 계산을 수행할 수 있도록 작동하는 반도체입니다.

기존 반도체와 PIM 비교

PIM 기술의 종류와 접근 방식

PIM은 구현 방식은 크게 두 가지 방식으로 나눌 수 있습니다.

메모리 내 연산 유닛 추가(Near Memory Computing):

• 기존 메모리 칩 내부에 간단한 연산 유닛(ALU: Arithmetic Logic Unit)을 추가하는 방식입니다.

  DRAM과 같은 범용 메모리 칩에 작은 프로세서를 넣어 데이터를 읽고 쓰는 과정에서 간단한 연산을 수행합니다.

*ALU(산술 논리 연산 장치, Arithmetic Logic Unit)는 컴퓨터나 반도체 시스템에서 덧셈, 뺄셈 같은 산술 연산과 AND, OR 같은 논리 연산을 수행하는 부품

연산 로직을 메모리 셀 자체에 통합(In-Memory Computing):

• 더 나아가 메모리 셀 자체의 물리적 특성을 활용하여 연산을 수행하는 방식입니다.

  예를 들어, 저항성 메모리(ReRAM)나 상변화 메모리(PRAM)와 같은 차세대 비휘발성 메모리(NVM)는 데이터를 저장하는 동시에 논리 연산을 수행할 수 있는 잠재력을 가지고 있습니다.

  이 기술이 최종 PIM의 지향점이라고 할 수 있습니다.

PIM의 전망

삼성전자, SK하이닉스와 같은 기업들도 HBM-PIM, GDDR6-AIM 등 독자적인 PIM 솔루션을 선보이며 기술을 선도하고 있습니다.

또한 PIM은 메모리나 프로세서의 성능 개선과 컴퓨터 아키텍처의 근본적인 변화를 가져올 수 있습니다.