DEVOCEAN

배경

많은 사람들이 자신도 모르는 사이에 AI 서비스를 경험하고 소비하는 시대를 눈앞에 두고 있습니다. 그런데, AI 모델 트레이닝과 서비스를 제공하기 위해서는 단순한 일반 연산 작업에 비해 많은 양의 컴퓨터 자원과 전력이 필요합니다.

2025년까지 전 세계 전력의 15%를 소비 할 것이라고 전망하기도 합니다. ^[1] 그대로 두면 AI는 가상 화폐와 함께 곧 기후 온난화의 주범이 될 수도 있을 것 같습니다.

애초에 AI와 같은 복잡한 대규모 연산을 수행하는 목적으로 최적화하여어 개발한 장치가 아니라서 가지는 그 태생적 한계로 CPU와 GPU는 폭증하는 AI 수요에 부응하기에는 성능과 전력 사용량 측면에서 비효율적입니다. 이제 작은 양의 전력으로 대규모의 복잡한 연산을 빠르게 수행하는 AI에 특화된 AI Chip (AI 반도체)이 필요합니다.

상세 소개

SAPEON은 SK텔레콤에서 자체 개발한 AI Chip (AI 반도체) 브랜드 입니다.

'SAPEON'은 인류를 뜻하는 'SAPiens(사피엔스)'와 영겁의 시간을 뜻하는 'aEON(이온)'의 합성어로, 인류에게 AI 반도체 기반 인공지능 혁신의 혜택을 지속 제공하고자 하는 의지를 담았습니다.

2017년부터 4년간의 연구 개발을 통해 2020년 11월 한국 최초의 데이터 센터용 AI Chip인 SAPEON X220 출시하였습니다.

SAPEON X220

AI 데이터 센터의 성능을 향상시켜 고품질 AI 서비스를 제공할 수 있도록 하는 추론용 AI Chip (28nm ASIC Chip) 입니다.

• 성능

  AI 연산에 적합하도록 동시 다발적 데이터 처리에 데이터 처리 역량 대부분을 활용하는 컴퓨터 아키텍처인 NPU(Neural Processing Unit)구조로 설계해 GPU 대비 뛰어난 처리 성능을 보여줍니다.

  연산 성능 : 6.7KFPS (1초당 6700개의 이미지를 처리)
  기존 GPU (그래픽처리장치) 대비 딥러닝 연산 속도가 1.5배 빠름

• 전력 효율성

  AI 연산에 불필요한 기능은 제거하고 필요한 기능만을 최적화하여 기존 GPU 대비 전력소모를 확 줄였습니다.

  전력 사용량 : 60W (모든 회로가 동작 시, 백열 전구 한 개 수준)
  가격은 GPU의 절반 수준이고 전력 사용량은 80%에 불과

• 범용성

  프로그래밍 가능한 벡터 연산 유닛을 내장하여 각종 레이어 연산 및 활성 함수, 배치 정규화 등 다양한 인공 신경망을 자유롭게 지원합니다. 이를 통해 음성인식/합성, 이미지 분석/분류, 번역, Q&A 등 AI 가 활용되는 모든 분야에 적용할 수 있습니다.

• AIaaS (AI as a Service)로 제공하고 있습니다.
  AI 반도체만 필요한 기업의 경우에는 SAPEON 제품을 활용하여 자체적으로 인프라를 구성하도록 하고, 인프라 외에도 AI 알고리즘 및 서비스를 신규로 구성해야 하는 어려움을 겪고 있는 기업들을 위해서는 SAPEON 기반으로 동작하는 산업별 맞춤 통합 솔루션을 'AIaaS(AI as a Service)'로도 개발하여 제공하고 있습니다. (예: SAPEON 기반 AI 미디어 추천 서비스, SAPEON 기반 AI 영상보안 서비스 등)

• SAPEON 기반 동작하는 AI 기반 콘텐츠 추천, 음성 인식, 영상 인식, 영상화질 개선 등 다양한 AI 서비스와 접목하고자 하며 SK텔레콤이 보유한 세계 최고 수준의 5G MEC (Mobile Edge Cloud) 기술과 AI 반도체를 접목하여 서비스 제공이 가능합니다. AI 반도체를 MEC 서버에 적용하면, 고객은 초저지연 통신을 기반으로 높은 수준의 AI 서비스를 이용할 수 있습니다.

•  

기대와 전망

AI 연구자는 고성능의 장비로 AI 연구를 수행할 수 있어 AI 모델링 및 서비스에 소요되는 시간을 절약할 수 있으며, AI를 도입하고 싶지만, 비싼 GPU 가격과 큰 전력 사용량으로 인해 운영 비용에 부담을 느끼고 있던 기업의 경우, GPU 대비 저렴하지만 고성능의 SAPEON을 활용해 적은 전력 소비량으로 AI 트레이닝 및 서비스를 구현하여 도입 및 운영 비용을 절감할 수 있습니다. 또한 환경면에서는 전력 사용량 감소로 사회 전반에서 AI 로 인해 발생하는 온실 가스 배출을 억제 시키게 됩니다.

References

• [1] Chip Industry Sees Danger of AI in Explosion of Electricity Use. In Bloomberg
• [2] South Korea Unveils AI Chip to Maintain Semiconductor Leadership. In Bloomberg
• [3] SK Telecom: AI chip will give us edge over 5G rivals. In S&P Global