DEVOCEAN

AI 데이터 센터를 구축한 후, AI 서비스의 개발, 학습, 추론을 위해서는 다양한 형태의 GPU 및 클라우드 자원, 그리고 이를 지원하는 솔루션이 필요합니다.

SK텔레콤의 GPUaaS 시스템은 고객이 AI 서비스 개발, 학습, 추론 등 원하는 용도에 맞춰 필요한 GPU 자원을 온디맨드로 제공하거나, 더 큰 규모의 GPU 자원을 약정 기간 동안 전용으로 사용할 수 있도록 지원합니다.

또한 다양한 AI/ML 솔루션도 함께 제공됩니다. 이러한 GPUaaS 서비스를 제공하기 위해서는 인프라부터 관리에 이르는 전체 소프트웨어 스택이 필요합니다.

이번 발표에서는 SK텔레콤이 구상하는 GPUaaS Full Stack과 각 영역별 구현을 위한 연구 및 개발 방향에 대해 설명할 예정입니다.

변상윤SK텔레콤

SK텔레콤의 AI Cloud 개발팀에서 근무하며, 클라우드 네이티브 기술과 AI/ML 인프라 구축에 주력하고 있습니다.

주요 업무 영역으로는 AI 학습 및 추론을 위한 고성능 플랫폼 개발, 클라우드 환경에서 수집된 메트릭을 기반으로한 이상 탐지 시스템 개발 등이 있습니다.

특히 AI 워크로드에 최적화된 Kubernetes 클러스터 관리와 MLOps 파이프라인 구축에 중점을 두고 있으며, 이를 통해 AI 모델의 개발부터 배포, 모니터링까지 전 과정을 효율화하고 있습니다.

Kubernetes(K8S)를 비롯한 최신 클라우드 기술을 활용하여 확장 가능하고 효율적인 AI 클라우드 인프라를 설계하고 구현하는 데 전문성을 갖추고 있고, 클라우드 환경의 ARM 아키텍처 기반 인스턴스,

특히 AWS Graviton을 활용한 AI 워크로드 최적화에 기여하고 있습니다.

#GPUaaS #AI Cloud #Training/Inference Infrastructure #AI/ML Ops #Hybrid Cloud