DEVOCEAN

이번 발표에서는 다수의 고객이 온디맨드로 AI 인프라를 활용하는 환경에서, 고성능·고효율의 고객 전용 GPU 클러스터를 구축하는 기술을 소개합니다.

AI 모델의 복잡성이 증가함에 따라 GPU 간 데이터 전송 속도를 극대화하는 인프라 기술의 중요성도 커지고 있습니다.

이를 위한 기반 기술인 NVLink와 RDMA를 살펴보고, 나아가 이렇게 엮은 GPU 클러스터를 가상화하여 다수의 고객이 동적으로 AI 인프라의 GPU 자원을 효율적으로 공유하는 기술도 소개합니다.

AI 인프라에 유연성과 확장성을 더해 고가의 GPU를 비용 효율적으로 활용할 수 있게 하는 이 기술을 개발하면서 얻은 경험을 공유하고자 합니다.

김태경SK텔레콤

클라우드 환경의 네트워크 인프라를 연구하고 개발하고 있는 김태경입니다.

AI DC 가상화 솔루션인 Petasus Cloud를 갈고 닦으며 빠르고 가성비 좋은 인프라를 제공하려고 노력하고 있습니다.

서비스 개발자 분들의 고민 리스트에서 인프라 구축/운영이 사라지는 날까지 열심히 달려보겠습니다.

이건SK텔레콤

실리콘밸리에서 소프트웨어 정의 네트워크 (SDN) 관련 오픈소스 개발자로 활동하다 이동통신사 인프라를 가상화하자는 큰 꿈을 갖고 2018년 SK텔레콤에 입사하였습니다.

네트워크 소프트웨어 개발이 주 특기이지만, 네트워크를 베이스로하여 인프라 전반에 걸쳐 다양한 개발을 진행하고 있습니다.

최근 절대 죽지 않는 저전력, 고성능 인프라 소프트웨어를 개발하자는 큰 꿈을 가지고 AI Infra S/W 내재화 개발을 진행하고 있습니다.

주 개발 언어가 Java, C++이나, 최근 트랜드에 맞춰 golang, python 등 다양한 언어도 다루고 있습니다.

#GPU Clustering #GPU Fabric #NVLink #AI Cloud