Azure Ignite 2022 Summary

sysmoon 22.12.19

1,958 12 1

facebook twitter kakao link

12 1

facebook twitter kakao link

Azure Ignite 2022 Summary

Introduce

Azure Ignite 2022 세션 중에 기술 관련 주요 내용을 정리해봤습니다.

살펴볼 내용은 Azure ARC, Elastic SAN, Cosmos DB for PostgreSQL, Microsoft Designer 입니다.

Azure ARC

Azure ARC는 Azure Anywhere 컨셉으로 Azure 는 어디에나 있고, 모든 제품군에 Azure 에이전트 솔루션을 탑재하여 Azure Public Cloud 환경에서 통합 관리할 수 있는 환경을 제공합니다.

On-premise, Edge Device (Rasp, Jetson Devices ..), Multi-cloud (AWS, Azure, GCP) 등 다양한 환경의 모든 머신들을 서로 연결하고, 통합 관리하여 하이브리드 클라우드를 구축하기 위한 기본 인프라 구성 환경을 쉽게 제공합니다.

Azure ARC 를 지원하는 다양한 대상들이 존재하고 그 중 SQL Server, Kubernetes, VM, Azure Stack HCI 등 여러가지가 있지만, 이 중에 Azure Arc-enabled Kubernetes 를 위한 솔루션이 많이 강화되고 있습니다.

또한 On-Premise 환경에서 이미 가지고 있는 서버와 네트워크 자원들에 Azure Stack 을 구축할 경우 Azure 에서 제공하는 다양한 클라우스 서비스 즉 VM, SQL, IotHub, EventHub 등을 구축 가능하고, 이를 Azure ARC 와 연동하여 하이브리드 클라우드 구성이 가능합니다.

즉 모든 곳에 Azure 를 설치하고, P2P 로 연결하고, Azure Public Cloud 환경에서 통합/관리하는 것이 Azure ARC의 목적입니다.

이러한 철학을 MS 엔지니어 분이 메타버스를 주제로 한 영화 Everything Everywhere All At Once 영화로 표현하네요. 멋진 표현인 것 같습니다.

개인적으로는 Azure ARC-enabled Kubernetes 를 이용하여 모델 학습/배포에 활용하고 있습니다. Azure ARC-enabled Kubernetes 적용시 여러 사이트에 분산된 Multi Kubernetes 환경을 Azure 환경에서 통합 관리가 가능합니다.

이를 잘 활용하면, On-Premise 쿠버네티스 GPU Cluster 환경에서 거대 모델을 학습하고, 이후 생성된 모델을 Blob 스토리지에 저장한 후, AML(Azure Machine Learning) Online endpoint 를 이용하여 쉽게 Serving 함으로써 고가용성을 제공하는 Inference Service 가 가능합니다.

결국 Public Cloud 인터페이스(AML Studio) 환경에서 학습 코드를 개발하고, 학습 과정은 On-Premise Kubernetes GPU Cluster 환경에서 실행 함으로써 비용과 시간을 절약하고, 이후 학습과정에서 생성된 모델을 Azure ML Endpoint 고가용성 환경에서 추론 서비스가 가능합니다. 이러한 Azure ARC 솔루션의 배경에는 사실 On-Premise 에서의 수많은 요구사항이 퍼블릭 클라우드와 상충하여 경쟁하는 부분이 많았고, 현재는 하이브리드 클라우드 컨셉으로 통합하여 흘러가는 틀랜드 입니다. 즉 사람들이 클라우드 도입시 비용을 걱정하고, 그 중에 특히 GPU 비용은 크리티컬 한데, 이러한 고객의 요구사항을 MSP 는 모두 알고 있고, 결국 Everything Everywhere All At Once 철학을 통해 고객의 진입장벽을 허물어 버립니다.

아래 그림은 이미 학습된 모델이 있다는 전제하에, AML Online Endpoint 서비스를 이용하여 다양한 GPU 컴퓨팅 환경 (F/N 시리즈 GPU Cluster)에 Blue/Green 배포하고, Traffic Management (추론 트래픽 분산) 를 통해 추론 테스트하는 과정을 보여줍니다. 이 환경을 통해 모델의 지속적인 개발/배포가 가능합니다.

https://techcommunity.microsoft.com/t5/image/serverpage/image-id/282439iF10292F821EBDBBB?v=v2

Elastic SAN

AKS 환경에서 Persistent Volume 을 위한 Storage Class 중에 크게 보면 Azure Managed Disk (디스크 볼륨), Azure Files(네트워크 스토리지) 를 제공하고 있습니다.

보통 대용량 데이터의 경우 스토리지 스케일링, 보안, 고가용성을 위해 Azure Files 를 많이 사용하는데 기존에는 SAN 급의 IOPS 를 지원하는 Storage Class 가 없었고, 이번 Ignite 2022에서 Elastic SAN 기능을 제공하는 것 같습니다.

결국 AKS 환경에서 Cloud-Native Fully Managed SAN 을 이용하여 초고속 IOPS 환경에서 PVC 볼륨 마운트 생성이 가능할 것 같습니다.

Cloud-Native Fully Managed SAN(Storage Area Network) 을 통해 빠른 속도, 가용성, 보안 기능을 제공하여 빅데이터를 위한 NoSQL, 모델 학습에 필요한 데이터 저장/관리 목적으로 활용 가능합니다. 대신 비용이 만만치 않을 것으로 판단합니다.

Cosmos DB for PostgreSQL

Azure Cosmos DB 하나의 DB Service 내에서 다양한 DB Engine (NoSQL, MongoDB .. ) API 를 제공하고 있었고, 이번에 MySQL 대비 복잡한 대용량 쿼리가 가능한 PostgreSQL API 서비스가 GA 된 것 같습니다.

Cloud PostgreSQL Managed 서비스가 필요한 분들께서는 참고하시면 도움이 되실듯 합니다.

Cosmos DB

Microsoft Designer

Mirosoft Designer 는 Dall-E 2 AI 모델에 의해 생성되는 AI 콘텐츠 생성 도구 입니다.

최근 Open AI, Stable Diffusion 에서 Text-To-Image 와 같이 키워드 방식으로 AI 이미지를 생성하여 컨텐츠를 디자인하기 위한 도구를 제공하고 있습니다.

특히 Stable Diffusion 을 쉽게 사용할 수 있도록 dstable-diffusion-webui 오픈소스를 이용하여 로컬환경에 설치하여 테스트가 가능한데, 비슷한 컨셉으로 쉽게 UI 웹사이트를 통해 AI 컨텐츠를 생성하고, 다지인 하기 위한 도구를 SaaS 형태의 Microsoft Designer 형태로 제공합니다.

홈페이지를 통해 MS 계정으로 가입하고, 이후 waitlist 에 추가 요청하면 테스트 가능한 환경을 메일로 수신받고, 이후 주요 기능 테스트가 가능한 것 같습니다.