DEVOCEAN

안녕하세요!

데보션 오픈랩 2기의 Cloud에서 AI 활용하기(feat. AWS Certi ML 취득)에 참여하고 있는 정승환입니다.

벌써 다섯 번째 모임이네요.

열심히 공부했던 첫 번째 교재의 마지막 장을 담당하게 되었습니다. ✨

이번 모임은 Chapter 9, 10에 대해 공부해오는 것이었습니다.

아쉽게도 9장을 맡아주신 강민정님께서 개인 사정으로 발표를 진행하기 어려워 이번 모임에서는 제가 10장 발표만 진행했습니다.

그간 데이터를 수집하고 가공하는 전처리 과정을 거치고, 적당한 알고리즘을 선택하고 모델을 훈련시키고, 평가를 진행했다면! 이제 무엇을 해야할까요?

바로 배포를 진행해서 외부에서도 해당 모델을 사용할 수 있게 해야 합니다 😊

ML 모델을 배포할 때는 여러 가지 고려사항이 있습니다.:

확장성: 트래픽이 갑자기 늘어나도 처리할 수 있나요?

실시간/배치 추론: 즉각적인 응답이 필요한가요, 아니면 대량 처리가 필요한가요?

인프라 관리: 직접 관리할까요, 아니면 관리형 서비스를 이용할까요?

비용: 사용량에 따른 과금이 효율적일까요? 🤔

이러한 요구사항들을 고려해서 SageMaker에서는 세 가지 주요 배포 옵션을 제공합니다:

Real-time endpoint deployment: 이미지 분류처럼 즉각적인 예측이 필요한 경우 사용됩니다

Batch transform job: 대량의 데이터셋을 한 번에 처리할 때 활용됩니다

Multi-model endpoint deployment: 여러 버전의 모델을 하나의 엔드포인트에서 서비스할 수 있습니다 🚀

하지만 제가 공부하면서 가장 흥미를 느낀 부분은 따로 있습니다.

"실제로 배포된 모델은 어떤 형태의 서비스를 제공할까?" 라는 궁금증이 생겼고, 서버리스 아키텍처를 활용한 실제 사례들을 찾아보았습니다!

Amazon SageMaker 의 JumpStart 를 이용한 이미지 배경 제거 서비스

https://aws.amazon.com/ko/blogs/architecture/image-background-removal-using-amazon-sagemaker-semantic-segmentation/

의료 분야에서는 AWS HealthImaging과 SageMaker를 결합해 X-ray 이미지를 분석하는 워크플로우

https://aws.amazon.com/ko/blogs/architecture/improving-medical-imaging-workflows-with-aws-healthimaging-and-sagemaker/

이러한 서비스들은 모두 AWS Lambda를 활용한 서버리스 아키텍처로 구현되어 있는데요.

Lambda를 사용하면 서버 관리 없이도 자동으로 확장되고, 사용량에 따라 과금되어 효율적입니다.

게다가 Step Functions를 활용하면 여러 Lambda 함수들을 순차적으로 실행할 수 있어 복잡한 워크플로우도 쉽게 구성할 수 있죠! 💫

실제 서비스 사례들을 보니 ML 모델 배포가 더 흥미진진하게 느껴지네요. 다음에는 어떤 서비스를 만나볼 수 있을지 기대됩니다!

그동안 발표를 듣는 입장에서 하는 입장이 되니까 엄청 떨려서 발표를 너무 빨리 진행했던 기억밖에 안남아있습니다ㅎㅎ

다음 모임부터는 아마 새로운 교재로 학습을 이어가게 될 것 같네요. 🎉

다음 포스팅도 기대해주세요! 😊