DEVOCEAN

안녕하세요, 도선입니다.

저는 SK텔레콤에서 Cloud Radar의 AI/ML 서비스를 개발 및 운영하고 있습니다.

FinOps 플랫폼인 Cloud Radar는 SKT의 Cloud 고객에게 제공하는 CMP(Cloud Management Platform) 솔루션의 이름 입니다.

작년에는 Cloud 비용 절감을 위한 자원최적화, 약정최적화, Cost Explorer & Report 등 다양한 기능이 추가 개발되었습니다.

그리고 제품의 우수성을 인정 받아서 2024 MWC에서 GLOMO 어워드를 수상하였습니다. 구성원의 한사람으로써 매우 자랑스럽고 뿌듯함을 느낍니다.

이런 말씀을 드린 이유는 이번 포스팅에서 Cloud 비용 절감과 관련된 이야기를 하려고 하기 때문입니다.

주요 내용은 Cloud 비용 절감이 중요한 이유, 그런데 잘 안되는 이유, 그리고 비용 절감을 잘하기 위한 관리 요소 들에 대해서 이야기 해 보려 합니다.

그럼 시작해 보겠습니다.

본 내용은 일하면서 느낀 개인적인 견해임을 먼저 말씀 드립니다. 따라서 내용이 보이는 것 보다 가까이 있을 수 있습니다. 좋은 의견 주시면 보완 하겠습니다.

또한 이번 포스팅에서는 각 제품/서비스에 대한 비용절감 방법 보다는 전반적인 내용과 비용 관리 요소에 대해서 알아볼 예정입니다.

1.Cloud 비용 절감이 왜 중요한가?

2.Cloud 비용 절감이 잘 안되는 이유

3.Cloud 비용 관리 요소

4.마치며…

1.Cloud 비용 절감이 왜 중요한가?

현재 클라우드를 사용하는 대부분의 기업에 있어서 클라우드 비용 최적화는 절대적으로 중요한 요소가 되었습니다.

Cloud 비용 최적화 또는 비용 절감이 중요해진 이유에는 경영환경의 변화, 클라우드의 도입/운영의 증가, 그리고 클라우드의 특성을 들 수 있습니다.

경영환경의 변화

가장 큰 이유는 비용절감이 기업 경영에 있어서 더욱 중요해졌기 때문입니다.

2022년 코로나 발생으로 인해 전세계에서 인프레이션이 확대 되었으며, 이로 인해 물가가 오르고, 원자재와 같은 생산 원가가 높아 졌기 때문에 많은 기업에서 비용의 압박을 느끼고 있습니다.

또한 이처럼 생산원가가 높은 환경에서는 비용 절감이 곧 기업 경쟁력과 직결되기 때문에 더욱 중요성이 높아지고 있습니다.

예를들어 비용을 줄일 수 있으면 수율이 높아져서 가격 경쟁력이 생기고 매출이 증대 됩니다.

또한 절감한 비용으로 다른 곳에 투자하여 차별적 경쟁력을 확보할 수 있고 이로써 지속적인 경쟁 우위를 유지할 수 있습니다.

클라우드의 도입/운영 증가

클라우드는 기업이 더 빠르게 성장하고 변화에 대응할 수 있도록 시스템 개발 및 운영에 있어서 유연성과 확장성을 제공합니다.

이러한 강점을 바탕으로해서 많은 기업에서 도입 및 적용하여 요즘은 클라우드를 안쓰는 기업이 거의 없습니다.

대부분의 기업이 많은 시스템 중에서 작은 부분이라도 클라우드를 도입해서 운영하고 있습니다.

즉, 많은 기업에서 클라우드를 사용하기 때문에 많은 영역에서 클라우드 비용절감이 점점 더 중요해진 것 입니다.

특히 클라우드를 도입하고 운영하다보면 (빠른 서비스 개발, 조직 이슈 등) 다양한 이유로 인해서 자원을 최적화 하지 못하고 운영하는 경우가 발생할 수 있습니다.

그래서 비용 절감/최적화에 대한 중요성은 더욱 높아지게 됩니다.

클라우드 특성

마지막으로 클라우드 특성 때문에 비용절감의 중요성이 더욱 높아졌습니다. 여기서 말하는 클라우드 특성은 바로 유연성과 확장성 입니다.

클라우드는 기업에게 시스템 개발/운영의 유연성과 확장성을 제공합니다. 클릭 한두번으로 자원을 생성할 수 있지요.

즉, 쉽고 빠르게 개발하고 확장 할 수 있습니다. 그러나 이러한 유연성은 동시에 예상치 못한 비용 증가로 이어질 수 있습니다.

다시 말하면, 구축 초기에는 쉽고 빠르게 자원을 생성하고 사용할 수 있지만,

단순하게 구축한 초기 시스템은 사용이 늘어나면서 비효율적인 구조가 될 수 있고 이로 인해 많은 비용이 발생할 수 있습니다.

(바꾸어 말하면, 비용절감 포인트가 늘어나게 됩니다.)

예를들어 간단한 웹 어플리케이션을 생각해 보시지요.

국내, 소규모 사용자를 위해서 3-tier 구조의 어플리케이션으로 구성한다면 초기에는 시스템 운영에 문제가 없겠지만,

전세계에서 사용자의 증가에 따라 여러 지역에서도 동일한 구조의 자원을 만들고 운영한다면 비효율이 발생해서 비용이 급격히 증가 할 것입니다.

이 때, 적절한 시스템 구조로 변경하고 효과적인 자원으로 재구성 한다면 많은 비용을 절감 할 수 있다는 것을 우리는 알고 있습니다.

이와 같이 ‘경영환경의 변화’와 ‘클라우드 사용의 증가’, 그리고 ‘클라우드의 특성’ 때문에 Cloud 비용 절감이 기업 경영에 있어서 매우 중요한 요소가 되었습니다.

2.Cloud 비용 절감이 잘 안되는 이유

클라우드 비용절감이 이렇게 중요한데 그럼에도 불구하고 잘 안되는 이유는 무엇일까요?

주요 원인은 지식과 경험의 부족, 도구의 부족, 그리고 Governance의 부족으로 생각됩니다.

지식과 경험 부족

비용절감을 위해는 어플리케이션 시스템 뿐만 아니라 CSP(Cloud Service Provider : AWS, Azure, GCP 등)에서

제공하는 서비스에 대한 이해와 각 제품/서비스별 가격과 비용 효과적인 방법 등을 알고 있어야 합니다.

AWS 서울 리전에서 제공되는 클라우드 서비스가 188개에 달하는 것을 감안할 때, 이처럼 다양한 서비스를 모두 잘 이해하고 적절히 활용하는 것은 쉬운 일이 아닙니다.

비용 절감을 잘 하기 위해서는 이런 많은 서비스에 대한 상세한 지식을 잘 알고 효율적으로 사용할 수 있어야 하기 때문에 비용 절감이 어렵습니다.

또한 CSP에서 다양한 비용 절감 방법을 제공하더라도 실제로 적용해 본 경험이 부족하면 비용을 절감하기 어렵습니다.

예를 들면 CSP에서는 다양한 약정(RI, SP) 요금제를 제공하고 있지만 어떠한 약정 옵션으로 어느 정도를 구매해야 효율적인지를 검토하는 것은

약정에 대한 상세 지식과 함께 이전에 구매해본 경험이 없다면 쉽지 않은 일입니다.

이처럼 비용 절감을 위해서는 많은 지식과 경험이 필요하지만 현업에서는 이런 전문가를 찾아보기 어렵습니다.

다시말하면, CSP에서 제공하는 서비스에 대한 지식을 축적하고 현업에서 다양한 사용을 통해 효과를 검증해 본 경험이 부족하기 때문에 비용절감은 어려운 일 입니다.

도구 부족

지식과 경험 부족을 극복하고자 클라우드 서비스 제공 업체(CSP)는 다양한 비용 관련 서비스를 제공하고 있습니다.

AWS 의 Cost Explorer, Budgets 등이 그 예입니다. 그러나 이러한 도구만으로는 비용 절감의 핵심 포인트를 파악하고 대응하기에는 쉽지 않습니다.

왜냐하면 앞서 말한 것처럼 Cloud 관련 높은 수준의 지식과 경험이 있어야 이러한 도구를 이해하고 사용할 수 있기 때문입니다.

다른 말로 이야기 하면 기존의 도구는 부족한 지식과 경험을 가진 사람에게는 활용하기 어렵습니다.

따라서 일반 IT기획/관리자나 개발자, 및 운영자도 쉽게 개선 포인트를 찾고 분석할 수 있는 도구가 필요합니다.

이처럼 보다 효과적인 도구의 예로 적합한 것이 바로 AWS에서 제공하는 Trusted Advisor와 같은 서비스입니다.

Trusted Advisor 는 비용 효율성 최적화와 관련해서 미사용 자원을 기준에 따라 식별하고 사용자에게 알려줍니다.

(비용 뿐만 아니라 보안, 성능, 안정성 등 다양한 범주에서 모범사례와 비교한 결과를 제공합니다.) 그래서 사용자가 조금 더 쉽게 비용을 최적화 할 수 있도록 도와 줍니다.

Governance 부족

클라우드 비용 절감에 대한 지식과 경험이 있고 적절한 도구가 있다고 하여도 전략 방향에 맞는 Governance 가 없거나 잘 관리되지 않으면 최적의 비용 절감이 어렵습니다.

즉, Goverance가 부족하면 비용 절감의 방향성과 목표, 실행을 위한 정책, 기준, 절차 등이 모호하여 최적의 비용 절감이 어렵습니다.

정책에 따라 균형잡힌 예산 계획이 필요하고, 기준과 절차에 따라 예산을 통제함으로써 비용 절감 목표를 달성할 수 있습니다.

또한 클라우드 비용 현황, 절감 방법 및 사례공유 등 클라우드 비용 절감을 위한 문화를 조성하고 확대하는 것도 비용 절감을 위해 매우 중요하다고 하겠습니다.

이러한 비용 Governance를 수립하고 추진함으로써 비용 관리에 대한 일관성을 유지하고 최적화하여 비용 절감 목표를 달성 할 수 있습니다.

현업에서는 서비스 운영을 위해 필수적이라는 이유로 가끔 비용절감을 위한 개선 적용을 미루거나 미적용하는 경우도 있지만,

안정성이나 업무에 방해를 주지 않으면서도 비용을 절감할 수 있는 다양한 방법이 있음에도 불구하고 Governance가 부족하여 못하는 경우가 종종 있습니다.

이런 것을 보면 Governance의 성과는 끈임없는 소통과 노력의 결과인 것 같습니다.

3.Cloud 비용 관리 요소

이처럼 중요하고, 그러나 어려운 클라우드 비용절감을 위해서 다양한 절감 방법이 적용될 수 있습니다.

더 많은 방법들이 있지만 주요한 것 들은 다음의 5가지 관리 요소로 분류 될 수 있습니다.(비용 최적화 관리 요소 및 방법)

여기서 도구에 해당하는 서비스는 AWS를 기준으로 설명하겠습니다.

가. 비용 Governance 관리

비용 절감이 어려운 이유에서도 말한 것 처럼 Governance 관리가 중요합니다. 비용 절감을 위해서 CSP가 제공하는 비용 관련 서비스를 잘 이해하고 사용하는 것은 중요합니다.

그 뿐만 아니라 관리적 측면에서 비용과 관련된 Governance를 수립하고 운영하는 것 또한 매우 중요합니다.

비용 관련 서비스 들도 결국에는 경영목표 달성을 위해서 클라우드 비용을 어떤 목표로,

어떻게 비용 계획을 수립하고 사용관리하는 것이 좋은지, 그리고 정책과 기준, 절차 등을 수립하고 조직 내에서 잘 적용될 수 있도록 촉진하는 것 또한 매우 중요합니다.

이에 필요한 제반 활동을 비용 Governance라고 하겠습니다. 이와 관련된 주요 영역 및 활동들은 아래와 같습니다.

• 비용 관리 정책/기준/절차 수립 및 준수 관리 (비용 계획 수립/검토/실행/Feedback)

• 비용 최적화 문화 구축(교육, 행사, 환경 구축)

• 비용 가시성 확보(정기적인 비용 사용 현황 공유/보고)

• 비용 최적화 방법/서비스의 효과 검증 및 적용 확산

• CSP 제공 혜택 프로그램 활용 검토

• 정기적으로 CSP 가격 정책/변경 검토

• FinOps 컨설팅 수행

나. 예산 관리

클라우드에 사용되는 비용을 절감하기 위해서는 결국 비용에 대한 계획과 관리가 필요합니다.

Governance에서 관리를 위한 뼈대를 만들었다면 여기서는 살을 붙여서 실제로 동작하게 만듭니다.

즉, Governance에서 어디에 얼마가 필요한지 잘 파악하고 미리 계획을 잘 세웠다면,

예산 관리 요소에서는 계획한 대로 잘 사용되고 있는지를 항상 모니터링하고 계획과 절차에 맞게 집행될 수 있도록 관리하는 것입니다.

이를 위해서는 사용되는 비용을 시각화하는 것이 매우 중요합니다. 잘 보여야 관리할 수 있기 때문이지요. 이러한 관점에서 활용 기능한 방법(서비스) 들은 아래와 같습니다.

• 예산 수립 : Pricing Calculator

• 사용량 모니터링 및 분석 : Cost Explorer 사용

• 비용 관리 도구 사용 : Budgets 사용

• 비용 예측 및 예산 설정 : Forecast/Budgets 사용

다. 자원 최적화 관리

비용을 절감하기 위해서 사용중인 자원을 최적화 하는 것은 매우 직접적이고 효과적인 성과를 만들어냅니다. 그 만큼 매우 중요한 부분이라고 할 수 있습니다.

필요 이상의 자원을 쓰고 있지는 않는지, 불필요한(안쓰는) 자원은 없는지, 비용 절감에 더 효율적인 서비스나 구현 방법이 없는지 등을 고민하고 적용함으로써 많은 비용을 절감할 수 있습니다.

다음은 자원 최적화를 위해 예상되는 주요 방법 및 내역입니다.

• 리소스 크기 조정 : CPU, 메모리 등의 사용율을 분석하여 적정한 크기로 조정을 검토 합니다.

• 미사용 자원 삭제 : 접속/사용 로그를 바탕으로 사용 여부를 확인하여 미사용 시 삭제를 검토 합니다.

• 스팟 인스턴스 활용 : 개발 환경의 인스턴스, 배치 프로세스 등 중단 가능한 워크로드에 스팟 인스턴스 활용을 검토합니다.

• Auto Scaling 구현 : ECS, EKS 등을 사용하여 워크로드에 따라 자원을 자동 조정 할 수 있는지 검토합니다.

• Auto Stop 구현 : 미사용시 자원을 중지 시키고 필요할 때 다시 실행 시킴으로써 비용 절감을 검토합니다.

• 자원 Scheduling : 주기적으로 사용하는 리소스를 자동으로 시작, 중지하여 비용 절감을 검토합니다.

• 스토리지 최적화 : 데이터의 사용주기, 크기, 제공 속도 등에 따라 비용 효과적인 스토리지를 선택/사용하고 있는지 검토합니다.

• 태깅 및 비용 할당 구현 : 자원에 Tag 정보를 잘 활용하여 비용 관련 내용을 분석할 수 있는지 검토합니다.

• 네트워크 최적화 : CDN, VPC Endpoint 등 네트워트 관련 서비스를 이용하여 비용을 절감할 수 있는지 검토합니다.

이밖에도 Graviton 기반의 인스턴스 사용, 데이터 압축 및 해제 등 다양한 방법으로 비용절감을 위한 자원 최적화를 실행할 수 있습니다.

라. 약정 최적화 관리

CSP에서는 클라우드 사용의 변동성을 줄여서 안정적인 매출을 확보하려는 목적으로 다양한 약정 서비스를 제공하고 있습니다.

물론 이것은 일정 수준의 서비스를 장기적으로 일정 수준 이상을 사용할 경우에 일반 고객에게도 비용 절감의 효과를 얻을 수 있는 방법입니다.

특히, 좋은점은 어떤 약정 조건을 준수할 수 있다면 서비스나 서비스를 사용 방법의 변경 없이도 할인된 비용으로 서비스를 사용할 수 있다는 점 입니다.

AWS에서는 RI(Reserved Instances)와 SP(SavingsPlans)라는 서비스를 제공합니다.

약정 기간(1년, 3년), 지불 시점(선납, 후납) 등과 같은 약정 옵션에 따라서 온디멘드 가격대비 할인된 가격으로 사용할 수 있습니다.

• Reserved Instances(RI)

  • 표준 RI

  • 컨버터블 RI

  • Reserved RI

• SavingsPlans(SP)

  • Compute Savings Plans

  • EC2 Instance Savings Plans

  • Machine Learning Savings Plans

마. 전략적 최적화 관리

전략적 최적화 영역은 중장기 최적화 방안이라고 할 수 있습니다. 비용 Governance에서 수립한 전략방향에 따라서 전략적인 선택이 이루어질 수 있습니다.

전략적 최적화의 예는 다음과 같습니다.

• 멀티 클라우드 또는 하이브리드 클라우드 채택

• RI 공유 활용: 마켓플레이스에서 RI를 구매하여 적용하는 것을 말합니다.

• 서버리스 기술 활용: Lambda, Fargate와 같은 서버리스 기술 이용을 검토합니다.

• 네트워크 비용 최적화: 네트워크 구조 변경 또는 서비스 배치 변경/사용을 통해 네트워크 비용을 절감을 검토합니다.

• 오픈소스 및 커뮤니티 자원 활용: 라이센스 비용이 소요되는 소프트웨어를 오픈소스로 대체 가능한지 검토합니다.

• 경쟁력있는 Cloud MSP* 검토: 좋은 할인 조건과 FinOps 도구 및 서비스를 제공하는 MSP 사용을 검토합니다.

Cloud Managed Service Provider(MSP)는 기업이나 조직의 Cloud 서비스를 위탁받아서 운영 관리하는 서비스 제공자를 말합니다. 대표적인 업체로 삼성SDS, 메가존, 베스핀 글로벌 등이 있습니다.

4.마치며…

이번 포스팅에서는 클라우드 비용절감의 중요성과 그 어려움, 그리고 비용 절감을 위해 필요한 주요 방법들에 대해서 알아보았습니다.

경영환경의 변화’와 ‘클라우드 사용의 증가’, 그리고 ‘클라우드의 특성’ 때문에 비용 절감이 중요해졌다고 말씀드렸고,

비용절감이 잘 안되는 이유로 '많은 지식과 경험', '적절한 도구', 그리고 'Governance'를 말씀드렸습니다.

마지막으로는 다섯 개의 비용 절감 관리 요소와 구체적인 방법까지 간단히 설명 드렸습니다.

언급된 방법 말고도 세부 기능이나 서비스 측면에서보면 더 많은 방법이 있고 앞으로도 기술이 발달함에 따라 계속 추가될 것입니다.

현시점에서 최대한 많은 부분을 커버할 수 있도록 설명 편의상 분류해 놓았지만, 대부분의 절감 방법이 상호 영향을 주기 때문에 어떤 방법이 제일 좋거나 나쁘다고 할 수 없습니다.

즉, 사용 현황과 경영 상황에 맞는 최적의 절감 방안을 선택하는 것이 중요합니다. 그래서 어렵고 전문가의 도움이 필요한 것 같습니다.

요즘은 OpenAI, Google, Microsoft, NVIDIA, AWS 등 Global Tech 기업을 중심으로 AI Cloud 센터 구축이 확대 되고 있습니다.

보통 GPU는 한 장에 수천 만원 이상하는 고가의 장비이다 보니 FinOps에 대한 요구는 더욱 높아질 것으로 예상됩니다.

참고로 Cloud Radar에서는 직접적이고 빠르게 효과를 확인할 수 있는 자원최적화와 약정최적화 관련된 서비스를 제공하고 있으며,

비용 시각화와 다차원 분석 리포트를 제공합니다. 그리고 그 적용 범위를 지속적으로 확대하고 있습니다.

이상으로 이번 포스팅을 마무리 하겠습니다. 여러분의 클라우드 비용을 최적화하는데 도움이 되셨기를 바랍니다.

이후에는 보다 구체적이고 실용적인 비용 절감 방안에 대한 내용을 다루어 보도록 하겠습니다.

감사합니다.