클라우드 전문정보
| 제목 | 2025 클라우드 트렌드 : AI와 클라우드 애플리케이션 현대화가 가져올 워크로드의 미래 | ||
|---|---|---|---|
| 등록일 | 2025-07-21 | 조회수 | 260 |
마이크로소프트 / 김대우 이사
예측 2: 2028년까지 애플리케이션 현대화 및 AI 도구의 발전으로 60%의 기업 워크로드가
AI 기반 최적화 환경으로 이동하게 되며, 이 기능은 최소 45%의 조직에서 활용될 것.
- IDC FutureScape: Worldwide Cloud 2025 Predictions
클라우드 워크로드 비용 문제는 2025년에도 현재 진행형
지난 10년간 클라우드 환경이 눈부시게 성장하면서, 그에 따른 클라우드 서비스 지출 역시 비례적으로 복잡해졌습니다.
기업이 디지털 전환(Digital transformation)을 가속화하면서 조직 구조를 작고 유연하게 만들었지만, 작아진 조직만큼, 클라우드 수요와 사용 방식이 다양해지면서 재무팀의 비용 산정과 관리 역시 한층 복잡해지고 있습니다.
2024 클라우드 트렌드 : 클라우드와 SaaS 비용 최적화, FinOps
뿐만 아니라, 각 CSP가 제공하는 가격 정책, 초기 구축비, 기술 운영비, 서비스 수준 협약(SLA) 등 세부 조건이 모두 상이하기 때문에, 효율적인 서비스 도입과 운영을 위한 검토 작업부터, 복잡도는 하늘을 찌르게 될 정도로 높아집니다.
이러한 문제로 인해, 재경 및 재무부서는 IT 부서나 개발 부서에서 발생하는 클라우드 사용량을 실시간으로 점검하고, 신규 프로젝트의 클라우드 리소스 사용량과 적정 예산을 산출하기 위해 기술적 지식을 쌓아야 하는 상황까지 직면하게 됩니다.
SaaS 구독 피로와 비용 관리의 복잡성
뿐만 아니라, 부서, 팀, 개인별로 사용하는 SaaS 애플리케이션의 구독, 라이선스 관리 등의 비용 통제 업무도 크게 늘어나게 됩니다. 비싸지만, 웬만한 직원 한두 명의 역할을 수행할 정도로 높은 퀄리티를 제공하는 AI 관련 구독 서비스가 늘어나고, 월 30만 원에 가까운 구독비를 사용하는 직원도 늘어나면서 구독 비용 관리는 더욱 중요도가 높아집니다.
[OpenAI - ChatGPT 월간 구독비용]
부서, 팀, 개인별로 사용하는 SaaS 애플리케이션의 구독, 라이선스 관리 등의 비용 통제 업무도 크게 늘어나게 됩니다.기업 차원에서 뿐만 아니라, 직원이 업무에 다양한 SaaS 애플리케이션을 사용하면서 SaaS 구독 피로(Subscription Fatigue)가 발생합니다. 개별 직원이 너무 많은 소프트웨어 구독을 관리하면서 느끼는 부담으로, 비용과 가치에 대한 스트레스로 이어집니다
The Rise of Subscription Fatigue: How SaaS Companies Can Combat It
클라우드 지출은 증가 추세
여러 클라우드 현황 보고서에 따르면 응답자들은 퍼블릭 클라우드 지출이 예산의 평균 23%를 초과하고 있다고 답했으며, 이는 많은 기업들이 클라우드 비용 증가를 중요한 이슈로 보고 있다는 것을 확인할 수 있습니다. 클라우드 컴퓨팅 시장 규모는 2025년 현재 확장되는 중이며. 2030년에 이르면 1천800조 원으로 증가할 것으로 예상되고, 전사 모든 조직이 클라우드 컴퓨팅으로 전환함에 따라 당연한 수순으로, 비용 최적화를 우선시하게 됩니다.
[출처: Grandviewresearch]
2025년 클라우드 시장 19% 성장··· AWS 올해 투자액 1,000억 달러 초과할 것 - CIO.com
글로벌 클라우드 컴퓨팅 시장, 2030년 1886조 원 규모로 성장 - 한국클라우드 신문
이러한 조직 슬림화와 클라우드 도입으로 기업은 더 민첩하게 움직일 수 있게 되었지만, 부서 간 경계가 뚜렷해지고 협업이 줄면서 사일로 이펙트(Silo effect) 문제 역시 심화되는 부작용이 나타나고 있습니다.
클라우드 중심 조직 환경에서, 다양한 과제를 동시에 해결해야 하는 비용 관리의 복잡성 문제는 2025년에도 여전히 주요 이슈입니다.
클라우드 마이그레이션 실패 사례에서 배우는 교훈
모두 클라우드를 외치고, “클라우드 도입 = 성공”을 공식처럼 말하지만, 클라우드 환경으로 마이그레이션 하면서 성공만 있었던 것은 아닙니다.
잠시, 클라우드 전환 실패 사례들을 살펴보면, 무계획한 마이그레이션이 가장 큰 원인으로 나타납니다. 대표적인 실패 패턴은 다음과 같습니다.
명확한 전략의 부재와 미흡한 계획
기업에서 클라우드 마이그레이션이 실패하는 첫 번째 주요 원인은 명확한 전략 부재와 부족한 계획입니다.
클라우드 마이그레이션은 단순히 시스템이나 데이터를 옮기는 작업이 아니라, 조직 전체의 기술 및 비즈니스 목표가 긴밀히 연계되어야만 성공할 수 있는 큰 규모의 프로젝트입니다. 이를 아무 전략 없이 추진하면, 각 부서나 담당자의 이해관계가 반영되지 않아 방향성이 흔들리고, 예상치 못한 문제에 직면하게 됩니다. 예산, 인력, 일정 등 자원이 비효율적으로 배분되어 투자 대비 효과가 떨어지고, 데이터 손실이나 서비스 중단 같은 심각한 사고로 이어질 수 있습니다. 뿐만 아니라, 법적 규제와 보안 요건에 맞춰 이전하지 못하면, 기업 신뢰도와 경쟁력에 직격타를 맞게 됩니다. 따라서, 기업 내 모든 이해관계자들의 참여가 필요하며, 충분한 사전 분석과 단계별 실행 계획을 세워야 합니다.
마이그레이션 복잡성에 대한 과소평가
두 번째로 실패 요인은 마이그레이션 복잡성에 대한 과소평가입니다.
클라우드 이전은 단순히 기존의 애플리케이션이나 데이터를 그대로 옮기는 작업이 아닙니다. 대량의 데이터 이전은 물론 남아있는 시스템과의 연동, 각 시스템별 클라우드 적합성, 업무 프로세스의 변화 등 복잡한 문제들이 동반됩니다.
경우에 따라 다르지만, 기존 시스템을 클라우드 환경에 맞게 재구성하거나 재개발해야 할 수도 있으며, 데이터 보안, 네트워크 성능, 비용 관리 등 새로운 문제가 발생합니다. 이런 다양한 변수를 제대로 파악하지 않고 접근하면, 안정적인 서비스가 어려워지고, 추가적인 비용이 발생할 수 있습니다. 상세한 사전 진단, 업무 우선순위 선정, 외부 전문 인력과의 협업 등 마이그레이션 준비가 필요합니다.
조직 내 직원들의 저항
마지막으로, 조직 내 직원들의 변화 저항으로 인한 실패도 중요합니다.
대규모 변화에는 늘 내부 저항이 따릅니다. 기존 방식에 익숙한 직원들은 클라우드 도입으로 인해 자신의 자리가 위협받을 수 있다는 불안감을 느낄 수도 있습니다. 클라우드 기술에 대한 이해 부족이나, 변화에 대한 피로감이 직원을 소극적으로 만들고, 이로 인해 새로운 시스템 적응이 늦어지며, 전체 마이그레이션 일정에 지장을 줄 수도 있습니다.
이런 상황이 반복되면, 사기가 떨어지고, 프로젝트 자체가 중단될 위험도 있습니다. 이를 방지하려면, 변화의 목적과 기대 효과에 대해 구성원들과 지속적으로 소통하고, 충분한 교육과 지원을 제공해야 합니다.
이와 같이, 상세한 전략 수립, 복잡성 인식, 변화 관리 등 세 가지 요소가 균형 있게 준비될 때 비로소 클라우드 마이그레이션의 성공이 보장될 수 있습니다.
Three Causes of Cloud Migration Failure in Large Enterprises
2028년, AI와 애플리케이션 현대화가 가져올 워크로드 혁신의 미래
다행히, 성공적으로 클라우드를 도입하고, 거의 모든 전사 워크로드를 클라우드로 전환하게 되었습니다. 비즈니스 복잡도와 요구사항이 많아지면서 멀티 클라우드 전환과 하이브리드 IT 환경의 확산이 가속화되고, 당연히 여러 CSP에 더 많은 비용을 지출하게 됩니다.
당연한 다음 순서로, 기업들은 자사의 현재 클라우드 서비스가 최적화된 환경에서 효율적으로 운영되는지에 깊이 있게 검토하게 되겠지요. 주기적으로 CSP 측 담당자와 미팅하면서 비용 최적화가 미팅의 최우선 목표로 변경됩니다.
CSP 직원이 봐도 참 복잡합니다. 오늘날 IT 환경은 퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스 데이터센터, 코로케이션, 엣지 컴퓨팅 등 점점 더 다양해지고 있습니다. AI 도입의 성공사례가 속속 귀에 들려오고 뒤쳐지면 끝장이라는 C레벨 경영진의 독려로 신기술 도입 속도는 검토도 하기 어려울 정도로 더욱 빨라지고 있습니다.
뒤를 돌아보니, 전사차원/부서별/팀별로 어떤 서비스를 사용하는지, 사용량은 얼마나 되는지, 한 달 후, 6개월 후 얼마의 비용이 발생할지 아무도 모르고 건드려서도 안 되는 레거시/블랙박스가 되어갑니다.
왜 클라우드 비용은 통제 불능 상태에 빠지는가?
클라우드를 도입하는 이유 중 하나는 유연한 확장성과 비용 효율성입니다. 그러나, 실제로 많은 기업들이 클라우드 비용이 예산을 초과하는 문제를 겪고 있습니다.
1. 무분별한 리소스 사용
기업은 개발이나 테스트, 자동 확장 등을 위해 클라우드 리소스를 손쉽게(클릭 몇 번 만으로) 만들지만, 사용이 끝난 인스턴스나 미사용 스토리지가 방치되어 불필요한 비용이 지속적으로 발생할 수 있습니다.
2. 설계와 거버넌스 부재
적절한 인프라 설계와 비용 관리 원칙이 없으면, 리소스가 필요 이상으로 늘어나거나 중복될 수 있어 클라우드 사용량이 빠르게 급증할 수 있습니다.
3. 비용의 불투명성
복잡한 클라우드 구조와 비용 항목 때문에 서비스나 부서 또는 팀별로 발생한 비용을 정확히 파악하기 어렵습니다.
4. 자동화 및 모니터링 부족
지속적인 리소스 사용량에 대한 모니터링과 자동화 통제 정책이 없으면, 불필요한 리소스가 계속 돌아가 비용 낭비로 이어지게 됩니다.
5. 비용 최적화 전략의 미흡
서비스에 적합한 클라우드 인스턴스 규모를 산정하고, 사용하지 않는 리소스를 신속히 종료하거나, 예약 인스턴스 같은 비용 절감 서비스를 활용하지 못해 발생합니다.
이렇듯 클라우드는 기업 인프라를 위한 혜택을 제공하지만, 비용 관리가 뒷받침되지 않으면 오히려 부담이 될 수 있습니다.
참고: Cloud Costs Out of Control?
복잡해진 클라우드 환경, 자동화된 최적화가 답이 될 수 있을까?
관련해 마이크로소프트와 같은 CSP는 클라우드 비용 최적화라는 주제를 고객 대상으로 깊이 있게 다루고 있습니다. 하지만, 복잡도는 여전히 높고 관리는 쉽지 않습니다.
- 그거 그냥 CSP가 제공하는 최적화 도구 쓰면 되는 거 아닙니까?
- 가격이나 성능에 맞춰 나래비 세우고 클라우드 리소스마다 맞춰서 조절하면 되는 거 아닌가요?
현실적으로 볼 때, 클라우드 워크로드 최적화를 결정하는 데에는 단순히 가격, 성능만이 기준이 아닙니다. 관리 용이성, 기존 애플리케이션의 상호호환성, 국가별로 다른 데이터 규제, 거버넌스, 서비스 확장성(scalability) 등 고려해야 할 요소가 너무나 많습니다.
특히, 글로벌 CSP를 활용한 국가 간 서비스의 기술적 제약이 줄어들면서, 글로벌 비즈니스를 수행하거나 새로운 글로벌 서비스 론칭 등을 계기로 새로운 지역이나 환경에 진출할 때, 기존에 잘 동작하던 시스템도 원점부터 다시 검토해야 하는 상황에 직면하게 됩니다.
- 1000+ Global AI Regulations - Turning AI Regulations into Opportunities: Are You Ready?
- 2024 클라우드 트렌드 : 데이터 주권
AI의 힘, 워크로드 자동화 이동 가속화
그렇다면, 이러한 문제를 해결하기 위해 AI를 적용해 보는 것은 어떨까요?
2025년 IT업계는 ‘AI로 IT 환경을 자동 진단하고 워크로드를 최적 환경으로 이동시키는’ 새로운 패러다임에 주목하고 있습니다.
IDC 등의 조사 결과, 2028년이면 전체 엔터프라이즈 워크로드의 60%가 AI에 의해 자동으로 최적 환경으로 이동 가능한 수준에 이를 것으로 예상되며, 최소한 45%의 기업이 이런 AI 기반 워크로드 이동 기능을 실제로 활용할 전망입니다.
클라우드 워크로드와 AI
복잡하고, 기업의 주요한 자산을 다루는 클라우드 워크로드 최적화에 AI를 어떻게 도입 가능할까요?
2024년까지 클라우드 워크로드 최적화 방식이 머신러닝의 시계열 예측(Time series) 방식을 적용하는 1세대였다면, 2025년은 GenAI를 활용한 차세대 방식을 활용 가능합니다.
예를 들어, 아래와 같은 프롬프트를 활용합니다.
- "지난 6개월 동안의 비용을 요약해 주세요"
- "제 비용에 가장 큰 영향을 미치는 서비스는 무엇입니까?"
- "지난달 비용을 서비스별, 지역별로 나누어 알려줄 수 있나요?"
- "향후 3개월 동안 예상되는 비용을 추산해 주실 수 있나요?"
- "GPT-35-Turbo 사용량이 15% 증가하면 비용은 얼마나 변할까요?"
[Microsoft Azure Copilot - " 지난 6개월 동안의 비용 요약" 질의 결과]
Analyze, estimate and optimize cloud costs using Microsoft Copilot in Azure“AI 기반 클라우드 워크로드 분석”을 도입하면 기업의 재무나 재경 부서 직원들이 IT 지식이나 클라우드 인프라에 대한 전문적인 학습에 따르는 시간과 비용을 크게 줄여줄 수 있습니다. 특히, 분석에 자연어 질의를 지원해 기술적 배경이 부족한 직원들도 복잡한 클라우드 비용이나 자원 현황을 직관적으로 파악할 수 있게 됩니다.
예를 들어, “이번 분기 프로젝트별 클라우드 사용 비용을 보여줘”와 같은 간단한 질문만으로도 Azure Copilot이 데이터 분석 결과를 시각적으로 제공해 주기 때문에, 기존에 필요했던 엑셀 분석이나 복잡한 리포팅 작업을 줄일 수 있게 됩니다.
[참고: Microsoft Azure monitor]
뿐만 아니라, 다양한 사용 패턴과 클라우드 리소스 할당 현황, 비용 추세 등을 빠르게 파악할 수 있도록 분석과 리포트 자동화 기능도 제공하기 때문에 재경부나 재무팀은 훨씬 효율적으로 예산 배분이 가능하고, 필요시 즉각적으로 워크로드를 이동 조치 할 수 있는 인사이트를 얻을 수도 있습니다.한걸음 더 나아가, 반복적인 비용 이슈나 비효율적인 리소스 사용 패턴을 지속적으로 모니터링하고, 예산 초과 등의 위험 상황을 사전에 예방할 수도 있습니다.
AI 기술을 더 확장하면 이러한 변화는 재경/재무 부서뿐 아니라 전사적인 클라우드 거버넌스와 비용 최적화 전략 수립에도 중요한 역할을 할 것으로 예측됩니다.
AI 기반 워크로드 이동
이렇게 현재 워크로드에 대한 스냅숏을 AI 기반으로 얻을 수 있으면, 워크로드 이전 역시 예측이 쉬워집니다. CSP들은 모두 On-Premise부터 타 CSP와 연동 가능한 멀티클라우드 솔루션을 제공하고 있으며, 워크로드 이동성을 제공합니다.
멀티 클라우드가 주목받는 또 하나의 이유는, 퍼블릭 클라우드와 전통적 On-Premise 환경 간 경계가 다양한 기술과 도구들로 인해 점점 희미해지고 있다는 점입니다. On-Premise환경조차 퍼블릭 클라우드의 자동 관리, 유연한 확장과 같은 장점을 역으로 도입하는 중입니다.
또한, 정부, 군사 시스템과 같은 클라우드를 직접 사용할 수 없는 보안, 통제, 특수 레거시 시스템과의 통합 및 고유한 거버넌스적 특성이 요구될 경우는 여전히 On-Premise 환경이 큰 강점을 가질 것입니다.
결국 이런 복잡한 환경에서 AI의 역할은, 각 워크로드가 어디에서 운영되어야 가장 효율적 일지를 다각도로 분석하고, 필요에 따라 워크로드 이동을 제안하거나, 더 나아가 워크로드 이전을 '직접' 실행하는 자동화까지 가능할 것으로 예측됩니다.
기업 역시 이런 이동성을 높이기 위해 업계 표준 기술 및 오픈소스 기반 기술들을 활용하고, CSP 역시 적극 도입하면서 AI 기반 워크로드 이동은 더 빨라질 것입니다.
AI 기반 워크로드 자동화 - 산적한 문제
기업의 모든 워크로드가 AI만으로 완벽하게 자동화될 수 있는 것은 아닙니다. 어떤 워크로드는 기술적 제약, 자체 규제, 혹은 데이터 주권(data sovereignty) 문제 등으로 반드시 특정 환경에 머물러야만 합니다. 그러나, 대다수의 일반 시스템에서는 이 AI 기반 자동화 방식이 효과적일 것으로 전망됩니다.
또한, AI 워크로드 자동화 역시 AI 플랫폼이며, 관리와 통제가 필요합니다. 특히, AI 플랫폼 거버넌스는 단순 규정 준수 그 이상으로, AI의 신뢰성·투명성·확장성을 확보하는 기반입니다. 초기 구축이 다소 부담될 수 있으나, 장기적으로 위험을 줄이고 비즈니스 신뢰도를 크게 높일 수 있습니다.
Governance recommendations for AI workloads on Azure
AI와 현대화가 이끄는 차세대 IT 전략
IT 인프라 최적화는 기업의 입장에서 볼 때, 단순한 비용 절감이나 특정 서비스 도입 이상의 중요한 어젠다입니다.
AI와 애플리케이션 현대화라는 과제는, 조직의 워크로드 운영 방식 자체를 크게 변화시킬 것으로 예측되며, 내부 역량을 강화하고 경험을 쌓아 경쟁력을 확보해야 할 것입니다.
참 고 문 헌
- https://www.marketresearch.com/IDC-v2477/IDC-FutureScape-Worldwide-Cloud-Predictions-38665932/
- https://www.gartner.com/en/newsroom/press-releases/2025-05-13-gartner-identifies-top-trends-shaping-the-future-of-cloud
- https://www.cloudhelp.kr/software/market-case/?pageid=1&category1=%EC%8B%9C%EC%9E%A5%2F%EC%82%AC%EB%A1%80&mod=document&target=title&keyword=2024&uid=4761
- https://www.toshendra.com/saas-growth/combat-saas-subscription-fatigue/
- https://www.rhesis.ai/post/1000-global-ai-regulations---turning-ai-regulations-into-opportunities-are-you-ready
- https://www.cloudhelp.kr/software/market-case/?pageid=1&category1=%EC%8B%9C%EC%9E%A5%2F%EC%82%AC%EB%A1%80&mod=document&target=title&keyword=2024&uid=4776
- https://learn.microsoft.com/en-us/azure/copilot/analyze-cost-management
- https://learn.microsoft.com/ko-kr/azure/azure-arc/overview
- https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/scenarios/ai/platform/governance
- https://azure.microsoft.com/en-us/solutions/cost-optimization
- https://www.nops.io/blog/cloud-costs-out-of-control/
- https://www.dataversity.net/three-causes-of-cloud-migration-failure-in-large-enterprises/
저작권 정책
SaaS 전환지원센터의 저작물인 『2025 클라우드 트렌드 : AI와 클라우드 애플리케이션 현대화가 가져올 워크로드의 미래』은 SaaS 전환지원센터에서 마이크로소프트 김대우 이사에게 집필 자문을 받아 발행한 전문정보 브리프로, SaaS 전환지원센터의 저작권정책에 따라 이용할 수 있습니다. 다만 사진, 이미지, 인용자료 등 제3자에게 저작권이 있는 경우 원저작권자가 정한 바에 따릅니다.
