델 테크놀로지스(Dell Technologies)가 글로벌 시장조사기관 IDC에 의뢰해 한국을 포함한 아시아 태평양 지역의 엔터프라이즈 AI 도입 동향을 심층 분석한 보고서를 발표했다. “IDC 인포브리프(InfoBrief) - AI 구현을 위한 전략적 계획 수립(Creating Your AI Implementation Blueprint)"라는 제목의 이 보고서는 델과 엔비디아가 공동 의뢰하여 제작되었으며, 전문 역량을 갖춘 기술 파트너의 지원을 통해 AI 관련 과제들을 해결하고, 효율성과 경쟁 우위를 극대화함으로써 원활한 AI 도입 프로세스를 구축할 수 있는 방법론을 담고 있다.

이번 연구는 지역 전반에서 AI, 생성형 AI, 머신러닝(ML) 기술의 채택이 빠르게 확산되는 가운데, 인재 부족, 데이터 준비 현황, 복잡한 시스템 구성 등의 문제가 지속된다는 점을 강조했다. 특히 숙련된 AI 인재 부족은 인력 경쟁이 치열한 선진 시장에서 더욱 심화되고 있으며, 이로 인해 비용 상승을 초래하고 있다. 또한 데이터의 가용성, 품질, 거버넌스가 AI 이니셔티브의 성공을 좌우하는 만큼 이러한 난제들을 해결하기 위해서는 내부 투자와 외부의 지원을 결합하는 것이 AI의 잠재력을 극대화하는데 필수적이다.

AI 및 생성형 AI, 비즈니스 혁신 견인: 아태지역의 AI 도입이 증가하면서, AI를 위한 서버 시장은 2025년까지 239억 달러(약 32조 5천억 원)에 이를 것으로 예상된다. 생성형 AI에 대한 지출 또한 증가하고 있으며, 올해 아태지역 기업의 84%가 생성형 AI 이니셔티브에 100만-200만 달러(약 13억-27억 원)를 할당할 계획이다. 전 세계적으로 기업들이 전체 AI 예산의 약 33%를 생성형 AI에 투자하는 데 비해, 아태지역은 기업들이 AI 예산의 38%를 생성형 AI에, 예측 및 해석 AI에 61%를 할당하는 것으로 나타났다. 특히 한국에서는 32%의 기업이 이미 AI를 다양한 직무에 도입했거나 AI 역량를 경쟁우위의 핵심으로 인식하고 있어서 아태지역 평균(24%)을 앞섰다. 반면 자사의 AI 역량이 초기 단계에 머물러 있다고 답한 비율은 한국이 26%, 아태지역 평균이 31%로 나타났다.
진화하는 AI 배포 전략: 아태지역의 AI 배포 전략도 다변화되고 있다. 퍼블릭 및 멀티클라우드의 인기가 지속되는 한편, 보안, 비용 효율, 데이터 공유 및 협업, 산업별 요구에 따라 프라이빗 AI와 온프레미스 환경에 대한 수요가 증가 중이다. CIO들은 각기 다른 형태의 클라우드에 최적화된 인프라를 우선시하며 범용 AI 모델에서 산업별 특화 모델로의 전환을 가속하고 있다.
AI 및 생성형 AI 확장의 주요 과제: 생성형 AI 확장 시 직면하는 주요 과제로는 증가하는 IT 비용, 정부 규제 및 컴플라이언스 리스크, 지속가능성 요건 충족 등이 꼽혔다. 또한 AI 숙련도 격차는 디지털 전환 속도를 늦추고, 제품 개발을 더디게 하는 한편 품질 결과에 영향을 미칠 수 있다. 보안 및 개인 정보 보호 또한 기업들의 주요 관심사로, 기업들은 외부의 솔루션 공급업체가 AI 시스템 보안과 더불어 인프라 현대화 및 맞춤형 AI 모델을 지원해 줄 것을 기대하는 것으로 조사됐다.
AI 성공을 위한 기반 마련: 다양한 어려움에도 불구하고, 기업들은 생성형 AI가 운영 효율성 향상, 고객 만족도 개선, 새로운 비즈니스 모델 창출을 이끌 수 있기에 투자할 가치가 있다고 판단했다. 아태지역 기업들은 영향력이 높고 도입 효과를 측정하기 용이한 사용 사례들를 우선적으로 도입하며 단계적 접근 방식을 취하고 있다. 성공적인 AI 도입 전략을 위해서는 AI 지원 인프라에 투자하고, AI 전담 부서를 육성하며, AI 전략을 비즈니스 목표와 연계하고, 의사 결정 및 장기적인 AI 성공을 위한 강력한 데이터 거버넌스를 구현하는 것이 핵심이다.
도전과제 극복을 위한 전문 AI 역량에 대한 의존도 강화: 아태지역 기업들은 확장 가능한 인프라를 구축하고 기술 격차를 해소하기 위해 전략적 전문가와 협력하는데 주목하고 있다. 이번 조사에서 아태지역 응답자의 60%는 AI 애플리케이션에 외부 개발자를 의존하는 반면, 30%만이 자체 개발하고, 약 10%가 상용(COTS) AI 솔루션을 사용한다. 성공적인 기업들은 AI 로드맵, 강력하고 확장 가능한 인프라, 전문가 구현 지원 및 인력 교육을 위해 외부의 전문 기술 파트너와 협력함으로써 내부 역량 격차를 해소하고 AI 배포를 가속화하고 있다. 포괄적이고 적응이 용이하며 확장가능한 솔루션을 제공하는 공급업체는 이러한 변화하는 비즈니스 요구를 해결하는 데 유리한 위치를 차지할 것으로 분석됐다.

산업별 주요 조사 결과: 은행 및 금융 서비스, 제조, 에너지, 헬스케어, 소매 산업

아태지역은 생성형 AI 사용 사례를 빠르게 도입하고 있으며, 2024년 아태지역 기업의 87.4%가 10개 이상의 생성형 AI 사용 사례를, 25.6%는 2025년에 100개 이상의 생성형 AI 사용 사례를 구축할 것이라고 답했다. 이러한 사용 사례는 IT 운영, 마케팅, 공급망 관리, HR 등 다양한 비즈니스 부문에 걸쳐 있다.

은행 및 금융 서비스: 은행 및 금융 서비스 부문은 아태지역에서 AI(84%) 및 생성형 AI(67%) 도입을 주도하고 있다. 아태지역 은행 및 금융 전문가의 72%는 생성형 AI가 향후 18개월 내에 시장을 혁신할 것이라고 답했다. 주요 분야로는 사기 탐지, 자금세탁 방지, 운영 효율성 개선 등이 꼽혔다. 금융 서비스 부문의 AI 및 생성형 AI 지출이 2023년부터 2028년까지 연평균 성장률(CAGR) 25~31%로 성장할 것으로 예상됨에 따라, 기업들은 고객 서비스, HR 채용, 조달, 법률 준수에 이르기까지 여러 기능에 걸쳐 AI 이니셔티브를 확장하고 있다.
제조: 아태지역 제조업체의 78%가 AI를, 54%가 생성형 AI를 사용하며, 공급망 최적화, 예측 유지 보수 및 품질 관리를 중심으로 사용하고 있다. AI 기반 수요 예측 및 실시간 생산 모니터링은 다운타임을 줄이고, 낭비를 최소화하며, 운영 정밀도를 높인다. 제조업체 응답자의 52%는 생성형 AI가 18개월 내에 이 부문을 혁신할 것이라고 믿으며, 자동화된 생산, 예측 리드 스코어링 및 디지털 트윈 모델을 가속화하여 스마트 제조와 민첩하고 고정밀 생산 라인을 발전시킬 것으로 전망했다.
에너지: 아태지역 내 에너지 관련 기업에서는 AI(83%) 및 생성형 AI(73%)를 도입하여 전력망 최적화, 예측 유지 보수 및 에너지 분배를 강화하여 효율성을 개선하고 다운타임을 줄이고 있다. 이 시장의 42%는 엔터프라이즈 데이터를 사용하여 스마트 그리드 및 에너지 플랫폼을 개선하기 위해 AI 모델을 미세 조정하고 있다. 에너지 산업 응답자의 54%는 생성형 AI가 18개월 내에 비즈니스 모델을 혁신할 것이라고 믿고 있다. 주요 사용 사례로는 안전 및 환경 규제 준수, 공급망 및 물류 최적화, 사이버 위협 감지 및 예방, 디지털 트윈 및 스마트 유지보수 등이 있다. 특히 글로벌 기업들은 전력망 관리를 혁신하고, 더 깨끗한 에너지로의 전환을 가속화하기 위해 아태지역에 AI 허브를 구축하고 있다.
헬스케어: 아태지역 헬스케어 기업의 86%가 AI를 사용하고 있으며, 59%는 진단, 예측 분석 및 개인화된 치료 계획을 강화하기 위해 생성형 AI를 도입하고 있다. 실시간 환자 모니터링 및 수요 예측과 같은 AI 기반 사용 사례는 워크플로우를 간소화하고, 오류를 줄이며, 환자 치료를 개선한다. 헬스케어 기업의 67%는 생성형 AI가 18개월 내에 비즈니스 모델을 혁신할 것이라고 전망하며, AI 투자는 특히 임상 우수성, 운영 효율성 및 재정 최적화 분야에서 증가할 것으로 예상하는 가운데, 이를 통해 환자 치료 및 치료 계획의 혁신적인 변화를 기대하고 있다.
소매 유통업: 아태지역 소매 산업 부문은 AI(82%) 및 생성형 AI(63%)를 사용하며 AI 및 생성형 AI 에이전트에 대한 투자를 늘려가고 있다. AI 에이전트는 개인화된 추천, 예측 재고 계획 및 동적 가격 책정이 가능하기 때문에 리테일 비즈니스에서 중요성이 높아졌다. 소매 업체의 42%는 생성형 AI가 18개월 내에 비즈니스 모델을 혁신할 것으로 예상하며, 스마트 마케팅 캠페인, 사기 탐지, 고객 서비스 등에 AI가 활용되고 있다. 소매 유통업체들은 고객 경험 및 운영 효율성을 개선하기 위한 내부 AI 역량 구축에 집중하는 동시에, 데이터 보안 및 시스템 통합과 같은 작업을 위해 외부 솔루션 업체에 의존하고 있다.

한국 델 테크놀로지스의 김경진 총괄사장은 “한국을 포함한 아태지역은 AI 도입과 혁신을 선도할 엄청난 잠재력을 보유하고 있다. 이제 기업들은 개념 검증(POC)을 넘어 측정 가능한 투자 수익률(ROI) 달성에 집중해야 할 때”라고 말하며, “일관된 ROI를 달성하는 과정은 복잡하며, 전략, 사용 사례 개발, 데이터 준비, 거버넌스, 최적화, AI 구현 확장 등 모든 단계에서 포괄적인 지원이 필요하다. 델 테크놀로지스와 같은 전문 파트너의 지원을 통해 기업들은 도입 장애물을 극복하고 AI 성과를 달성하는 길을 가속화할 수 있다.”라고 덧붙였다.

델 테크놀로지스와 엔비디아의 후원으로 진행된 IDC 인포브리프 “AI 구현을 위한 전략적 계획 수립”(IDC #AP242506IB, 2025년 1월) 보고서는 2023년 8월부터 2024년 8월까지 아태지역의 여러 산업에 걸쳐 최대 919명의 응답자를 대상으로 한 IDC의 여러 데이터 소스 및 설문조사를 기반으로 작성됐다. 이 조사는 AI, 생성형 AI 및 ML 도입 동향, 과제 및 구현에 대한 전략적 접근 방식을 평가했다.

보고서 전문은 https://www.delltechnologies.com/asset/ko-kr/solutions/business-solutions/industry-market/apj-idc-ai-for-enterprise-infobrief-master.pdf 에서 다운로드 받을 수 있다.

델 테크놀로지스 보고서, “한국 기업 AI 구현 초기 단계 넘어 높은 역량 수준”