[기고] AI 성과 가르는 핵심 '모델보다 데이터 인프라'

[아이뉴스24 윤소진 기자] 기업의 AI 도입은 이제 선택이 아닌 필수다. 많은 기업이 생성형 AI를 업무 혁신의 핵심 과제로 삼고 관련 투자를 확대하고 있다. 그러나 실제 현장에서는 기대만큼 성과를 거두지 못하는 경우가 적지 않다. AI 모델 성능은 빠르게 발전하고 있지만 이를 뒷받침하는 데이터 인프라가 충분치 않은 경우가 많기 때문이다.

히타치 밴타라가 15개 시장의 IT 리더 1200명 이상을 대상으로 조사한 ‘2025 데이터 인프라 현황 글로벌 보고서’는 이러한 현실을 잘 보여준다. 이 보고서는 기업 데이터 인프라 성숙도를 기준으로 AI 성과와 운영 역량의 차이를 분석했다. 그 결과, 회복탄력적인 인프라, 정제된 데이터, AI 기반 운영, 측정 가능한 성과를 갖춘 ‘최적화’ 단계에 도달한 조직은 41%에 불과했다. AI 성과를 내는 조직과 그렇지 못한 조직의 차이는 어떤 AI 모델을 도입했는지가 아니라, 데이터를 안정적으로 저장·관리·활용할 수 있는 인프라 기반을 얼마나 성숙하게 갖췄는지에 따라 갈린다.

AI는 결국 데이터 기반으로 작동한다. 아무리 우수한 모델을 도입하더라도 필요한 데이터를 빠르게 불러오지 못하거나, 데이터 품질이 낮거나, 운영 환경이 복잡하게 분산돼 있다면 AI 활용 가치는 제한될 수밖에 없다. 특히 생성형 AI, 실시간 분석, 고성능 트랜잭션 처리와 같은 워크로드가 확산되면서 기업 스토리지에는 과거와 다른 수준의 성능이 요구된다. 대규모 환경에서도 일관된 성능과 낮은 지연시간을 보장해야 AI가 필요한 인사이트를 제때 만들어낼 수 있다.

데이터 증가 속도와 형태도 중요 변수다. S&P 글로벌의 자회사인 451 리서치에 따르면, 기업 데이터는 연평균 29% 수준으로 증가하고, 특히 영상, 센서 데이터, 로그, 문서, 이미지 등 비정형 데이터 비중이 빠르게 늘고 있다. 이러한 데이터는 저장 용량뿐 아니라 읽기·쓰기 성능, 지연시간, 데이터 이동 효율성까지 동시에 요구한다.

데이터 품질 역시 AI 성과를 좌우하는 핵심 요소다. 앞선 보고서에서도 최적화 단계 조직의 48%는 AI 프로젝트 성공 요인으로 ‘데이터 품질’을 꼽은 반면, 초기 단계 조직에서는 이 비율이 약 25% 수준에 그쳤다. 이는 AI 성과가 모델 성능만이 아닌 데이터 품질과 인프라 수준에 크게 좌우됨을 보여준다.

이러한 흐름에 따라 스토리지 역시 AI 시대의 요구에 맞게 진화해야 한다. HS효성인포메이션시스템의 ‘VSP 원 블록 하이엔드(VSP One Block High End)’는 올-NVMe 아키텍처 기반으로 최대 5000만 IOPS(초당입출력처리건수)와 일관된 서브 밀리초 지연시간을 제공한다. 대규모 AI 워크로드와 고성능 분석 환경에서 요구되는 빠른 데이터 처리, 안정적인 응답 속도, 확장성을 지원한다. 기업의 AI 활용 범위가 넓어질수록 스토리지는 단순 저장 장비를 넘어 AI 성능을 좌우하는 핵심 플랫폼으로 발전한다.

성능만큼 중요한 것은 회복탄력성이다. 데이터 인프라의 중단은 곧 비즈니스 위험으로 이어진다. 기업의 핵심 업무가 데이터 기반으로 운영되고 AI가 의사결정과 서비스 제공 과정에 깊숙이 들어옴에 따라 인프라 장애나 데이터 손상, 사이버 공격의 영향은 더욱 커질 수밖에 없다.

최적화 단계 조직의 89%가 고가용성 설계, 정기적인 회복탄력성 테스트, AI 기반 운영 체계를 갖춘 것으로 나타난 점은 주목할 만하다. 보안 측면에서도 내부 AI 침해 우려는 전년 31%에서 41%로 10% 증가하고, 외부 AI 기반 공격 우려는43%에 달했다. 위협 표면이 확대되는 상황에서 파편화되고 수작업으로 관리되는 인프라는 기업을 더 큰 위험에 노출시킨다. 기업은 데이터를 안전하게 보호하고, 문제가 발생했을 때 신속하게 복구할 수 있는 구조를 인프라 설계 단계부터 고려해야 한다.

또 다른 과제는 복잡성이다. 기존 시스템, 클라우드, 백업 환경, 분석 플랫폼이 각기 다른 방식으로 운영되면서 데이터가 여러 곳에 흩어져 있는 경우가 많다. 이러한 환경에서는 데이터 위치를 파악하고, 성능을 관리하며, 보안 정책을 일관되게 적용하는 것만으로도 상당한 운영 부담이 발생한다. 앞서 언급한 데이터 인프라 현황 보고서에서 응답 기업의 94%가 데이터 인프라와 관련해 외부 전문 지원이 필요하다고 답한 것도 같은 맥락이다. 플랫폼 확산, 하이브리드 클라우드 복잡성, 기술 인력 부족이 맞물리면서 기업 내부 역량만으로 전체 데이터 인프라를 최적화하기가 어려워지고 있다.

AI 프로젝트가 실패하는 이유는 기술 자체의 한계보다 데이터 품질, 조직 내 사일로, 인프라 제약에서 비롯되는 경우가 많다. 실패한 AI 프로젝트의 원인으로 불충분한 데이터(46%), 조직 내 사일로(41%), 인프라 한계(29%)로 지목된 것도 이를 뒷받침한다. 기술 실패로 보인 문제가 실제로는 데이터 관리와 거버넌스, 인프라 기반 미비에서 비롯되는 경우가 많다.

성숙한 AI 활용을 위해 IT 조직은 HS효성인포메이션시스템의 VSP 360과 같은 유니파이드 관리 도구를 활용해 데이터 인프라 전반의 가시성을 확보하고, 현업 부서와 함께 활용 우선순위를 정립해야 한다. 현업 요구를 빠르게 반영하는 것도 중요하지만 데이터 보안과 규제 준수, 비용 효율성, 성능 최적화를 종합적으로 고려하는 의사결정 체계가 함께 뒷받침돼야 한다. AI 시대의 거버넌스는 혁신을 막는 제약이 아닌, 안전하고 지속 가능한 활용을 가능하게 하는 기반이다.

HS효성인포메이션시스템은 오랜 기간 국내 주요 엔터프라이즈 고객의 핵심 데이터 인프라 구축과 운영을 지원해왔다. 금융, 제조, 공공, 통신 등 다양한 산업에서 축적한 경험을 바탕으로 고객 업무 특성과 데이터 환경에 맞는 고성능·고가용성 스토리지 전략을 제안하고 있다. 특히 AI 시대에 요구되는 데이터 성능, 회복탄력성, 통합 관리, 거버넌스 역량을 함께 고려해 고객의 인프라 현대화를 지원한다.

AI 도입이 본격화되면서 기업 인프라의 중심축도 변화하고 있다. 이제 스토리지는 단순히 데이터를 저장하는 장비가 아니라, AI 성능과 비즈니스 연속성, 데이터 보안, 운영 효율을 좌우하는 전략적 자산이다. 기업이 AI에서 실질적 성과를 거두기 위해서는 모델 도입에 앞서 데이터 인프라의 준비 상태를 점검해야 한다.

AI 경쟁력은 결국 데이터를 얼마나 빠르고 안전하게 효율적으로 활용할 수 있는지에 달려 있다. 스토리지 현대화와 데이터 인프라 투자를 단순한 유지보수 관점이 아닌 AI 시대 핵심 경쟁력을 확보하기 위한 전략적 투자로 바라봐야 한다.