[아이뉴스24 최효경 기자] AI가 기업과 정부의 핵심 운영 체계로 깊숙이 자리 잡으면서 '어떤 데이터를, 어디서, 누구의 통제 아래 다루는가'는 화두가 기술적인 고려 사항을 넘어 최고경영진이 고민해야 할 과제가 됐다.
이러한 배경에서 '소버린 AI'가 글로벌 IT 업계의 핵심 의제로 급부상하고 있다. 그러나 소버린 AI를 모든 인프라와 AI 모델을 처음부터 끝까지 독자적으로 구축해야 하는 '기술적 고립'이나 '폐쇄주의'로 이해해서는 안 된다.
진정한 소버린 AI 전략은 가장 민감하고 중요한 데이터와 거버넌스에 대한 의사결정권은 조직이 직접 통제하면서도, 급변하는 글로벌 기술 생태계의 최신 기술과 혁신에는 유연하게 연결될 수 있는 구조를 만드는 데 있다.
최근 델 테크놀로지스가 의뢰하여 IDC가 실시한 연구에 따르면 한국 정부 및 공공 부문 리더들의 80%가 ‘안전한 데이터 주권 확보’를 AI 투자의 핵심 고려 요소로 꼽았다. 동시에 응답자의 73.3%는 글로벌 기술 생태계, 첨단 연구, 최신 솔루션에 대한 접근이 제한될 경우 국가와 기업의 혁신 동력이 오히려 약화될 수 있다고 답했다. 이는 AI와 데이터에 대한 통제권을 확보하는 동시에 글로벌 기술 생태계와 연결성을 유지하는 전략적 균형이 중요하다는 점을 보여준다.
그렇다면 이러한 균형을 실제 AI 인프라와 운영 환경에 어떻게 구현할 것인가? 소버린 AI는 특정 기술이나 제품 도입의 문제가 아니라, 보안과 거버넌스, 데이터 관리, 인프라 구성, 기술 생태계를 아우르는 종합적인 아키텍처 전략이 뒷받침되어야 한다.
통제권을 확보하고, 워크로드를 최적의 환경에 배치하며, 미래를 위한 선택권을 유지하는 세 가지 축 위에서 설계돼야 하며, 이를 위해 리더들은 다음 세 가지 원칙을 고려할 필요가 있다.
첫째, 보안과 거버넌스는 나중에 덧붙이는 것이 아니라 초기 설계 단계부터 아키텍처에 내재화해야 한다. 민감한 데이터가 어디에 저장되고 처리되는지, 누가 어떤 권한으로 접근할 수 있는지, 국가와 산업별 법적·규제 요건을 어떻게 충족할 것인지는 인프라를 구축하는 초기 단계부터 면밀하게 설계해야 한다.
IDC 조사에서도 소버린 AI 도입을 가로막는 가장 큰 우려로 '적대적 공격 및 소버린 AI 모델의 보안 취약성(43.3%)'이 1위로 꼽혔다. 이는 보안이 개별 제품의 문제가 아니라 아키텍처 수준에서 풀어야 할 설계 과제임을 보여준다.
이를 해결하려면 '항상 의심하고, 항상 검증한다'는 제로 트러스트(Zero Trust) 원칙을 적용하고, 데이터와 AI 시스템의 전 과정에 대한 명확한 가시성을 확보하고 지속적으로 추적 및 감시를 병행해야 한다. 규제 환경과 정책이 바뀌더라도 접근 권한과 운영 기준을 유연하게 조정할 수 있어야 함은 물론이다. 이는 단순히 보안 강화를 넘어, 규제 리스크와 운영 중단 리스크를 선제적으로 줄일 수 있는 조치다.
둘째, 데이터의 민감도와 업무 특성에 따라 운영 방식을 달리해야 한다. 소버린 AI를 비롯한 AI 인프라 구축 방식에 단 하나의 정답이란 존재하지 않는다. 통제권과 보안성, 비용 효율성, 그리고 성능에 이르기까지 복합적인 요소를 입체적으로 저울질해야 한다. 국가 안보, 금융 거래, 의료, 개인정보 등 외부 노출이 허용되지 않는 핵심 데이터와 워크로드는 물리적으로 분리된 '에어 갭(Air-gapped)' 환경이나 조직이 직접 통제할 수 있는 독립적인 AI 환경에서 엄격하게 관리할 수 있다.
반면 보안 민감도가 상대적으로 낮거나 신속한 확장과 처리가 필요한 워크로드를 처리할 때엔 클라우드 기반의 환경을 도입해 비용 효율성과 비즈니스 민첩성을 높일 수 있다. 워크로드를 나누는 기준은 보안 하나에 그치지 않는다.
데이터 민감도와 규제 요건은 물론, 성능과 지연 시간, 비용, 확장성, 운영 연속성까지 종합적으로 고려해 각 워크로드에 가장 적합하고 효율적인 환경을 선택해야 한다. 이처럼 워크로드의 특성과 데이터의 민감도에 따라 온프레미스와 클라우드를 유연하게 조합하는 '하이브리드 소버린 AI' 아키텍처가 현실적인 대안이 될 수 있다.
셋째, 특정 기업이나 기술에 종속되지 않는 개방형 아키텍처를 기반으로 지속적인 확장이 가능하도록 해야 한다. 즉, 어떤 솔루션을 도입하더라도 데이터와 인프라의 통제권, 그리고 향후 기술 연계와 확장에 대한 주도권을 계속 유지할 수 있어야 한다는 뜻이다.
다양한 AI 모델과 기술을 필요에 따라 선택하고 연계할 수 있는 개방형 표준과 검증된 아키텍처가 장기적인 확장의 기반이 돼야 한다. 실제로 한국 리더들의 53.3%가 개방형 표준과 로컬 파트너십 등 생태계 참여도를 최우선 파트너 선정 기준으로 꼽았다.
이는 기술 선택 자체보다 생태계 적응력과 확장성을 중시하는 흐름을 보여준다. 지금의 기술 선택이 미래의 전환 비용을 과도하게 키워서는 안 된다. 새로운 모델과 도구가 등장하더라도 환경 전체를 다시 설계하지 않고 유연하게 수용할 수 있는 구조야말로 개방형 아키텍처가 표방하는 선택권과 확장성의 본질이다.
소버린 AI의 핵심은 AI를 더 책임있게, 더 크게 활용하기 위한 전략이다. 한국은 세계적 수준의 디지털 인프라와 높은 AI 수용성을 갖춘 시장이다. 이제 필요한 것은 AI 도입 속도만이 아니라, AI를 지속가능하게 운영할 수 있는 구조다.
소버린 AI 관점에서 설계된 AI 전략은 보안과 규제 대응은 물론, 경쟁력과 회복탄력성까지 함께 강화할 수 있다. AI의 미래는 단지 더 큰 모델이나 더 빠른 성능으로 결정되지 않는다. 누가 주도권을 가지고, 어떤 원칙 아래 AI를 운영하느냐가 앞으로의 경쟁력을 가를 것이다. 소버린 AI는 그 질문에 대한 가장 현실적이고 전략적인 출발점이 될 수 있다.
/최효경 기자(hyomirror@inews24.com)