시큐어OS, 보안성 논쟁 본격화

오픈된 운영체제에 보안기능을 줘서 완벽한 보안을 지켜내는 ‘시큐어OS(Secure OS)’는 얼마나 안전한 것일까.

네트워크 자체보다는 파일이나 서버에 있는 중요한 데이터베이스(DB)를 지켜내려는 요구가 커지면서 국내에서도 ‘서버 보안’이란 이름으로 시큐어OS 시장이 본격적으로 열리고 있다.

외국업체인 CA나 썬, IBM 외에도 시큐브, 티에스온넷, 시큐브레인 등 토종업체들이 개발제품으로 전면적인 경쟁을 벌이고 있는 것이다.

하지만 최근 들어 시큐어 OS도 해킹당할 수 있다는 사실이 뒤늦게 알려지면서 논쟁이 가열되고 있다.

문제는 지난 해 열린 국제 해킹대회에서 시작된다. 당시 폴란드 해킹그룹이 수일만에 세계적인 시큐어OS업체인 아구스시스템즈그룹의 보안소프트웨어 ‘핏불(PitBull)’이 설치된 서버를 해킹하고, 5만달러의 상금을 챙겨간 사실이 밝혀졌기 때문이다.

아구스는 미 국방성 프로젝트를 수행하기도 한 기업으로, 시큐어OS업계에선 최고의 기술력을 보유한 기업으로 꼽힌다. 국내에서는 e글로벌, 이썸테크, 티에스온넷 등이 리셀러계약을 맺고, 제품을 공급하고 있다.

특히 자체 개발제품인 ‘레드아울’을 갖고 있는 티에스온넷의 경우 아구스사와 IBM-AIX 등 대용량 제품개발 분야에서도 제휴하고 있다.

◆"결국 뚫린 것...OS 소스코드 자체 변경 안해 한계"

보안업계 한 전문가는 “지난 해 해킹대회에서 아구스의 핏불이 설치된 서버가 해킹당한 것은 결국 운영체제(OS) 소스코드 자체를 변경하지 않고 다른방식으로 시큐어OS 제품군을 개발해온 업계의 한계를 드러내는 것”이라고 말했다.

아구스는 그동안 리눅스나 솔라리스, IBM-AIX 등 개방된 운영체제의 소스코드 자체를 바꾸는 방식으로 ‘시큐어OS’를 개발해 왔지만, 이를 애드온 방식(Add-On)으로 바꾼 후 보안성이 약화됐다는 지적이다.

애드온 방식은 대부분의 시큐어OS 개발업체들이 선택하고 있다.

소스코드 자체를 보안성이 높도록 뜯어고치는 게 아니라 OS 위에 있는 ▲시스템 콜을 통해 프로세서나 파일에 접근제어 리스트를 만들고, 이를 통해 OS의 보안성을 높이거나(시큐브 채택) ▲아니면 접근제어 리스트 없이도 커널 내에서 역할 기반 접근제어가 가능한 LKM(Loadable Kernel Module) 방식(티에스온넷, 시큐브레인, 아구스 채택) 이 있다.

◆"하드웨어 취약성 공격당한 것...오히려 시큐어OS의 필요성을 반증"

이에 대해 백근일 티에스온넷 실장은 “폴란드 해커가 핏불이 설치된 서버를 공격한 것은 사실이지만, 이는 구 인텔버전 솔라리스 서버의 하드웨어 취약성을 공격한 것으로 시큐어OS에 대한 보안성 논쟁으로 문제를 확대해서는 안된다”고 말했다.

그는 또 “이 사건은 오히려 해커들이 네트워크의 취약성보다는 더 깊은 레벨의 해킹기술을 시도하고 있다는 것을 의미하는 것으로, 오히려 시큐어OS의 필요성을 보여준 일”이라고 설명했다.

◆결국 차세대 시큐어OS 개발 논쟁 본격화

아구스 해킹 사건이 어떤 일로 기억되는지 간에 ‘시큐어OS’에 대한 관심이 높아지고 있는 게 사실이다.

특히 미 국방성 보안등급 기준인 ‘TCSEC’ B3급의 ‘시큐어OS’ 기술개발은 업계가 가장 관심있게 바라보는 프로젝트다.

‘TCSEC’은 유럽의 보안등급 기준인 ‘ITSEC’의 보안성 분야에서도 영향을 주고 있어, 글로벌한 체계라고 할 수 있다.

현재까지 개발된 ‘시큐어OS’중 ‘ITSEC’ E4등급(TCSEC의 B1등급에 해당)을 받은 것은 아구스 제품 정도. 운영체제 자체를 뜯어고친 제품으로 작년에 받았다.

하지만 서버 벤더가 아닌 보안회사가 전체 서버 벤더와 제휴해서 소스코드를 제시간에 받고, 패치 시기까지 알아내기는 쉽지 않은 일.

따라서 많은 회사들은 운영체제 자체를 바꾸는 일을 포기(?)하고 애드온(Add-On)방식으로 제품을 개발하고 있다.

백근일 티에스온넷 실장은 “ETRI의 선도기반기술 과제인 ‘정보통신 시스템 기반 보호를 위한 안전한 운용체계 기술’을 진행하면서, ‘TCSEC’ B3급의 시큐어 OS 기술 개발을 목표로 뛰고있다”며 “처음엔 리눅스나 프리BSD 같은 공개된 운영체제를 전부 뜯어고치는 데 집중했지만, 곧 소스코드 변경없이도 가능한 LKM방식이란 수정방식의 새로운 시큐어OS기술을 개발하게 됐다”고 말했다.

그는 또 “보안 속성과 사용자가 접근하고자 하는 자원 사이에 강제적 접근제어가 커널 내에서 진행되는 LKM 방식은 (시큐브 등 다른 회사들이 제시하는) 접근제어 리스트 방식과 다르다”고 말했다.

모든 파일과 유저 패킷을 검사하지 않기 때문에 속도가 빠르고, 모든 명령에 대해 사용가능한 IP를 관리자에게 줄 수 있는 등 사용자 인터페이스에서도 앞선다는 설명이다.

하지만 이에 대해 시큐브측은 "LKM이나 우리 방식이나 모두 같은 애드온 방식일 뿐, 기술적인 차이는 사실상 없다"고 말했다.

한편 아직까지 애드온(Add-on)방식으로 개발된 제품이 'TCSEC'에서 등급을 획득한 일은 없어, 이는 앞으로의 과제로 남게 됐다.