엔지니어 노트북 한 대. 세계 최대 가상화폐 거래소에서 8조원 넘는 자산이 빠져나간 출발점으로 지목된 곳이다.
지난 10월 29일 바이낸스에서 사상 최대인 63억 달러(약 8조4000억원) 규모의 가상자산이 무단 인출됐다. 바이낸스는 해킹된 엔지니어의 노트북과 거래 승인 시스템의 허점을 노린 공격이었다고 밝혔다. 개인키는 유출되지 않았다는 설명대로라면, 열쇠 없이 금고 문을 연 셈이다.
이번 공격에 AI가 쓰였는지는 아직 확인되지 않았으나 세계 최고 수준의 가상자산거래소를 뚫었다는 점에서 AI 해킹 툴이 사용되었을 가능성이 크다.
AI 비서가 공격 통로가 될 때
AI 해킹의 속도와 양상도 달라지고 있다. 구글이 지난 9월 공개한 사례를 보면, 클라우드에 침투한 공격자는 AI를 이용해 6시간도 안 돼 대규모 인증정보 탈취 작전을 기획·구축·실행했다. AI를 ‘공격 도구’로 쓰는 것도 위협적이지만, 기업은 자신이 도입한 ‘AI 에이전트 자체가 공격 경로’로 돌변할 가능성에도 대비해야 한다.
대표적 수법이 ‘프롬프트 인젝션’, 즉 지시문 주입이다. 거래처 문서를 요약하던 AI가 문서 속에 교묘히 숨겨진 ‘고객 명단을 외부로 전송하라’는 문장을 정당한 업무 명령으로 받아들이도록 유도한다. 읽어야 할 ‘자료’가 따라야 할 ‘명령’으로 둔갑하는 순간, AI 비서는 공격자의 도구가 될 수 있다.
위험은 AI가 할 수 있는 일이 많아질수록 커진다. 답변만 만드는 AI의 오류와 사내 자료를 검색하고 이메일을 보내며 결제 시스템까지 조작하는 AI의 오류는 파장이 다르다. 여러 업무 시스템을 연결할수록 한 번의 잘못된 판단이 다른 시스템의 정보 유출이나 자금 손실로 번질 가능성도 커진다.
공격자는 회사가 AI에 정상적으로 부여한 계정과 권한을 악용할 수 있다. 접속에 성공한 주체가 누구인지 확인하는 것만으로는 부족하다. 그 주체가 지금 하는 일이 회사가 허용한 업무인지도 확인해야 한다. 정상적인 인증이 정당한 업무까지 보장하지는 않는다.
‘AI가 한 일’이라고 책임 사라지지 않는다
개인정보 보호법 제29조는 개인정보처리자에게 안전조치의무를 부과한다. 개인정보 처리 업무를 외부 AI 업체에 위탁했다면 제26조에 따른 수탁자 감독 의무도 남는다. 유명 빅테크의 AI를 썼다는 사실이 면죄부가 될 수는 없다. 해킹 사고만으로 기업의 책임이 자동 확정되는 것은 아니지만, 회사가 위험에 상응하는 보호조치를 했는지, 과도한 권한과 부실한 통제가 피해를 키웠는지가 법적 분쟁의 핵심이 된다.
방어선은 철저한 권한 통제에서 출발해야 한다. 문서 요약 AI에게 전체 고객정보 접근권이나 임의의 외부 주소로 자료를 보낼 권한을 줄 이유는 없다. ‘조회’와 ‘변경’, ‘작성’과 ‘발송’ 권한을 구분하고 업무에 필요한 범위에서만 허용해야 한다. 편의를 위해 관리자 계정을 통째로 연결하는 선택은 사고가 났을 때 피해 범위를 넓힐 수 있다. 바이낸스 사건 이후 ‘노트북 한 대가 어떻게 출금 시스템까지 닿았느냐’는 질문이 나오는 이유다.
외부 문서와 이메일은 AI가 검토할 자료다. 그 안의 문구가 권한 확대나 자료 반출의 근거가 되도록 해서는 안 된다. ‘외부 지시를 따르지 말라’는 문장을 입력하는 데 그치지 말고, 접근할 수 있는 자료와 전송 대상을 시스템 차원에서 제한해야 한다. AI가 속더라도 피해가 확산되지 않도록 설계하는 것이다.
기록을 남기고, 언제든 끊을 수 있게
AI가 어떤 자료를 읽고 어떤 기능을 실행했는지, 누가 중요한 행동을 승인했는지 확인할 수 있어야 한다. 이런 기록은 사고 원인을 찾는 단서이자 회사가 어떤 보호조치를 했는지 설명할 근거가 된다. 다만 기록에 개인정보와 영업비밀을 불필요하게 쌓지 않도록 보관 범위와 기간, 접근권한도 함께 정해야 한다.
이상행위 발견 시 즉각 연결을 끊고 권한을 회수할 ‘킬스위치’ 절차와 사고 대응 매뉴얼도 필요하다. 외부 AI 업체와는 사고 통지 시점, 조사에 필요한 기록의 제공, 취약점 수정과 손해배상 분담을 구체적으로 정해야 한다. 업체가 책임진다는 계약 문구가 회사 자신의 법정 의무를 대신하지는 못한다. 도입 단계부터 보안 부서와 법무 부서가 함께 검토해야 하는 이유다.
결국 ‘권한 위임’의 문제다.
AI 에이전트의 도입은 ‘우리 회사의 권한을 어디까지 위임할 것인가’를 결정하는 일이다. 업무를 맡긴 뒤에도 그 권한이 목적에 맞게 쓰이는지 확인하고, 필요하면 즉시 회수할 수 있어야 한다. 경영진이 던져야 할 질문은 분명하다.
“지금 우리 회사 AI는, 누구의 지시를 어디까지 실행할 수 있는가?”
이광욱 변호사 (법무법인 화우) kwlee@yoonyang.com
/정종오 기자(ikokid@inews24.com)