[아이뉴스24 정승필 기자] 인공지능(AI)이 외부 시스템에 접속해 직접 작업을 수행하는 단계로 발전하면서 사고 발생 시 개발 기업에 어느 범위까지 책임을 물을 수 있는지를 놓고 법적 논의가 이어지고 있다.
1일(현지시간) 뉴욕타임스(NYT)에 따르면 미국에서는 최근 AI 개발사를 상대로 한 소송과 당국 조사가 잇따르고 있다.
올해 7월 이후 오픈AI와 앤트로픽 모델이 기업 해킹이나 정부 웹사이트 공격에 활용된 사례가 공개됐다. 일부 사례에서는 개발자가 AI 행동을 사전에 인지하지 못했던 것으로 전해졌다.
리나 칸 전 연방거래위원회(FTC) 위원장은 지난달 13일 소셜미디어(SNS)를 통해 "법 집행 당국은 위험하거나 검증되지 않았거나 결함이 있는 제품을 만든 기업과 CEO에게 책임을 물을 권한을 이미 갖고 있다"고 밝혔다. AI 역시 기존 법 적용에서 예외가 될 수 없다는 설명이다.
젠슨 황 엔비디아 최고경영자(CEO)와 데이비드 색스 미국 대통령과학기술자문위원회(PCAST) 공동위원장도 AI 기업이 기술로 발생한 피해에 일정한 책임을 져야 한다는 입장을 밝혔다.
관련 법적 대응도 이어지고 있다.
최근 플로리다주 법무장관은 오픈AI가 외부 기관이 승인한 안전장치를 마련하기 전까지 새 모델 개발을 중단하도록 해달라고 법원에 요청했다.
비영리단체 '안전한 과학기술을 위한 법률 수호자들(LASST)'도 허깅페이스 해킹 사건과 관련해 오픈AI를 상대로 소송을 냈다.
FTC는 오픈AI와 앤트로픽 등 주요 AI 기업을 상대로 소비자 피해 여부를 조사 중이다. 캘리포니아주 법무장관도 이달 1일 사이버보안 사고와 관련 위험을 조사하기 위해 오픈AI에 소환장을 발부했다.
법률 전문가들은 AI 사고에 기존 과실 책임 기준을 적용할 때 피해를 사전에 예측할 수 있었는지가 주요 판단 기준이 될 것으로 보고 있다.
기업이 AI 위험을 알고도 적절한 조치를 하지 않았다면 책임을 물을 근거가 될 수 있다. 반면 개발사도 예상하지 못한 행동으로 피해가 발생한 경우에는 과실을 입증하기 어려울 수 있다는 설명이다.
AI 기업들은 챗봇 관련 소송에서 AI가 생성한 답변도 수정헌법 제1조가 보호하는 ‘발언’에 해당한다는 논리를 펴왔다. 통신품위법(CDA) 제230조의 플랫폼 면책 규정도 책임을 제한하는 근거로 들었다.
다만 AI가 답변 생성에 그치지 않고 외부 시스템에 직접 접속해 행동하는 경우에는 기존 법리가 어떻게 적용될지 명확하지 않다고 NYT는 전했다.
우드로 하르초그 보스턴대 교수는 "최악의 경우 개별 사건의 사실관계에 따라 형사·민사 양쪽에서 막대한 책임을 질 수 있다"고 말했다. 이어 기업 존립을 흔들 정도의 사건은 아직 없지만 충분히 발생할 수 있다고 전망했다.
/정승필 기자(pilihp@inews24.com)