[아이뉴스24 정승필 기자] 인공지능(AI) 개발 속도와 안전을 둘러싼 논의가 확산하는 가운데 마이크로소프트(MS)가 인간 중심의 AI 행동강령을 내놨다. AI가 스스로 목표를 세우거나 인간이 이해할 수 없는 방식으로 소통하는 것을 막는 내용이 담겼다.
MS는 14일(현지시간) 자사 홈페이지를 통해 AI 행동강령 초안을 공개했다.
강령에 따르면 MS의 AI 모델은 인간이 승인한 범위 안에서만 작동해야 한다. 스스로 목표를 설정하거나 부여받은 권한을 넘어 행동해서도 안 된다.
추론 과정이나 코드를 숨기거나 조작하는 행위도 금지된다. AI끼리 인간이 이해할 수 없는 언어로 소통하는 것도 허용하지 않는다.
AI를 사람처럼 설계하는 데도 선을 그었다. MS는 AI가 의식을 가진 것처럼 행동하거나 이를 흉내 내도록 만들어서는 안 된다고 했다.
AI가 법인격이나 권리를 요구하는 것도 인정하지 않겠다는 것이다.
무스타파 술레이만 MS AI 최고경영자(CEO)는 CNBC 인터뷰에서 AI가 인간을 대신하는 존재가 아니라 인간의 판단을 돕는 도구여야 한다고 설명했다.
그는 "AI는 항상 인간을 위해 일해야 한다"며 "사람의 자율성과 판단을 약화해서도 안 된다"고 강조했다.
술레이만 CEO는 이번 강령을 약 5개월 전부터 준비했다고 밝혔다. 최근 AI 개발 속도를 둘러싼 논의가 커지면서 공개 시점을 잡았다고 했다.
앞서 MS는 지난해 11월 술레이만 CEO가 이끄는 초지능 팀을 신설했다. 당시 '인간 중심 초지능(Humanist SuperIntelligence)'을 개발 방향으로 제시했다.
최근 AI 업계에서는 안전 문제를 이유로 개발 속도를 조절해야 한다는 주장이 잇따르고 있다. 다리오 아모데이 앤트로픽 CEO를 비롯해 주요 AI 기업 경영진과 연구자들이 위험 관리 필요성을 강조하고 있다.
MS는 이번 초안을 바탕으로 법학·윤리학·철학 전문가와 일반인의 의견을 받을 예정이다. 연말까지 최종안을 확정한 뒤 내년부터 개발·배포되는 차세대 AI 모델에 적용할 계획이다.
/정승필 기자(pilihp@inews24.com)